Захарьян Рубен Агасьевич родился 14 июля 1901 года в Тифлисе в семье ремесленника. Его отец Захарьян Агасий Агасьевич (1865—1943) был кустарём-сапожником, мать Залиньян Екатерина Артемьевна (1877—1927) — домохозяйкой[2]. В 1917—1922 занимался в училище живописи, скульптуры и зодчества при Кавказском обществе поощрения изящных искусств, преобразованном в 1921 в Тбилисскую Академию художеств. Обучался у профессоров Евгения Лансере, Бориса Фогеля и Егише Тадевосяна.
В 1923 по направлению Наркомпроса Грузии был командирован в Петроград для продолжения учёбы во ВХУТЕИНе. Занимался у Кузьмы Петрова-Водкина, Алексея Карева. В 1927 году Захарьян окончил институт, защитив дипломную работу «Физкультурники».
По окончании института работал художником в Репродукционных мастерских «Главнауки» в Ленинграде, затем на фабрике «Белгоскино». С 1926 года участвовал в выставках, экспонируя свои работы вместе с произведениями ведущих мастеров изобразительного искусства Ленинграда. Писал портреты, пейзажи, натюрморты, жанровые и исторические композиции, этюды с натуры. В 1929—1930 проходил действительную военную службу во 2-м автотранспортном батальоне в Ленинграде. После демобилизации работал художником в Политпросветцентре, в Горкоме Изо, выполняя заказы по договорам. В сентябре 1939 был вновь призван в Красную Армию, участвовал в войне с белофиннами, командовал ротой 59 отдельного батальона 24 стрелковой Самаро-Ульяновской дивизии. После демобилизации в ноябре 1940 вернулся в Ленинград. Работал в Ленизо, в январе 1941 был принят кандидатом в члены Ленинградского Союза художников.
В годы Великой Отечественной войны воевал в 388 автобатальоне 17-й автотранспортной бригады Ленинградского фронта, обеспечивал работу Дороги жизни, проложенной по льду Ладожского озера. В 1943 с частью был переброшен на Северо-Кавказский фронт в город Орджоникидзе, где закончил службу в декабре 1946 года. Был ранен, награждён медалями «За оборону Ленинграда», «За победу над Германией».
После демобилизации в конце 1945 года постепенно возвращается к творческой работе, восстанавливает утраченные за годы войны навыки. В 1951 году его принимают в члены Ленинградского Союза художников (с 1992 года — Санкт-Петербургского Союза художников). Живописную манеру отличают декоративность, обобщённый рисунок, внимание к отношениям тёплых и холодных тонов и передаче световоздушной среды. Колорит строится на отношениях основных цветов, в чём угадывается отдалённое влияние идей, культивировавшихся в период учёбы во ВХУТЕИНе.
В 1950—1980 годы неоднократно совершал творческие поездки в Армению, работал в домах творчества художников в Гурзуфе, Старой Ладоге, на Академической даче и Сенеже. Персональные выставки произведений Рубена Захарьяна состоялись в Ленинграде в залах Ленинградского Союза художников в 1974 и 1983 годах.
Захарьян Рубен Агасьевич скончался 25 мая 1992 года в Санкт-Петербурге на девяносто первом году жизни. Его произведения находятся в музеях и частных собраниях в России, Франции, Армении, Германии, Великобритании, США, Японии, Италии и других странах.