Постановление о присуждении Ленинской премии (1970) в экспозиции Музея МосквыРодился в армянской семье.
В 1918 году окончил факультет славянской филологии Петроградского университета. По представлению академика А. А. Шахматова был оставлен на кафедре русского языка для подготовки к научно-исследовательской работе.
В 1918—1922 годах преподавал русский язык в школах Пятигорска, Баку, Петрограда.
С 1926 года доцент, а с 1932 года профессор кафедры русского языка Ленинградского государственного университета.
В 1939—1940 годах — декан филологического факультета ЛГУ.
В 1950—1953 годах заведовал кафедрой русского языка Ленинградского педагогического института им. М. Н. Покровского.
В 1960—1970-е годы заведовал словарным сектором Института русского языка АН СССР. Был председателем редколлегии 2, 3 и 4 томов и членом редколлегии всех других томов академического «Словаря современного русского литературного языка» .
В 1970 году С. Г. Бархударову, наряду с другими редакторами, была присуждена Ленинская премия.Инициатор создания четырёхтомного академического словаря русского языка, был председателем редколлегии первого тома этого словаря.
В 1975—1979 годах возглавлял подготовку четырёхтомного «Словаря древнерусского языка» .Старший сын Леонид (1923—1985) — также является известным специалистом по русскому и английскому языку и литературе, а также теории перевода, автором ряда учебников и публикаций. Младший сын Алексей (1927—2001) — востоковед.