До 1942 года Р. Р. Гельгардт работал в ленинградском Институте языка и письменности АН СССР старшим научным сотрудником.
В 1942 году, как русского немца, его выселили в Казахстан, и только через несколько лет разрешили поселиться в Перми. Гельгардт стремился вернуться в Москву, но ему разрешили переехать только в Калинин (ныне Тверь).
В этом помогла его дружба с В. В. Виноградовым, хлопотавшим за него.
В Калинине Р. Р. Гельгардт работал в Калининском государственном университете, сначала на должности доцента кафедры русского языка, затем — профессора кафедры общего языкознания.