Православный. Из дворян Вологодской губернии. Сын действительного статского советника Федора Григорьевича Гилленшмидта.По окончании Пажеского корпуса в 1890 году, произведен был из камер-пажей в подпоручики 1-й конно-артиллерийской батареи с прикомандированием к Гвардейской конно-артиллерийской бригаде.
В следующем году был переведен в бригаду с тем же чином.Чины: поручик (1894), штабс-капитан (1898), капитан (1902), полковник (1903), генерал-майор (1912), генерал-лейтенант (1915).
С 1895 года состоял адъютантом 1-го дивизиона Гвардейской конно-артиллерийской бригады, с 1898 года — адъютантом бригады. 6 апреля 1903 года за отличие по службе произведен в полковники, с назначением командиром 1-й батареи Гвардейской конно-артиллерийской бригады, каковую должность занимал до 26 марта 1904 года.
В должности командира дивизиона Терско-Кубанского конного полка в составе вновь сформированной Кавказской конной бригады, участвовал в русско-японской войне. Был награждён несколькими орденами, в том числе орденом Святого Георгия 4-й степени за Хайченский набег и Золотым оружием «за храбрость» .14 января 1906 года назначен командиром Кавказского запасного кавалерийского дивизиона, а 7 июля того же года — командиром 44-го Нижегородского драгунского полка. 21 мая 1912 года за отличие по службе произведен в генерал-майоры, с назначением командиром 1-й бригады Кавказской кавалерийской дивизии. 8 июня 1912 года назначен командиром лейб-гвардии Кирасирского Его Величества полка. 6 мая 1913 года зачислен в Свиту.25 марта 1914 года назначен командиром лейб-гвардии Конной артиллерии, с которой вступил в Первую мировую войну. 29 сентября 1914 года назначен командующим 3-й Донской казачьей дивизией, а 11 октября того же года — командующим 2-й гвардейской кавалерийской дивизией.
В декабре 1914 года во время боев в Петроковской губернии командовал крупной кавалерийской группой, в состав которой вошли 1-я и 2-я гвардейские кавалерийские дивизии, Уральская казачья дивизия и Забайкальская казачья бригада. 13 мая 1915 года назначен командующим 4-го кавалерийского корпуса, а 7 мая 1916 года произведен в генерал-лейтенанты с утверждением в должности.
В конце 1917 года вывел свой корпус на Дон и перевел штаб в Ростов-на-Дону.
В январе 1918 года сдал командование А. П. Богаевскому и вступил в Добровольческую армию. Участвовал в 1-м Кубанском походе.
В апреле 1918 года при отступлении армии от Екатеринодара покинул её с небольшим отрядом, в колонии Гначбау попал в окружение и при попытке прорыва был убит в бою.