Отто Гиппиус родился в семье художника и литографа Густава Адольфа Гиппиуса, который обучал сына с раннего возраста творческим дисциплинам.
В подростковом возрасте Отто Гиппиус учился в Германии, окончив в 1849 году Политехникум Карлсруэ с золотой медалью.
С 1849 по 1851 год он учился в Императорской Академии художеств в Санкт-Петербурге, после завершения которой продолжал работать архитектором и педагогом в нескольких художественных училищах.
В 1864 году Гиппиус стал членом Российской академии наук, с 1879 года имел звание профессора.Его младший брат Карл тоже стал известным архитектором.