Родился в Хаунгине (часть г. Лёрраха), где его отец служил пастором. Изучал богословие в Гейдельберге у Паулюса, в Галле у Гезениуса и в Гёттингене у Эвальда. Вернувшись в Гейдельберг, стал приват-доцентом богословия в 1829 году.
В 1831 году опубликовал труд Begriff der Kritik am Alten Testamente praktisch erortert, посвященный критике Ветхого Завета и Des Propheten Jonas Orakel uber Moab, толкование на 5 и 16 гл. книги пророка Иссаи, которого он отождествлял с пророком Ионой, упоминаемого в (2Цар. 14: 25). Главным трудом Гитцига была «История израильского народа» (Geschichte des Volkes Israel, Bd. 1—2, Lpz., 1869).