Основоположник биогеографии мохообразных.Херцог учился во Фрейбурге, Цюрихе у Карла Шрётера и в Мюнхене у Людвига Радлькофера.Много путешествовал по миру с научными целями: в 1904 и 1906 годах — на Суматру, в 1905—1906 — на Цейлон, в 1907—1908 и 1910—1912 — в Южную Америку (Боливия, север Аргентины).
В 1914 году становится приват-доцентом Мюнхенского университета, в 1920 — профессором.
С 1925 года читал курс ботаники в Йенском университете.
В 1955 году Грайфсвальдский университет присвоил ему звание доктора honoris causa.Среди описанных им таксонов можно выделить роды: Eleutherostemon Herzog (семейство Ericaceae)Enneatypus Herzog (семейство Polygonaceae)Goethartia Herzog (семейство Urticaceae)Phyllogeiton Herzog (семейство Rhamnaceae)Rondonanthus Herzog (семейство Eriocaulaceae)Saccanthus Herzog (семейство Scrophulariaceae)