Получив образование в гимназии Мюндена, Гротефенд посвятил себя классической филологии.
С 1797 года он стал сотрудником городской школы Мюндена.
В 1803 году он стал проректором городской гимназии Франкфурта (в настоящее время — Франкфуртская гимназия им. Лессинга), позднее — соректором гимназии в 1806—1821 годах.
В 1812—1814 годах он одновременно являлся профессором классической литературы в Lyceum Carolinum, одном из университетов, основанных великим герцогом Карлом Теодором Дальбергским во Франкфурте.
В 1819 году он стал одним из учредителей «Общества древней истории Германии» (Gesellschaft fur Deutschlands altere Geschichtskunde), которое осуществило издание Monumenta Germaniae Historica.
В 1821 году он стал директором лицея в Ганновере.
В 1802 году ему удалось в течение всего нескольких недель расшифровать открытую в 1621 году надпись из Персеполя, которую опубликовал Карстен Нибур. Предлогом стало заключённое с знакомым пари, что он сможет дешифровать совершенно неизвестную ему ранее систему письма.Как преподавателю древнегреческого языка, Гротефенду были известны имена персидских царей (правда, он ориентировался на их написание в Авесте — это оказалось ошибкой, в древнеперсидском те же имена звучали несколько иначе). Хронологически сопоставив предполагаемые имена царей в клинописных текстах с известными ему именами царей, он прочёл имена Ксеркса, Дария и Гистаспа.Также Гротефенд известен тем, что разоблачил как подделку «Древнюю историю финикийцев» Санхуниатона (Hannover 1836).Гротефенд ушёл на пенсию в 1849 году и умер 15 декабря 1853 г. в Ганновере. Похоронен на Садовом кладбище (Мариенштрассе).Г. Ф. Гротефенд был отцом историка Карла Людвига Гротефенда (1807—1874) и дедом архивариуса и хронолога Германа Гротефенда (1845—1931).
В его родном городе Ганноверш-Мюндене, во Франкфурте-на-Майне, Гамбурге, в Гёттингене и в Ганновере его именем названы улицы. Гимназия его родного города Мюндена (Ганновер) носит с 1976 года его имя.