Вихерт родился в прусской провинции Тильзит в семье Иоганна и Эмили Вихерт.После смерти отца мать с сыном переехали в Кёнигсбёрг (теперь Калининград) для того, чтобы юный Вихерт мог учиться в университете. Из-за финансовых проблем обучение затянулось, но Вихерт сумел в 1889 году получить степень доктора философии Кёнигсбергского университета, где и работал.
На следующий год он получил право читать лекции по физике.
До 1897 года Вихерт преподавал и проводил исследования в Кёнигсбёргском университете под руководством Пауля Фолькманна.
С 1898 года, после приглашения, он работал в университете Гёттингена: сначала помощником Вольдемара Войгта, а с 1898 года — в должности доцента геофизики — директором Геофизической лаборатории.
С 1905, став профессором, Вихерт проработал в лаборатории до конца карьеры. Член-корреспондент Берлинской АН (1911), иностранный член-корреспондент Петербургской АН (1912).Вихерт был женат на Хелене Зибарт, дочери юриста, но детей они не имели. Независимо от Дж. Дж. Томсона открыл электрон. Внёс значительный вклад в физику катодных лучей.Студентам-физикам известен в паре с Альфредом-Мари Лиенаром по выражению дляпотенциалов электромагнитного поля, названного их именем (потенциалы Лиенара—Вихерта).Вихерт — автор многих научных работ, в том числе передовых исследований сейсмических волн.Работы Вихерта относятся к электродинамике, изучению рентгеновских и катодных лучей, геофизике, теории относительности. Независимо от Дж. Стокса развил первые теоретические представления о происхождении открытых В. Рёнтгеном икс-лучей (1896). Разработал метод прямого определения скорости частиц катодных лучей (1899), определил их удельный заряд (опыт Вихерта).Геофизические работы посвящены исследованию распределения масс внутри Земли, формы Земли, земного магнетизма, землетрясений, изучению распространения сейсмических волн при землетрясениях. Разработал теорию автоматических сейсмографов и теорию микросейсмических явлений.
В 1897 году установил существование ядра Земли. По инициативе Вихерта в 1922 году было основано Немецкое сейсмологическое общество (ныне Немецкое геофизическое общество); он же был его первым председателем.