Сын бедного пастора. Карл Вайнхольд с 1842 г. изучал протестантскую теологию и филологию в Силезском университете Фридриха Вильгельма в Бреслау (ныне Вроцлав), где слушал лекции Теодора Якоби.
В 1845 году он перешел в Гумбольдтский университет Берлина. Через год он получил докторскую степень в Университете Халле после защиты диссертации с интерпретацией прорицания вёльвы.
В 1849 г. он вернулся в Бреслау на должность доцента и преемника Якоби.
В 1850 году он стал профессором в университете Кракова. Через некоторое время большой пожар уничтожил часть города и его жертвой пали некоторые документы, в том числе первый сборник германских саг, с которым работал Вайнхольд. После того как он отклонил предложение Венского университета по религиозным соображениям, в 1851 г. он перешел из Кракова в Грацский университет. Там он работал над предложенными Гриммом исторически мотивированными нормами орфографии.
В это же время вышла его книга «История немецких женщин в Средневековье» (Geschichte der deutschen Frauen in dem Mittelalter).Из Австрии он перебрался в княжество Гольштейн, работал в Кильском университете. После 15 лет отсутствия Вайнхольд вернулся как преемник Генриха Рюккерта в Бреслау. Здесь он смог, так же как и в Киле, создать первый семинар германистики.
В 1879—1880 годах он был ректором университета.Наконец, в 1889 г. он оказался в Берлине, духовном центре Германской империи, где снова был ректором. Как почетный член Королевской Прусской академии наук (Koniglich-Preuische Akademie der Wissenschaften) Вайнхольд занимался синтаксисом и лексикологией.
Он с 1896 г. входил в редакционный комитет немецкого юридического словаря и ввел для него слова древнего германского права. Кроме того, он был членом Берлинского общества антропологии, этнологии и предыстории (Berliner Gesellschaft fur Anthropologie, Ethnologie und Urgeschichte), а также до самой смерти редактировал основанный им же этнографический журнал «Zeitschrift des Vereins fur Volkskunde» .После своей смерти в возрасте 77 лет Вайнхольд оставил большое научное наследие, которое хранится в архиве Академии наук для дальнейших исследований.