С 1755 года обучался музыке в университете Йены, где был хормейстером, принимал активное участие в работе общества «Коллегиум музикум» , в котором ему была предоставлена возможность исполнять свои собственные композиции.После пребывания в Лейпциге и Наумбурге переехал в Веймар, где был нанят преподавателем игры на фортепиано к герцогине Саксен-Веймар-Эйзенахской Анне Амалии Брауншвейгской.
В 1761 году он был назначен концертмейстером и органистом в придворной часовне. Служил первым скрипачом в герцогской капелле в Веймаре.
С 1772 года получил место руководителя придворной капеллы.
В 1770 году он женился на дочери богемского скрипача Фр. Бенда Марии Каролине, пианистке, певице и композиторе. Пара провела успешный концертный тур в Берлин, где Фридрих II предложил Вольфу должность при прусском дворе, освобождившуюся после ухода Карла Филиппа Эммануила Баха, но Вольф, по-видимому, по настоянию своей жены, отказался от этого предложения.После пережитого инсульта, здоровье Вольфа начало ухудшаться, и в конце 1792 года композитор умер.