Родился 10 декабря (23 декабря по новому стилю) 1909 года в посёлке Шахты № 8 Екатеринославской губернии.
В 1925—1930 работал на шахтах Донбасса счетоводом, управляющим делами Чулковских шахт.
В 1935 году окончил Московский горный институт.
В 1935—1941 годах работал главным инженером шахты, комбината «Москвауголь» и треста Подмосковного бассейна (Тула).
В 1942—1946 годах был начальником угледобывающих комбинатов «Свердловскуголь» , «Донбассантрацит» , «Укрзападуголь» . Член ВКП(б)/КПСС с 1942 года.Затем находился на руководящих государственных должностях: 19461957 — заместитель министра угольной промышленности CCCP;19571960 — заместитель председатель Госплана РСФСР;19601965 — председатель Кемеровского, а затем Кузбасского совнархозов;19651978 — первый заместитель министра угольной промышленности CCCP.Также занимался общественной деятельностью — был депутатом Верховного Совета CCCP в 1962—1966 годах.Умер 9 января 1978 года в Москве. Похоронен на Новокунцевском кладбище, рядом с ним похоронен его сын — Графов Леонид Леонидович (1937—1985).