Из семьи священника.
В возрасте десяти лет его отдали в Скопинское духовное училище, а затем он продолжил учебу в Рязанской духовной семинарии.
В 1906 году поступил на историко-филологический факультет Казанского университета. Увлечение историей средневековья возникло у Грацианского под влиянием профессора В. К. Пискорского. Его студенческая работа в 1908 году была награждена историко-филологическим факультетом золотой медалью, впоследствии была напечатана под названием «Парижские ремесленные цехи в XIII—XIV столетиях» .
В 1910 году Грацианский завершил высшее образование, получив диплом 1-й степени.
С осени того же года был преподавателем истории Средних веков на Казанских высших женских историко-филологических курсах. Грацианский был оставлен на два года при кафедре всеобщей истории Казанского университета (специально по отделу Средневековья) с 1 января 1911 года.
В 1914 году Грацианский сдал магистерские экзамены и 17 июня того же года был принят в число приват-доцентов университета. Во время гражданской войны продолжал преподавать в Казанском университете, а 10 августа 1921 года был утверждён профессором.
В начале октября 1922 года приехал в Москву. Первоначально он преподавал на Пречистенских курсах.
В 1923 г. получил должность профессора кафедры всеобщей истории на педагогическом факультете 2-го МГУ.
В апреле 1923 года Грацианского избрали действительным членом Института истории РАНИОН, он работал в институте до его ликвидации 1 сентября 1929 года, а затем около года в Институте истории при Коммунистической академии. Затем работал профессором на западном отделении в Высшем педагогическом институте, выделившимся из 2-го МГУ, но отделение института было вскоре ликвидировано. Читал небольшие курсы по истории техники в различных втузах Москвы.
До 1932 года также преподавал в Калининском пединституте.После расширения преподавания истории в 1934 году стал преподавателем в двух педагогических институтах: Московском государственном и Городском, причем в обоих его утвердили заведующим кафедрой истории средних веков. Читал лекции в МИФЛИ, а также в Институте красной профессуры.
В 1935 году опубликовал свой крупнейший труд «Бургундская деревня в X—XII столетиях» , который подвергся критике за применение немарксистских методов исследования.23 февраля 1938 года по представлению Ученого совета МГПИ Аттестационная комиссия Всесоюзного комитета по делам высшей школы при СНК СССР утвердила его в степени доктора исторических наук без защиты диссертации.
В том же году руководство МГУ пригласило Грацианского на кафедру истории Средних веков.
В предвоенное время получила острое политическое звучание его статья «Немецкий Drang nach Osten в фашистской историографии» .
К концу 1942 года он подготовил монографию «Борьба славян и народов Прибалтики с немецкой агрессией в средние века» , которая была напечатана в сокращенном виде в 1943 году.Трагически погиб: убит двумя выстрелами 4 ноября 1945 года, когда он шёл от железнодорожной платформы Рассудово на свою дачу. Преступление осталось нераскрытым.Похоронен в Москве, на Введенском кладбище.