Пол Грингард родился в Нью-Йорке в еврейской семье (предки по отцовской линии происходили из Кёнигсберга в Восточной Пруссии, по материнской — из Российской империи). Его мать умерла при родах и с раннего детства, после вторичной женитьбы отца, он воспитывался в епископальной традиции.Во время Второй мировой войны 3 года прослужил в армии в качестве техника-электронщика. Работал в группе при Массачусетском технологическом институте, которая занималась приборами раннего оповещения, направленного против атак японских лётчиков-камикадзе. После войны, в 1948 году, окончил Гамильтон колледж (Клинтон (Нью Йорк)) с бакалавриатом по математике и физике и заинтересовался биофизикой. Грингард делал диссертационную работу в лаборатории Холдена Кеффера Хартлайна (лауреата Нобелевской премии по медицине 1967 года) в университете Джонса Хопкинса (Балтимор), где слушал лекции Алана Ходжкина (лауреата Нобелевской премии по медицине 1963 года).После получения степени доктора философии Грингард провёл около 6 лет (1953—1959) в различных университетах Великобритании (Университет Лондона, Кембриджский университет, Национальный институт медицинских исследований[en]) и США (Национальный институт здоровья).
В 1961—1970 годах работал профессором фармакологии в Медицинском колледже Альберта Эйнштейна, в 1968—1983 годах был профессором фармакологии и психиатрии Йельского университета.
С 1983 года работает профессором Рокфеллеровского университета.
На полученную с Нобелевской премией денежную сумму (около 400 тысяч долларов) Пол Грингард основал премию имени Перл Майстер Грингард[en], названную так в память матери учёного, которая умерла при родах. Сумма премии составляет 50 тысяч долларов. Премия ежегодно присуждается женщинам за выдающиеся достижения в области биомедицинских исследований.