Михаил Гаспаров родился 13 апреля 1935 года в Москве. Его мать, Елена Александровна Ниренберг (1909—1991, в молодости взяла фамилию матери — Будилова, под которой прожила всю жизнь), работала редактором в журнале «Безбожник» (впоследствии доктор психологических наук, научный сотрудник Института психологии АН СССР). Отцом Гаспарова предположительно был религиовед Дмитрий Ефимович Михневич, также служивший в журнале «Безбожник» , затем в редакции журнала «За рубежом» , а впоследствии в издательстве АН СССР. Муж матери, горный инженер Лео Арсентьевич Гаспаров, армянин из Нагорного Карабаха; Ниренберг и Гаспаров развелись, когда Михаил был ещё ребёнком.Окончил среднюю школу № 12 г. Москвы (1952) и классическое отделение филологического факультета МГУ (1957); одногруппник пушкиниста В. С. Непомнящего. Кандидат филологических наук (1963, диссертация «Античная литературная басня» ), доктор филологических наук (1979, в качестве диссертации представлена монография «Современный русский стих: метрика и ритмика» ), член-корреспондент АН СССР с 15 декабря 1990 года по Отделению литературы и языка (литературоведение), академик РАН с 11 июня 1992 года.
В 1957—1990 годах — сотрудник сектора античной литературы ИМЛИ АН СССР, в 1971—1981 годах — руководитель сектора, участвовал в работе Московско-тартуской семиотической школы и математико-филологического кружка академика А. Н. Колмогорова. Один из организаторов и профессор кафедры истории и теории мировой культуры философского факультета МГУ (1990—1994 и с 1997), преподавал также в Литературном институте им. А. М. Горького.
С 1990 года — главный научный сотрудник сектора стилистики и языка художественной литературы Института русского языка РАН, с 1992 года одновременно работал в Институте высших гуманитарных исследований РГГУ.
В 2002—2005 годах заведовал отделом структурной лингвистики и лингвистической поэтики ИРЯ РАН, сменив на этой должности В. П. Григорьева. После смерти Михаила Леоновича отдел был объединён с отделом машинного фонда и преобразован в отдел корпусной лингвистики и лингвистической поэтики; его заведующим стал В. А. Плунгян.Лауреат Государственной премии России в области литературы (1994, за книги «Авсоний. Стихотворения» и «Русские стихи 1890-х — 1925-го годов в комментариях» ), премии «Иллюминатор» (1995), Малой премии Букера (1997; за сборник «Избранные статьи» ), премии Андрея Белого (1999; за книгу «Записи и выписки» ).
В 2004 году М. Л. Гаспарову была присуждена академическая премия им. А. С. Пушкина за «Избранные труды» (том 1 «О поэтах» ; том 2 «О стихах» ; том 3 «О стихе» ).Председатель Мандельштамовского общества, главный редактор «Мандельштамовской энциклопедии» ; многолетний член редколлегий «Литературных памятников» , «Трудов по знаковым системам» , «Библиотеки античной литературы» , реферативного журнала «Литературоведение» , журналов «Вестник древней истории» , «Arbor Mundi» («Мировое древо» , Москва, РГГУ), «Elementa» (США), «Rossica Romana» (Италия) и др.По словам литературоведа Омри Ронена, «Гаспаров был человек твердых мнений и расставаться с ними не любил» .
В последние годы М. Л. Гаспаров опубликовал, помимо традиционных, ряд «экспериментальных» переводов («Неистового Роланда» Л. Ариосто, французской и немецкой поэзии XVIII—XX веков), вызвавших неоднозначные оценки.10 апреля 2005 года, за три дня до своего семидесятилетия, принял крещение по православному обряду. Умер 7 ноября 2005 года. Похоронен рядом с матерью на Миусском кладбище в Москве.СемьяС 1954 года был женат на редакторе Алевтине Михайловне Зотовой (род. 1934); дочь — психолог Елена Гаспарова-Волкова (род. 1956), сын Владимир — переводчик. Троюродные племянники — философ Н. С. Автономова и экономист В. С. Автономов.