Родился в еврейской семье уроженцев Австро-Венгрии: отец родом из Черновиц, мать — из Праги, оба до эмиграции во Францию жили в подмандатной Палестине. Отец погиб в начале Второй мировой войны, а мать присоединилась к движению Сопротивления.Учился в Лионе, затем в Эколь-Нормаль. Политолог, специалист по военным проблемам.
В 1968 опубликовал свою первую книгу «Рассуждения о войне» (Le Discours de la Guerre), участвовал в студенческих бунтах мая 1968 года.
В 1970 стал выступать в поддержку диссидентов в социалистических странах.
На формирование мировоззрения Глюксманна и возглавленной им группы «новые философы» (куда входили также Б.-А. Леви, Ж.-П. Долле и др.) оказала влияние личность А. Солженицына и его книга «Архипелаг ГУЛАГ» .
В 1975 году опубликовал свою самую известную работу «Кухарка и людоед, рассуждения о государстве, марксизме и концлагерях» (La Cuisiniere et le mangeur d"hommes, reflexions sur l"Etat, le marxisme et les camps de concentration), где провёл параллель между нацизмом и коммунизмом, утверждая, что марксизм с необходимостью ведёт к тоталитаризму.Несмотря на своё бывшее левачество, в своих публикациях, как правило, симпатизирует политике США, особенно во время Иракского конфликта, обвинял Саддама Хусейна в том, что тот скрывает оружие массового поражения. Поддержал, вместе с рядом других французских интеллектуалов, военную операцию НАТО в Сербии в 1999 г. Выступал в поддержку чеченских сепаратистов, полгода нелегально провёл в Чечне, организовал известное турне представителей чеченских сепаратистов по Франции. Писал критические по отношению к российским властям статьи в газете Ле Монд (Le Monde).Умер 10 ноября 2015 года в Париже. Похороны прошли 13 ноября 2015 года на кладбище Пер-Лашез .Сын — журналист и кинорежиссёр-документалист Рафаэль Глюксманн. Невестка — Екатерина Згуладзе.