А. П. Грузинский родился 23 мая (5 июля) 1899 в Москве. Отец — мелкий железнодорожный служащий, мать — портниха.
С 1915 по 1917 год был студентом Университета имени Шанявского. Закончив городскую школу, с 1916 по 1919 год работал переписчиком на железной дороге.
В 1919 году был командирован на культработу в БАССР в город Стерлитамак.
В 1920 году был направлен в Московский Пролеткульт, где был студийцем до 1921 года.
В 1921 году поступил в Малый театр рабочим бутафорской мастерской, совмещая работу с обучением в Высшем театральном училище имени М. С. Щепкина.
В 1925 году окончил училище.
С 1 сентября 1921 года и до конца жизни — артист Малого театра, c 1933 года — педагог Высшего театрального училища имени М. С. Щепкина. Среди учеников: Т. П. Панкова, А. С. Покровская,С 1927 по 1931 год по совместительству с Малым театром работал в Центральном театре юного зрителя: актёром, режиссёром и инспектором сцены. Кроме того, Р. Н. Симонов привлекал его к своей работе в качестве сорежиссёра в Педагогическом театре (где сам Симонов работал по секрету, скрывая от дирекции Вахтанговского театра).Современники и партнёры по сцене отмечают, что при всём своём таланте и удачливой актёрской судьбе это был очень скромный застенчивый человек.А. П. Грузинский умер 9 января 1968 года. Похоронен на Введенском кладбище в Москве.