Родился в 1932 году в цыганской семье в селе Григоро-Бригадировка в Полтавской области, УССР. Выучился на шофёра.
На комбинат «Апатит» Алексей Михайлович попал уже в 17 лет, работал сначала электромонтёром, а затем, с 1955 года, — проходчиком (позже — бригадиром проходчиков) Кировского рудника.Владел многими профессиями, в том числе бурильщика, крепильщика, скрепериста, водителя шахтного электровоза.
В 1966 году за трудовые успехи и доблесть Ананьеву Алексею Михайловичу было присвоено звание Героя Социалистического Труда. Спустя 5 лет после награждения он отличился, добившись рекордной скорости прохождения на руднике — 72 метра в месяц.Комбинат «Апатит» был «семейным» предприятием Ананьевых, кроме самого Алексея Михайловича здесь работала взрывником его жена — Нина Павловна и здесь же работают четверо детей, внук и внучка героя.