Сын генерала Дмитрия Ивановича Ахшарумова.Воспитывался в первой Петербургской гимназии, по окончании которой в 1842 году поступил на восточный факультет Санкт-Петербургского университета.По окончании университета со степенью кандидата, поступил в Министерство иностранных дел. Его друг И. М. Дебу познакомил его с М. В. Буташевичем-Петрашевским и с весны 1848 года Ахшарумов стал посещать собрания его кружка. Члены кружка вскоре были арестованы; Ахшарумов был сослан в арестантские роты инженерного ведомства на четыре года, а затем рядовым на Кавказ.
В 1856 году он был прапорщиком.
В 1857 году, тридцати четырёх лет, он поступил в Дерптский университет на медицинский факультет, но вскоре перевёлся в Медико-хирургическую академию, которую окончил в 1862 году с серебряной медалью.
В 1866 году получил степень доктора медицины. Служил в военных госпиталях, а с 1873 по 1882 годы он был Полтавским губернским врачебным инспектором. По его инициативе в Полтаве было организовано «Общество врачей» и он был первым его председателем.