Мирза Бабаев родился 16 июля 1913 года в Баку на улице Сабира в семье нефтяного агента. Его мать Сона-ханум Ханларова происходила из потомственной бекской семьи. Обучался в художественной школе.
В 1939 году он окончил Азербайджанский индустриальный институт.
В 1948 году Бабаев поступил в Азербайджанскую государственную консерваторию, где учился в классе певца Бюльбюля и оканчивает её по специальности вокала в 1953 году.