Родился в деревне Курганы — ныне Кировского района Могилёвской области Республики Белоруссия.Служил в Русской императорской армии с 1916 года по 1917 год, курсант — Псковской школы прапорщиков, прапорщик. Участник Первой мировой войны, командир полуроты гренадерского полка Западного фронта.
В Красной Армии с ноября 1918 года.
В Гражданскую войну А. Г. Батюня воевал на Западном фронте, командовал взводом, ротой, батальоном в 150-м стрелковом полку 17-й стрелковой дивизии (1918—1921 годы).
В 1921 году окончил Высшие стрелковые повторные курсы комсостава в городе Смоленск.После войны командир батальона, роты, помощник начальника штаба 5-го стрелкового полка, с ноября 1930 года — начальник отделения штаба 4-й стрелковой дивизии в Белорусском военном округе. По окончании Военной академии РККА имени М. В. Фрунзе с мая 1934 года в Московском военном округе — начальник 1-й части штаба 84-й стрелковой дивизии, а с марта 1938 года — начальник штаба 55-й стрелковой дивизии.
С августа 1938 года начальник штаба 39-я стрелковой дивизии 1-й Отдельной Краснознамённой армии на Дальнем Востоке. А с ноября — командир 32-й стрелковой дивизии там же.
В марте 1941 года назначен начальником штаба 48-го стрелкового корпуса Одесского военного округа.