Из еврейской семьи.
В возрасте шести лет переехал с семьёй в Левочу ныне в восточной Словакии, но после смерти отца, учителя гимназии и филолога Симона Бауэра, с матерью вернулся в Сегед.
В 1902 поступил в Будапештский научный университет имени Петера Пазманя.
В общежитии Коллегиума Лоранда Этвёша его соседом по комнате был будущий композитор Золтан Кодай. Окончив университет в 1906, отправился продолжать учёбу за границей. Так, в Берлинском университете он посещал лекции Георга Зиммеля и других всемирно известных учёных.
В Берлине одновременно работал над своей первой книгой — «Эстетикой смерти» (венг. Halalesztetika)Первая публикация его стихов состоялась в 1908 в антологии «Завтра» (венг. Holnap Antologia).
В то время был последовательным поэтом-символистом, печатался в основанном Эндре Ади журнале «Запад» (венг. Nyugat).
В 1909 на сцене поставлено его первое драматическое произведение — пьеса «Доктор Маргит Сельпаль» (венг. Doktor Szelpal Margit).
В 1910 написал одноактную драму-мистерию в стихах «Замок герцога Синяя Борода» . По замыслу автора, пьеса была не только самостоятельным произведением, но и готовым оперным либретто для Золтана Кодая. Однако присутствовавший при чтении пьесы Бела Барток был настолько захвачен этим замыслом, что Балаж отдал этот текст ему. Так появилась единственная опера Бартока.
В 1911—1912 путешествовал по Европе, жил в Италии, Париже и Берлине; в это же время вышли первые сборники его стихов.
В 1914 добровольцем ушёл на фронт; его военные дневники, рисующие мрачные картины ужасающих армейских будней, увидели свет в 1916. Балаж, близко знакомый с большинством деятелей Венгерской коммунистической партии и участвовавший в «Воскресном кружке» Дьёрдя Лукача, наряду с такими деятелями венгерской культуры, как Бела Фогараши, Фредерик Антал, Арнольд Хаузер, приветствовал установление в Венгрии советской власти, вошёл в состав Директории революционных писателей и работал в Наркомате просвещения Венгерской советской республики. После разгрома режима эмигрировал из страны, выехав, подобно многим другим венгерским социалистам, в Вену, где сотрудничал в целом ряде немецко- и венгерскоязычных изданий, издавал поэзию, а также труды по киноведению (включая «Видимого человека» ).
С 1926 жил и работал в Берлине, где сотрудничал с Георгом Вильгельмом Пабстом и Эрвином Пискатором. Находясь в Германии, вступил в местную Компартию.
В конце 1930 по приглашению советских писателей уехал из Берлина в Москву.
В 1931—1945 годах Балаж жил в СССР, где мог свободно писать и ставить пьесы о периоде Венгерской советской республики, преподавал в киношколе.
С 1938 — ведущий сотрудник газеты «Новый голос» (венг. Uj Hang), издававшейся в Москве на венгерском языке.
В эти годы формировались его реалистические позиции, которые отразились в таких произведениях, как роман «Невозможные люди» (1930, на немецком языке, русский перевод вышел в 1930, а венгерская версия — в 1965 году), автобиографический роман «Юность мечтателя» (1948), пьеса «Моцарт» (1941), сборники стихов «Лети, моё слово» (1944), «Мой путь» (1945; премия имени Кошута, 1949).Балаж уделял немало внимания киноискусству. Ему принадлежат книги о кино «Видимый человек» (1924, на немецком языке, русский перевод опубликован в 1925, а венгерский вариант, «Lathato ember» , — в 1958 году), «Дух фильма» (1930, на немецком языке, русский перевод 1935 года), «Искусство кино» (1945).Балаж — автор нескольких киносценариев.
Он был одним из сценаристов таких фильмов, как «Трёхгрошовая опера» Г. В. Пабста по пьесе Бертольда Брехта, «Голубой свет» Лени Рифеншаль (1932), «Где-то в Европе» (1947, режиссёр — Геза фон Радваньи).Был близким другом философа-марксиста Дьёрдя Лукача.СемьяОтец — Симон Бауэр, преподаватель и переводчик.Мать — Йенни Бауэр (урождённая Леви), учительница.Брат — Эрвин Бауэр, советский биолог-теоретик.Сестра — Хильда Бауэр (1887—1965), педагог.