Представитель шляхетского рода, Бэлза провёл детство в Варшаве. Во время Первой мировой войны семья переехала в Киев, где он в 1922—1925 годах учился в Киевской консерватории по классу композиции Бориса Лятошинского. Позднее изучал филологию в Киевском университете, преподавал в консерватории в 1925—1941 годах, с 1936 года — профессор.
В 1941 году переехал в Москву, где два года спустя стал профессором Московской консерватории (до 1949 года).
В годы борьбы с космополитизмом подвергался критике за «низкопоклонство» и формализм. Работал также в институте истории искусств (1954—1961), был заведующим отделом культуры в Институте славяноведения и балканистики АН СССР (с 1961 года).
В 1954 году Бэлзе была присуждена степень доктора искусствоведения за диссертацию по чешской классической музыке. Был избран почётным доктором Пражского университета (1967 год), Музыкальной академии имени Шопена в Варшаве (1983 год), почётным членом иностранных музыкальных и литературных обществ[источник не указан 1331 день].Бэлзе принадлежат работы по истории чешской и польской музыки, а также монографии посвящённые русским композиторам и писателям.
Он также является автором четырёх симфоний, пяти фортепианных и двух виолончельных сонат, струнного квартета, музыки к спектаклям и кинофильмам.
С 1965 года Бэлза возглавлял Дантовскую комиссию АН СССР, входил в состав Пушкинской комиссии. Похоронен в Москве на Ваганьковском кладбище (участок № 41).