Яков Балглей родился в раввинской семье, некоторое время изучал медицину в Санкт-Петербурге, затем учился на архитектурном отделении Одесской рисовальной школы.
С 1911 года жил в Париже, где обучался архитектуре и философии. Как и многие другие молодые художники парижской школы Яков Балглей жил в известной коммуне «Улей» .
В 1920 году поступил в Школу декоративного искусства.Умер от сердечного приступа, похоронен на кладбище Пер-Лашез.