Родился в небогатой крестьянской семье, работал учителем в сельской школе. Украинец.
С началом Первой мировой войны мобилизован и отправлен в Одесское военное училище, которое окончил в 1916 году. По окончании обучения отправлен на Румынский фронт, где в звании поручика командовал ротой 260-го пехотного полка.После Февральской революции 1917 года был избран членом полкового комитета, а затем председателем исполкома солдатских депутатов в Кишинёве.
В феврале 1918 года вступил в ВКП(б). Служил комендантом района Особой армии Одесского военного округа (январь-август 1918 года), помощником военрука Воронежского губвоенкомата (август—октябрь 1918 года), начальником административного отдела штаба 9-й армии (октябрь 1918 — июнь 1919 года). Участвовал в боях с румынскими и немецкими оккупационными войсками в Бессарабии и на Украине.
С июня 1919 года начальник штаба (c 18.08 по 19.10 врид начальника) 45-й стрелковой дивизии.
С апреля 1921 года начальник штаба командующего вооружёнными силами Украины и Крыма, с июня 1921 года начальник штаба 3-й Казанской стрелковой дивизии.
С марта 1922 года помощник командующего войсками Киевского военного округа.
С мая 1922 года командир 45-й стрелковой дивизии.
В 1923 году окончил военно-академические курсы усовершенствования.
С июля 1924 по декабрь 1927 года командовал 8-м стрелковым корпусом, затем возглавлял Командное управления Главного управления РККА.
С мая 1930 по июль 1931 года командовал 14-м стрелковым корпусом.
С июля 1931 года помощник, затем заместитель командующего Ленинградским военным округом.
В 1932 году возглавлял делегацию РККА на маневрах рейхсвера.
В мае 1935 года назначен командующим войсками вновь созданного Уральского военного округа и членом Военного Совета при Наркоме обороны СССР. 20 ноября 1935 года присвоено воинское звание комкор. Участник февральско-мартовского Пленума ЦК ВКП(б) в 1937 году. Член ВЦИК и ЦИК СССР.11 марта 1937 года арестован вместе со своим заместителем, комкором М. И. Василенко, по «делу Тухачевского» признал себя виновным, несмотря на ходатайство Якира 1 июля был осуждён и в тот же день расстрелян на «Коммунарке» . Полностью реабилитирован в 1956 году.