Из крестьянской семьи. Отец занимался кузнечным ремеслом, а мать владела небольшими кирпичными сараями.
С детских лет Болдырев помогал отцу в кузнице, а матери — в кирпичном сарае.Первоначальное образование получил в приходской, а затем четырёхклассной городской школе.
В 15 лет выехал в Пензу, где поступил в Пензенское землемерное училище, которое окончил в 1893. Скопив денег, Болдырев поехал в Петербург, где сдал экзамены и поступил в военно-топографическое училище, которое окончил по 1 разряду.
В 1895 году был выпущен подпоручиком (ст. 23.09.1895) в корпус военных топографов.Проведя три года на военно-топографических съёмках в Эстляндии и Лифляндии и прослужив полтора года в Красноярском полку в Юрьеве, поступил в Николаевскую академию Генерального штаба.
В 1903 году окончил академию по первому разряду.Русско-японская войнаУчастник русско-японской войны. Был ранен в ногу при штурме Новгородской (Путиловской) сопки на реке Шахэ. Оправившись от раны, вернулся на фронт, где пробыл до окончания войны. Обер-офицер для особых поручений при штабе 4-го армейского корпуса (08.12.1904-28.10.1906).Межвоенный периодC 28 октября 1906 — старший адъютант штаба 18-го армейского корпуса.
С 8 сентября 1907 — ст. адъютант штаба 20-го армейского корпуса. Подполковник (ст. 06.12.1908).
С 29 марта 1909 — штаб-офицер для поручений при штабе 20-го арм. корпуса.
С 1911 преподавал в Академии Генерального штаба.
В 1914 защитил диссертацию на тему «Атака укрепленных позиций» , после чего был назначен экстраординарным профессором.Первая мировая войнаКомандование Северного фронта. Болдырев стоит первый слева. Конец 1916—начало 1917 гг.
В августе 1914 выступил на фронт в качестве и.д. начальника штаба 2-й гв. пехотной дивизии. За бои в октябре 1914 под крепостью Ивангород награждён Георгиевским оружием (ВП 31.01.1915), а за бои под Едвабно в 1914-15 — орденом Св. Георгия 4-й степени (ВП 29.05.1915).
С 8 марта 1915 — командир 30-го пехотного Полтавского полка. Генерал-майор (ст. 26.06.1915).
С 29 февраля 1916 — генерал для поручений при командующем 4-й армией, с 8 сентября 1916 — генерал-квартирмейстер штаба армий Северного фронта.РеволюцияПосле Февральской революции 19 апреля 1917 назначен командиром 43-го армейского корпуса. Генерал-лейтенант (29.04.1917). 9 сентября 1917 сменил генерала Ю.H. Данилова на посту командующего 5-й армией..После Октябрьской революции 12 ноября 1917 г. в Двинск, где находился штаб 5-й армии, приехал назначенный большевиками Верховным главнокомандующим Н. В. Крыленко. Болдырев отказался явиться к Крыленко и по приказу большевистского командующего был арестован отрядом ВРК за непризнание советской власти. Находился в заключении в Трубецком бастионе Петропавловской крепости и в «Крестах» . Был освобожден 2 марта 1918 года по амнистии.
В 1918 году входил в руководство «Союза возрождения России» , член «Национального центра» .Генерал Казанович, отправленный вождем Добровольческой армии ген. Алексеевым в Москву для установления связи с антибольшевистскими военными организациями, так описал свою встречу с Болдыревым летом 1918 года: Около этого времени я познакомился с генералом Болдыревым.
Он показался мне дельным человеком, и я убеждал его признать главенство генералов Алексеева и Деникина и работать вместе для общего дела. Генерал Болдырев мне ответил, что не может этого сделать так как связан с партией (меньшевиками)...От него я узнал о движении, подготовляемом на Средней Волге. Из его слов можно было заключить, что там собраны уже значительные силы.Гражданская войнаВ начале августа 1918 года Болдырев прибыл в Самару.
На Уфимском государственном совещании Болдырев был выбран одним из 5 членов Временного Всероссийского правительства (Уфимской директории).Во время ноябрьских событий в Омске один из членов Кабинета министров предложил его кандидатуру на пост Верховного правителя России, без ведома и согласия самого Болдырева. После событий 18 ноября и прихода к власти адмирала А. В. Колчака Болдырев отказался от командования и 28 ноября выехал в Японию, получив от казны пособие в 50 тысяч франков. Колчак послал Д. Л. Хорвату специальную телеграмму с просьбой беспрепятственного пропуска генерала, его личного секретаря и 2-х адъютантов в Японию. Последним его делом на посту Верховного главнокомандующего стал приказ о присвоении чина генерал-майора полковнику В. О. Каппелю.
До января 1920 г. Болдырев встречался и вёл переговоры с японскими военными и правительственными чиновниками, знакомился с устройством военного обучения в Японии.Вернулся в начале 1920 г. во Владивосток, где 23 марта 1920 года был назначен на должность председателя комиссии при военном совете Приморской областной земской управы по разработке военных и военно-морских законопроектов. Командующий сухопутными и морскими силами Дальнего Востока (08.04. — 12.12.1920). Член военного совета Временного правительства Дальнего Востока (с 17.04.1920).
В этом качестве подписал русско-японское соглашение о "нейтральной зоне" (29.04.1920). Председатель особого комитета по организации работы для демобилизуемых военнослужащих (с 28.05.1920). Управляющий военными и морскими делами Временного правительства Дальнего Востока (с 01.07.1920). 1 июля 1920 г. был назначен командующим всеми вооружёнными силами Дальнего Востока (отметив в дневнике, что подлинным «хозяином положения было тогда Дальбюро компартии» ).
На этом посту Болдырев сотрудничал с С. Лазо, работал в комиссии по роспуску частей старой армии, вёл переговоры с остатками прибывшей в Приморье Каппелевской армии об устройстве их на службу. После прихода к власти в конце 1920 года правительства во главе с большевиком Антоновым ушёл в отставку.Председатель российской делегации по Русско-японской согласительной комиссии (с 1 июня 1921). Член (с 07.07.1921), товарищ председателя (с 26.07.1921) Приамурского народного собрания.
В СССРОстался во Владивостоке и после его захвата Красной армией 5 ноября 1922 был арестован.
В тюрьме заявил о своей готовности служить советской власти. Летом 1923 был амнистирован.Занимался преподавательской деятельностью. Работал в Новосибирске в Сибирской плановой комиссии консультантом, а с 1927 года — руководителем конъюнктурного бюро. Председатель секции «Недра» Общества изучения Сибири. Осенью 1928 года был уволен с работы в крайплане. Работал научным сотрудником Западносибирского института промышленных экономических исследований.Член авторского коллектива Сибирской Советской энциклопедии.29 декабря 1932 (по другим данным в августе 1933) арестован по подозрению в контактах с японской разведкой, по другим данным — по обвинению в организации контрреволюционного заговора. Расстрелян 20 августа 1933 года.