Родился в гарнизонном городке Кречевицы возле Новгорода (теперь — микрорайон Великого Новгорода) в семье капитана лейб-гвардии Драгунского полка Парфения Афанасьевича Бородина (1823—1851), происходившего из дворян Екатеринославской губернии. Мать, Екатерина Александровна Лыкошина (1828—1890) — из семьи отставного офицера, директора новгородской гимназии, дворянина Смоленской губернии. Полковник Афанасий Бородин — его дед, адъютант генерал-фельдмаршала И. Ф. Паскевича — погиб при штурме Ахалкаци во время Кавказской войны.
В семье родились два сына, Иван (ставший известным ботаником) и Александр. Их отец, тяжело заболев, с женой и маленькими сыновьями приехал в Санкт-Петербург лечиться в военном госпитале, но вскоре умер. Мать с детьми переехала за Нарвскую заставу, где арендовала дачу.
В 1857 году «с публичных торгов» Екатерине Александровне Бородиной удалось приобрести дачу по Петергофской дороге, недалеко от Нарвских ворот. Семья жила бедно, на доходы от сдачи в аренду дачных строений. Мать больше не вышла замуж, посвятив себя воспитанию сыновей; она сама приготовила их к учёбе в гимназии. Некоторое время младший сын, Александр, в конце 1850 — начале 1860-х годов учился в новгородской гимназии, находясь на попечении бабушки и дедушки Лыкошиных.
В 1869 году Александр Бородин окончил Петербургский технологический институт, а в 1872 году — Петербургский институт инженеров путей сообщения. По окончании института, по рекомендации профессора механики И. А. Вышнеградского он был назначен заведующим подвижным составом и водоснабжением Ряжско-Вяземской железной дороги.
В 1877 году он стал уже управляющим Киево-Брестской железной дороги; в 1879 году А. П. Бородин — главный инженер службы подвижного состава, тяги и мастерских Юго-Западных железных дорог, а с 1889 года — управляющий; с 1895 года, после передачи Юго-Западных железных дорог в казну — их начальником.
В 1880—1882 годах на базе Киевских мастерских Юго-Западной железной дороги А. П. Бородин создал первую в мире стационарную лабораторию по испытанию паровозов (в пути). Совместно с инженером путей сообщения Л. М. Леви разработал методику линейных испытаний паровозов.
В 1882 году по проекту Бородина был построен паровоз серии П с 4-х цилиндровой машиной тандем-компаунд.А. П. Бородин был бессменным председателем съездов инженеров службы тяги железных дорог России.
Он неоднократно выступал за улучшение условий труда и механизации на железнодорожном транспорте.А. П. Бородин являлся одним из основателей журнала «Инженер» , с 1885 года — его редактором.
Он принимал активное участие в работах Русского технического общества: с 1880 по 1896 годы — член Киевского отделения общества, в 1892 году он возглавил механико-строительный отдел этого общества. Русским техническим обществом была учреждена золотая медаль имени Бородина, которой награждались изобретатели и рационализаторы сделавшие большой вклад в области железнодорожного транспорта.Член Общества гражданских инженеров Англии и Франции.Умер от воспаления лёгких, находясь на лечении в Мерано (Италия). Похоронен на Аскольдовой могиле на берегу Днепра в Киеве. Могила не сохранилась, в настоящее время на месте кладбища разбит парк.