Константин Иванович Арсеньев родился в Костромской губернии в семье сельского православного священника.
В 1799—1806 годах учился в семинарии, затем отправился в Петербург. После окончания Педагогического института в 1810 году Константин Иванович Арсеньев остался в нём в качестве преподавателя латинского языка и географии.
В ноябре 1812 года приехал в Петрозаводск вместе с другими преподавателями и студентами Педагогического института, эвакуированными из столицы в связи с Отечественной войной 1812 года. Занимался историей Олонецких горных заводов.Масон, в 1820 году посвящён в петербургской ложе «Избранного Михаила» .
В 1819 году Константин Иванович Арсеньев был назначен адъюнкт-профессором по кафедре географии и статистики Санкт-Петербургского университета, однако через два года был уволен оттуда Руничем из-за либеральных взглядов. Рассмотрев лекции Арсеньева, изданные под заглавием «Начертание статистики Российского государства» ), и выделив из них «вредные места» , в которых труд свободный превозносится над трудом крепостным, прославляется свобода промыслов, выражается сожаление об отсутствии кодификации законов (свода тогда еще не было), порицается подкупность судей и т. п., Рунич нашел, что лекции эти составляют «обдуманную систему неверия и правил зловредных и разрушительных в отношении к нравственности, образу мыслей и духу учащихся» , и предписал ректору университета немедленно приостановить лекции Арсеньева. Вместе с другими профессорами, подвергшимися той же участи, Арсеньев был предан особо учрежденному «университетскому суду» . Дело могло бы кончиться для весьма печально, но Арсеньева спасло высокое покровительство великого князя Николая Павловича. Константин Иванович Арсеньев смог продолжить преподавательскую карьеру в Главном Инженерном и Михайловском артиллерийском училищах, и вскоре ему даже было разрешено посвятить свою «Историю народов и республик Древней Греции» имени государя императора.
В 1824—1828 годах Константин Иванович Арсеньев был редактором Комиссии по составлению законов, а затем (до 1837 года) стал преподавателем истории, географии и статистики для цесаревича Александра Николаевича. После завершения обучения будущего императора, Константин Иванович Арсеньев занялся научной и административной работой.
В 1835—1853 годах заведовал статистическим комитетом Министерства внутренних дел, являлся членом Совета Министерства внутренних дел. Тайный советник.
В 1845 году он был в числе основателей Русского географического общества.Константин Арсеньев вышел в отставку в 1853 году.
В июне 1864 года тяжело больным перевезён в Петрозаводск — к старшему сыну Ю. К. Арсеньеву, занимавшему должность Олонецкого губернатора и жил у него вплоть до кончины 29 ноября 1865 года. Похоронен в Петрозаводске, в Крестовоздвиженском соборе.Младший сын учёного, К. К. Арсеньев (1837—1919) — известный российский юрист и общественный деятель.