Родился 19 (31) августа 1858 года в Санкт-Петербурге; сын академика и члена Государственного совета Российской империи А. Ф. Бычкова.
С золотой медалью окончил 6-ю Санкт-Петербургскую гимназию (1876) и юридический факультет Санкт-Петербургского университета (1880).По окончании университета поступил на службу библиотекарем рукописного отделения Императорской публичной библиотеки. Здесь Бычков продолжил начатое ещё его отцом издание «Писем и бумаг Императора Петра Великого» .
В 1903 году И. А. Бычков стал членом-корреспондентом Императорской Академии наук. Состоял членом Петербургской и ряда других археографических комиссий.
В 1905 году был удостоен чина действительный статский советник.И. А. Бычков по праву считался одним из лучших знатоков вспомогательных исторических дисциплин и рукописных фондов. Заведовал Рукописным отделением ГПБ имени М. Салтыкова-Щедрина.Во время Великой Отечественной войны находился в осаждённом вермахтом родном городе, где принимал активное участие в сборе и сохранении петербургских архивов. Блокада Ленинграда не могла не сказаться на его здоровье, и через два месяца после её снятия Бычков скончался.Был награждён орденом Святого Владимира 4-й степени (1896) и орденом Святой Анны 3-й и 2-й степени (1900), а также медалями «В память царствования императора Александра III» и «В память 300-летия царствования дома Романовых» .
В 1943 году был награждён орденом Трудового Красного Знамени и медалью «За оборону Ленинграда» .