Родился 14 июля 1912 года в посёлке Петровский рудник. Окончив школу, работал лаборантом ихтиолога на Северском Донце, затем — шахтёром и маркшейдером.
В 1934 году поступил на биологический факультет Ленинградского университета.
В 1939 году окончил биологический факультет и поступил в аспирантуру географического факультета. Вскоре женился на Анастасии Лаврентьевне Токуновой (1915—2012).
В конце 1939 года был направлен на Карельский фронт военным метеорологом, воевал на Волховском и Прибалтийском фронтах до окончания Второй мировой войны. Награждён орденом Красной Звезды и медалями.После войны продолжил обучение, затем остался на кафедре фитогеографии, где работал ассистентом, с 1954 года — доцент.
В 1953 году получил степень кандидата географических наук за диссертацию «Анализ флоры Юго-Осетии» .
На протяжении длительного времени Абрамов занимался изучением флоры мхов Кавказа, Поволжья, Южного Урала.
С 1958 года И. И. Абрамов и А. Л. Абрамова работали в отделе споровых растений Ботанического института в Ленинграде.
В частности, они занимались изучением бриофлоры труднодоступных регионов СССР и проблемы эндемизма у мхов.
В 1969 году Иван Иванович стал заведующим Отделом низших растений БИНа.И. И. Абрамов был редактором «Определителя лишайников СССР» и «Определителя листостебельных мхов СССР» .
С 1965 года он работал в редакции «Новостей систематики низших растений» , в 1973 году стал главным редактором этого журнала.11 января 1990 года Иван Иванович Абрамов скончался.