Олег Георгиевич Большаков родился 3 июня 1929 г. в Твери.
В 1946 году он поступил на арабское отделение Восточного факультета Ленинградского государственного университета.
В 1951 году окончил его по специальности «история арабских стран» и поступил в аспирантуру Государственного Эрмитажа. После второго курса работал в Пенджикентском отряде Согдийско-таджикской археологической экспедиции АН.
С декабря 1954 Большаков работал старшим научным сотрудником Отдела Востока Государственного Эрмитажа, а с декабря 1956 — младшим научным сотрудником Сектора археологии Средней Азии и Кавказа Института истории материальной культуры.
С октября 1966 года Большаков работал в Арабском кабинете Ленинградского Отделения Института народов Азии (Института востоковедения) АН СССР.