Евгений Михайлович Гершензон родился 9 июня 1930 года в Москве в семье писателя Михаила Абрамовича Гершензона. Внук педиатра А. О. Гершензона, племянник литературоведа М. О. Гершензона.
В 1952 году окончил Московский государственный педагогический институт им. В. И. Ленина. Оставшись работать в МПГУ он сначала стал ассистентом, а затем прошел все ступени до заведующего кафедрой общей и экспериментальной физики.
В 1980 году получил Государственную премию СССР.
В 1992 году получил звание Заслуженного деятеля науки РФ и стал членом-корреспондентом РАО.