Родился в семье П. В. Гославского — потомственного дворянина, кавалера ордена Святого Станислава II степени с императорской короной, действительного статского советника. Приходился братом художнику П. П. Гославскому, критику В. П. Гославскому. Дети: Александр — офицер Белой армии; Сергей — юрист, чиновник Правительства Колчака; Софья — актриса театра и немого кино.Детство и юность провел преимущественно в селе Остро-Пластиково Сапожковского уезда Рязанской губернии[комм. 1].
С 1884 года работал учителем в тамошней сельской школе, которая была построена и открыта И. В. Вернадским (отцом В. И. Вернадского и свояком С. Н. Гославской — матери Евгения Петровича), а после его смерти, в 1885—1894 годах, содержалась главным образом на средства П. В. Гославского.
В 1886 году женился на А. В. Карк — немке по происхождению, отец которой, Вильгельм Карк, жил в России и служил гардеробмейстером при дворе Александра III. Начиная с этого времени, Гославский попеременно жил в своём имении близ села Остро-Пластиково, в Санкт-Петербурге и в Москве (по адресам: Трубниковский переулок, дом 11; Большая Молчановка, дом 11). Незадолго до смерти литератор получил по наследству имение в местечке Старая Майна и переехал туда на постоянное жительство. «Там он жил настоящим затворником, — вспоминал И. А. Белоусов, — по целым месяцам не выходил из своей комнаты, стены которой были увешаны планами и проектами новых рассказов» .Умер 2 (15) декабря 1917 года.