Окончил 281 среднюю школу г. Ленинграда в 1952 году, затем, в 1957 году — с отличием юридический факультет Ленинградского государственного университета.
С 1958 года член Ленинградской областной коллегии адвокатов.
В 1967 году защитил кандидатскую диссертацию по теме «Исполнение приговора как стадия советского уголовного процесса» .
В 1986 году защитил докторскую диссертацию по теме «Социологическое исследование преступности и иных антиобщественных проявлений (вопросы теории и методики)» .
В конце июня 2009 года Гилинского уволили из Социологического института РАН в Санкт-Петербурге. Официально увольнение было представлено как непродление ежегодного контракта, по которому Гилинский работал в институте последнюю пару лет. Автор свыше 510 научных публикаций, из них более 120 — на английском, украинском, французском, немецком, венгерском, норвежском, итальянском, японском и др. языках (в основном — по криминологии, социологии девиантности и социального контроля, а также по уголовному праву, пенологии, теории управления, общей социологии, философии).