Анатолий Васильев родился в Москве; после окончания средней школы некоторое время был рабочим сцены в Московском театре драмы и комедии. Отслужив в армии, в 1961 году поступил в Щукинское училище, в мастерскую Альберта Борисова.Ещё в 1962 году вместе с однокурсником Борисом Хмельницким Анатолий Васильев написал музыку для студенческого спектакля «Добрый человек из Сезуана» по пьесе Б. Брехта, — спектакля, с которого два года спустя началась любимовская «Таганка» .
В 1964 году, когда Юрий Любимов возглавил Театр на Таганке, Васильев, тогда ещё студент 3-го курса, стал актёром преобразованного театра и дебютировал на его сцене в роли Янг Суна в «Добром человеке из Сезуана» . Васильев и Хмельницкий очень скоро стали «официальными композиторами» театра. «Два года, — вспоминал Васильев, — мы учились и не учились… Мы приходили в училище, за нами ходили толпы… Преподаватели спрашивали: „А как там у вас на Таганке“ Мы же сдавали мастерство, а наши дипломы были по работам в Театре на Таганке.
И в труппе тогда мы были лидерами…» Васильев и Хмельницкий написали музыку и к спектаклям «Жизнь Галилея» и «Антимиры» , но в последнем у них уже появился соавтор — Владимир Высоцкий, вскоре оттеснивший обоих на второй план.
В 1966 году Анатолий Васильев окончил Училище им. Щукина и поступил на отделение режиссёров телевидения Высших курсов сценаристов и режиссёров (мастерская Л. Трауберга), которые окончил в 1970 году.
С этого времени, продолжая служить в Театре на Таганке, был режиссёром-постановщиком творческого объединения «Экран» .
В 1970—1978 годах Васильев был женат на актрисе Марине Неёловой[источник не указан 837 дней]. Затем на протяжении 30 лет состоял в фактическом браке с актрисой Ией Саввиной (познакомились в 1979 году). Официально брак был заключён лишь за две недели до её смерти, в 2011 году.