Родился в семье певца Бориса Сергеевича Кузнецова. Мать — Кузнецова Евдокия (Дина) Давыдовна. Детство провёл в Кинель-Черкассах (Куйбышевская область), в годы войны вместе с мамой вязал варежки для солдат. Учился на вокальном отделении музыкального училища им. М. М. Ипполитова-Иванова. В 1951 году поступил в два театральных вуза: Щукинское училище, но выбрал Школу-студию им. В. И. Немировича-Данченко при МХАТ, которую окончил в 1955 году (курс А. М. Карева).

Впервые на экране Анатолий Кузнецов появился, будучи студентом третьего курса — в фильме «Опасные тропы» он сыграл молодого учёного Николая Жёлудева. С 1958 года он — актёр Театра-студии киноактёра.

Анатолий Кузнецов стал активно сниматься в кино во второй половине 1950-х годов — в течение нескольких лет сыграл в таких фильмах, как «Гость с Кубани», «За витриной универмага», «К Чёрному морю», «Повесть о молодожёнах» и др.

Роль красноармейца Фёдора Сухова, прославившая актёра, была сыграна им в 1969 году в фильме Владимира Мотыля «Белое солнце пустыни». Примечательно, что попал на эту роль Кузнецов не сразу: уже пройдя все пробы, он упал и сломал ногу, после чего роль передали Георгию Юматову. Однако тот, выпив, в ходе съёмок устроил драку, в которой ему разбили лицо; тогда режиссёр фильма выслал Кузнецову телеграмму с просьбой вернуться на роль.

Фильм завоевал у зрителей огромную популярность, а красноармеец Фёдор Сухов в исполнении Анатолия Кузнецова стал в Советском Союзе культовой фигурой.

Позже сыграл камео своего легендарного персонажа в кинокомедии «Приключения Петрова и Васечкина».

Всего за свою карьеру Кузнецов сыграл более 100 ролей в кино, в том числе — в таких картинах, как «Друг мой, Колька!», «Освобождение», «Горячий снег», «Битва за Москву», «На углу, у Патриарших», «Участок», «Турецкий гамбит», «Мосгаз».

Участвовал в программе «Белый попугай».

Скончался 7 марта 2014 года в Москве. Похоронен на Новодевичьем кладбище.