Начал сниматься в восемнадцать лет, играя молодых ребят. В 1982 году окончил Государственный институт театрального искусства (ГИТИС) им. А. В. Луначарского (мастерская В. П. Остальского). Его распределяли и в Московский академический театр Сатиры, и в Театр на Малой Бронной, но начинающий актёр предпочел уехать в Ленинград. Как он сам признаётся: «в романтическом порыве поехал за девушкой», где занимался в мастерской В. П. Остальского. Был актёром Санкт-Петербургского Молодежного театра на Фонтанке и театра комедии имени Н. П. Акимова.
Его лучшими ролями считаются работы в фильмах «Наше призвание», «Светлая личность», «Самолет летит в Россию», «Курортный роман». Среди картин с его участием можно назвать «Найти и обезвредить», «Человек из черной `Волги`», «Мона Лиза», «Однажды в Одессе», «Возвращение броненосца», «Левая грудь Афродиты», телеоперетту «Цыганский барон». Известен актёр также и как автор и исполнитель песен, романсов и баллад? пародист.
Помимо концертной деятельности Андрей Анкудинов работал ведущим на телевидении. В 1994 году он вёл передачу «Лучшие из лучших» на канале НТВ, в 1996-97 годах — программу «12 пополудни» на РТР, а в 1996—1997 — «Час совы» на СТС.