После переезда в Москву Анатолий Дмитриевич работал литейщиком на заводе. В свободное время занимался в художественной самодеятельности в театральной студии при заводе.
Ушел на фронт с первых дней войны.
В 1942 году после ранения вернулся и поступил на актёрский факультет ГИТИСа. В 1946 году после окончания ГИТИСа уехал в Клайпеду, в новый театр, где его первой ролью была роль Сергея Тюленина в «Молодой гвардии». Женился на актрисе Надежде Юрьевне Каратаевой. Их дочь, Елена Папанова, тоже стала актрисой.
В 1948 году Папанов переходит в Театр Сатиры в Москве.
В этом театре Анатолий Дмитриевич создал более полусотни образов. Некоторые из спектаклей были сняты на киноленту.
В 1973 году он получает звание «Народный артист СССР». Анатолий Папанов был успешен в разных амплуа, исполняя и драматические, и характерные роли не только в театре. Он много снимался в кино.
Его дебютом стала эпизодическая роль в фильме «Ленин в Октябре» (1937), затем было еще несколько работ, но все они были небольшие.
Настоящий успех и признание в кино пришли к Папанову после съемок в экранизации романа К.Симонова «Живые и мертвые» режиссера А.Столпера. Фильм занял первое место в прокате 1964 года и был удостоен призов на фестивалях в Карловых Варах и Акапулько. После такого успеха спрос на актера Папанова среди режиссеров резко возрос, а он блистательно играл как драматические, так и комедийные роли.
Среди самых знаменитых фильмов с его участием- это: «Берегись автомобиля!» (1966), «Возмездие» (1967), «Бриллиантовая рука» (1968), «Служили два товарища» (1968), «Адъютант его превосходительства» (1969), «Белорусский вокзал» (1970), «Джентльмены удачи» (1971), «12 стульев» (1976), «По семейным обстоятельствам» (1977), «Время желаний» (1984) и многие другие.
Всего он принял участие в создании более семидесяти кинолент и озвучивании около ста мультфильмов (в частности, его голосом говорит Волк в «Ну, погоди!»).
Преподавал в ГИТИСе. Выпустил диск как исполнитель песен.
Умер Анатолий Дмитриевич Папанов 7 августа (по другим данным - 5 августа) 1987 года в Москве на 65-м году жизни от сердечного приступа, был похоронен на Новодевичьем кладбище. А в 1989 году уже посмертно ему было присвоено звание лауреата Государственной премии СССР за роль в фильме «Холодное лето пятьдесят третьего», которая стала последней работой Папанова в кино...