Nació en la ciudad de Vyazma, gobernación de Smolensk, Rusia soviética, en una sencilla familia obrera. Artista Honrado de la RSFSR (1958), Artista del Pueblo de la RSFSR (1966), Artista del Pueblo de la URSS (1973). Su padre fue Dmitri Filíppovich Papanov y su madre, la polaca Yelena Boleslávovna Roskovskaya. A finales de la década de 1920 la familia Papanov se trasladó a Moscú y Anatoliy ingresó en el primer curso. Tras terminar la escuela en 1939, Papanov trabajó como fundidor en los talleres de reparación de la segunda fábrica moscovita de rodamientos. Participó en actividades artísticas aficionadas, en el estudio teatral del club de la fábrica «Kauchuk». Cuando estalló la guerra marchó al frente, donde fue gravemente herido en una pierna en el frente suroccidental. Después fue desmovilizado y en otoño de 1942 llegó a casa, a Moscú, junto a sus padres, como inválido de tercer grupo. Ingresó en el Instituto Estatal de Arte Teatral A. V.

Lunacharski, en la facultad de actuación. En 1946, tras terminar el instituto, partió junto con su curso a crear un nuevo teatro en Klaipeda, donde interpretó su primer papel teatral, el de Serguéi Tyulenin, en la obra «La joven guardia», montada con motivo del trigésimo aniversario de Octubre. Desde 1948 fue actor del Teatro de la Sátira de Moscú. En 1987 puso en escena la obra «Los últimos», de Máximo Gorki. En 1967 dio voz por primera vez al Lobo en la famosa serie de dibujos animados «¡Bueno, espera!» y se convirtió en ídolo de muchas generaciones de niños. El 3 de agosto de 1987 rodó su último plano en vida durante el rodaje de la película «El frío verano del 53» en Karelia. Esa misma tarde Papanov partió hacia Moscú. Anatoliy Dmítrievich falleció en su apartamento de Moscú por un paro cardíaco mientras se duchaba con agua fría. El funeral del actor se celebró el 11 de agosto en el cementerio Novodévichi de Moscú (parcela n.º 10).