Né dans la ville de Viazma, dans le gouvernement de Smolensk, en Russie soviétique, dans une simple famille ouvrière. Artiste émérite de la RSFSR (1958), artiste du peuple de la RSFSR (1966), artiste du peuple de l'URSS (1973). Père : Dmitri Filippovitch Papanov ; mère : la Polonaise Elena Boleslavovna Roskovskaïa. À la fin des années 1920, la famille Papanov s'installa à Moscou et Anatoliy entra en première année. Après avoir terminé l'école en 1939, Papanov devint fondeur dans les ateliers de réparation de la 2e usine moscovite de roulements à billes. Il participa aux activités artistiques amateurs, dans le studio théâtral du club de l'usine « Kaoutchouk ». Lorsque la guerre éclata, il partit au front, où il fut grièvement blessé à la jambe sur le front du Sud-Ouest. Il fut ensuite démobilisé et, à l'automne 1942, rentra invalide de troisième catégorie chez ses parents à Moscou. Il entra à l'Institut d'État d'art théâtral A. V. Lounatcharski, à la faculté d'art dramatique.

En 1946, après avoir terminé l'institut, il partit avec sa promotion créer un nouveau théâtre à Klaipeda, où il joua son premier rôle théâtral, celui de Sergueï Tioulénine, dans le spectacle « La Jeune Garde » monté pour le trentième anniversaire de la Révolution d'Octobre. À partir de 1948, il fut acteur du Théâtre de la Satire à Moscou. En 1987, il mit en scène la pièce « Les Derniers » de Maxime Gorki. En 1967, il prêta pour la première fois sa voix au Loup dans la célèbre série animée « Eh bien, attends ! » et devint l'idole de plusieurs générations d'enfants. Le 3 août 1987, ce fut le dernier plan de la vie de l'acteur, lors du tournage du film « L'Été froid de 53 » en Carélie. Le soir même, Papanov partit pour Moscou. Anatoliy Dmitrievitch mourut dans son appartement moscovite d'un arrêt cardiaque, en prenant une douche froide. Les funérailles de l'acteur eurent lieu le 11 août au cimetière de Novodievitchi à Moscou (parcelle n° 10).