Leonid Kanevsky est né à Kiev dans une famille juive. À 17 ans, il partit pour Moscou et entra à l'école Chtchoukine, dans le cours de Vera Konstantinovna Lvova. À partir de 1961, il joua au théâtre Lénine Komsomol de Moscou, chez le metteur en scène Efros. Ensuite, il joua sur la scène du théâtre de la Malaisie Bronnaïa à Moscou. La célébrité lui vint du rôle du major Alexandre Tomine dans la série télévisée « Les Enquêtes de ZnatoKi ». En 1991, il émigra en Israël, où, avec le metteur en scène Evgueni Arié, il créa à Tel-Aviv le théâtre dramatique « Gesher » (qui signifie « pont » en hébreu) ; la troupe est principalement composée d'acteurs russes ayant joué sur les scènes des théâtres de Moscou et de Leningrad.

De janvier 2006 à aujourd'hui, Leonid Semionovitch Kanevsky est le présentateur de la série documentaire « Les Enquêtes célèbres... » sur NTV. Parallèlement, l'acteur continue de jouer au théâtre « Gesher ». En 2009, il a tourné dans la série « Semine ». Kanevsky a joué dans plus de soixante-dix films et de nombreux rôles dans des pièces de théâtre.