Леонід Каневський народився в Києві в єврейській сім'ї. У 17 років поїхав до Москви і вступив до Щукінського училища, на курс Віри Костянтинівни Львової. З 1961 грав у Московському театрі імені Ленінського комсомолу, у режисера Ефроса. Потім грав на сцені Московського театру на Малій Бронній. Широку відомість акторові принесла роль майора Олександра Томіна в телесеріалі «Слідство ведуть ЗнаТоКи». У 1991 репатріювався до Ізраїлю, де спільно з режисером Євгеном Арьє створив у Тель-Авіві драматичний театр «Гешер» (у перекладі з івриту - «міст»); основу його трупи становлять російські актори, які грали на сценах московських і ленінградських театрів.

З січня 2006 по теперішній час Леонід Семенович Каневський - ведучий документального серіалу «Слідство вели...» на «НТВ». Паралельно актор продовжує грати в театрі «Гешер». У 2009 знявся в серіалі «Сьомін». Каневський зіграв ролі в більш ніж сімдесяти фільмах і безліч ролей у театральних виставах.