Радянський кіноактор, майстер дубляжу. 1943 року закінчив ВДІК і почав працювати на кіностудії «Союздитфільм» (з 1948 — кіностудія імені Максима Горького). З 1967 — актор працював у Театрі-студії кіноактора. У кіно Микола Граббе дебютував 1943 року роллю Павки Дроздова у фільмі «Ми з Уралу». Актор був майстром епізодичних ролей, одним із найбільш зніманих кіноакторів 1950–1970-х років. Герої Миколи Граббе — люди мужні, сильні, принципові, чи то співробітники міліції, чи то бандити.

Переважно актор грав представників різних професій: рибалок, офіцерів, тренерів, робітників, всіляких начальників. Працював на студії дубляжу. Його голосом говорили багато зарубіжних акторів і персонажів мультфільмів. Микола Карлович був одружений з акторкою Театру на Таганці Маргаритою Докторовою (1921–2003). Син і дочка пішли стопами батьків — Олексій Граббе (нар. 02.07.1947) і Катерина Граббе (07.09.1954–11.07.1998) пов'язали свої долі з Театром на Таганці, знімалися в кіно.