Geboren in der Stadt Oserki, Gouvernement Kursk, Russisches Kaiserreich. Verdienter Künstler der RSFSR (1956). Volkskünstler der RSFSR (1970). Auf der Bühne seit 1920. 1925 absolvierte er die Moskauer Theaterschule namens A. W. Lunatscharski und war bis 1932 Schauspieler an verschiedenen Häusern der Laienkunst. Von 1932 bis 1936 war er Schauspieler am Theater des WZSPS. Von 1936 bis 1941 und von 1943 bis 1959 war er Schauspieler am Zentralen Akademischen Theater der Sowjetischen Armee. Obwohl Nikolai Sergejew 1937 erstmals in einem Film auftrat, mit seinem Debüt als Kommandeur einer faschistischen Staffel im Film „Der tiefe Überfall“, brachten ihm Altersrollen Bekanntheit. Wegweisend in dieser Hinsicht war für ihn die Rolle des alten Arbeiters Basmanow in Iossif Cheifetz’ Film „Die große Familie“ (1954). In diesem Film entdeckte Michail Schweizer den Schauspieler und ließ ihn eine völlig gegensätzliche Figur gestalten – den geizigen Bauern Silanti Rjaschkin in „Fremde Verwandtschaft“ (1955).

Von diesem Moment an luden führende sowjetische Regisseure Nikolai Sergejew ein, und bald verließ er das Theater für den Film. Über fünfzig Jahre lebte Nikolai Wassiljewitsch in einer glücklichen Ehe mit der Schauspielerin Olga Wassiljewna Dolgowa, mit der er gemeinsam am ZTSA arbeitete. Als Sergejew begann, aktiv zu filmen und das Theater verließ, verließ sie es mit ihm, gab ihren Beruf auf und widmete ihr weiteres Leben der Fürsorge für ihren Mann. Die Eheleute hatten keine Kinder, daher richteten sie, als Ende der 50er Jahre ihre Nichte Swetlana in ihrem Haus erschien, all ihre Liebe und Fürsorge auf sie. Er wurde auf dem Waganjkowo-Friedhof (26. Abschnitt) beigesetzt.