Nació en la ciudad de Ozerki, gobernación de Kursk, Imperio ruso. Artista Honrado de la RSFSR (1956). Artista del Pueblo de la RSFSR (1970). En escena desde 1920. En 1925 terminó la Escuela Técnica Teatral A. V. Lunacharski de Moscú y hasta 1932 fue actor en diversas casas de aficionados. En 1932-1936 fue actor del Teatro del Consejo Central de Sindicatos. En 1936-1941 y 1943-1959 fue actor del Teatro Académico Central del Ejército Soviético. Aunque Nikolái Serguéiev rodó por primera vez en cine en 1937, debutando con el papel de comandante de un escuadrón fascista en la película «Incursión profunda», la fama le llegó con papeles de personajes mayores. Decisivo en este sentido fue para él el papel del viejo obrero Basmánov en la película de Iósif Jéifets «La gran familia» (1954). En esa película, Mijaíl Shvéitser se fijó en el actor y le dio la oportunidad de crear un personaje completamente opuesto: el campesino avaro Silanti Riashkin en «Parentela ajena» (1955).

Desde ese momento, los principales directores soviéticos empezaron a invitar a Nikolái Serguéiev, y pronto dejó el teatro por el cine. Durante más de cincuenta años, Nikolái Vasílievich vivió en un feliz matrimonio con la actriz Olga Vasílievna Dolgova, con quien trabajó en el Teatro Central del Ejército Soviético. Cuando Serguéiev empezó a rodar activamente y dejó el teatro, ella se fue con él, abandonó la profesión y dedicó el resto de su vida a cuidar de su marido. La pareja no tuvo hijos, por lo que cuando a finales de los años cincuenta apareció en su casa su sobrina Svetlana, volcaron en ella todo su amor y sus cuidados. Está enterrado en el cementerio Vagánkovskoye (parcela 26).