Rus İmparatorluğu'nun Kursk Guberniyası'na bağlı Ozerki kasabasında doğdu. RSFSC Onur Sanatçısı (1956). RSFSC Halk Sanatçısı (1970). Sahneye 1920'de çıktı. 1925'te A.V. Lunaçarski adına Moskova Tiyatro Teknikumu'nu bitirdi ve 1932'ye kadar çeşitli amatör sanat evlerinde aktör olarak çalıştı. 1932-1936 yıllarında - Sendikalar Merkez Konseyi Tiyatrosu'nda aktör. 1936-1941 ve 1943-1959 yıllarında - Sovyet Ordusu Merkez Akademik Tiyatrosu'nda aktör. Nikolay Sergeyev sinemada ilk kez 1937'de "Derin Akın" filminde faşist bir filo komutanı rolüyle görünmüş olsa da ona ün kazandıran yaşlı karakter rolleri oldu. Bu bakımdan onun için dönüm noktası, İosif Heyfets'in "Büyük Aile" (1954) filmindeki yaşlı işçi Basmanov rolüydü. Bu filmde aktörü Mihail Şveytser fark etti ve ona tamamen zıt bir karakter yarattırdı: "Yabancı Akraba" (1955) filmindeki cimri köylü Silantiya Ryaşkin.

Bu andan itibaren Nikolay Sergeyev'i önde gelen Sovyet yönetmenleri davet etmeye başladı ve kısa süre sonra sinema uğruna tiyatroyu bıraktı. Nikolay Vasilyeviç, Merkez Sovyet Ordusu Tiyatrosu'nda birlikte çalıştığı aktris Olga Vasilyevna Dolgova ile elli yılı aşkın mutlu bir evlilik sürdürdü. Sergeyev yoğun olarak filmlerde rol almaya başlayıp tiyatrodan ayrılınca o da onunla birlikte ayrıldı, mesleğini bıraktı ve sonraki hayatını kocasına bakmaya adadı. Çiftin çocuğu yoktu, bu nedenle 50'li yılların sonunda evlerine yeğenleri Svetlana geldiğinde tüm sevgilerini ve ilgilerini ona yönelttiler. Vagankovo Mezarlığı'na (26. parsel) defnedildi.