Alman bir mülteci kampında doğdu, ancak şans eseri oyunculuk kariyerine başladığı Kanada'da büyüdü. "Toronto Free Theatre"daki birkaç yıllık yoğun çalışmanın ardından Rubinek New York'a gitti ve burada Broadway'de ve prova tiyatrolarında iş buldu. 1981'de "Ticket to Heaven" filminde bir dini tarikat üyesinin en iyi arkadaşını canlandırması, filmi çoğu kişi görmezden gelse de, ün için değerli bir adım oldu.

Saul Rubinek çoğunlukla ikincil roller alır, ancak onları oynarken gösterdiği inandırıcılığa bakılırsa, başrolün üstesinden de pekâlâ gelebilirdi.