James Caan New York'ta doğdu. Oyunculuk kursunu bitirdikten sonra tiyatro ve televizyonda çalıştı, ekranlara ilk çıkışını 1964'te yaptı. G. Hawks'ın 'Kırmızı Hat 7000' (Red Line 7000, 1965) filminde yarış pilotunu oynadıktan sonra Caan, ekranda ve hayatta bir sporcu, 'gerçek bir erkek' itibarını pekiştirdi. Aktörün yelpazesi F. Coppola'nın 'Yağmur İnsanları' (The Rain People, 1969) ve özellikle 'Baba' (The Godfather, 1972) filmindeki çalışmasından sonra genişledi; burada gangster klanının pervasız evladı Sonny Corleone, neredeyse çocuksu bir saflık, küstah bir özgüven ve zulme varan bir öfkeyi birleştirir. Sonuç olarak Caan, Hollywood için nadir görülen bir karakter oyuncusu tipi haline geldi; ünlü gülümsemesi bazen kaygısızca parlıyor, bazen nevrotik bir sırıtış gibi görünüyordu.

1980'de Caan, kendi katılımıyla 'Göz Önünde Saklan' (Hide In Plain Sight) filmini yönetti ve burada çocukları için savaşan boşanmış bir baba rolünü üstlendi. Babalığa, aileye, eve duyulan hassas saygı teması, profesyonel bir hırsızın mücevher çalma operasyonu yapmak zorunda kaldığı 'Hırsız' (Thief, 1980, yönetmen M. Mann) filminde de işlenir.

80'lerin başı aktörün ruhsal krizi, uyuşturucuya başlaması, ailesinin dağılmasıyla ilişkilidir. 1982'den itibaren beş yıl boyunca Caan hiçbir filmde oynamadı, beyzbol antrenörü olarak çalıştı. Sinemaya dönüşüne Coppola yardımcı oldu ve onu 'Taş Bahçesi' (Gardens Of Stone, 1987) filminde rol almaya davet etti. Caan kendisi için alışılmadık bir rolde 'Mizery' (Misery, 1990) psikolojik gerilim filminde göründü; zihinsel rahatsızlıkları olan bir hayranı tarafından esir alınan ünlü bir aşk romanı yazarını oynadı.