Джо Спінелл народився як Джозеф Дж. Спаньуоло в Мангеттені, Нью-Йорк, у сім'ї італійських іммігрантів і був останнім із шести дітей. Його батько, Пелегріно Спаньуоло (нар. 1892, пом. 1950), помер від хвороби печінки та нирок. Його мати Філомена Спаньуоло (нар. 1903, пом. 1987) була акторкою на епізодичних ролях, знімалася в кількох фільмах, деякі з них разом із сином. Зріст Спінелла становив 5 футів 11 дюймів. Він народився в квартирі своєї сім'ї в мангеттенському Маленькому Італії на Другій авеню в Мангеттені. Через кілька років після смерті батька він переїхав з матір'ю та старшими братами й сестрами у Вудсайд, Квінс, Нью-Йорк, де жив з перервами до кінця свого життя. Більшу частину життя Спінелл страждав на гемофілію, а також на хронічну астму. Через велику, огрядну статуру та вражаючу зовнішність Спінелла часто брали на ролі злочинців, бандитів або корумпованих поліцейських. Його найпомітнішими ролями були мафіозі Віллі Чіччі у «Хрещеному батькові» та «Хрещеному батькові 2», а також лихвар Тоні Гаццо в «Роккі» та «Роккі 2».

Хоча він був відомий передусім як характерний актор, Спінелл став співавтором сценарію і зіграв серійного вбивцю у фільмі 1980 «Маніяк». Джо Спінелл помер у своїй квартирі 13 січня 1989 у віці 52 років. Причина його передчасної смерті обговорюється досі. Деякі кажуть, що його смерть була спричинена раптовим серцевим нападом через тяжке вживання наркотиків, алкоголю та емоційного стресу у зв'язку зі смертю матері двома роками раніше. Також припускається, що він міг померти від ускладнень астми або стікти кров'ю через причини, пов'язані з гемофілією. Перед смертю він планував сиквел «Маніяка». Він був похований на кладовищі Голгофа в Квінсі недалеко від свого дому. Він далекий родич головного тренера американської футбольної команди «Сент-Луїс Ремс» Стіва Спаньуоло. Спінелл був одружений із зіркою дорослих фільмів Джин Дженнінгс з лютого 1977 по липень 1979 У них народилася одна дочка, але зрештою вони розлучилися.