Jak powiedział jego agent John S. Kelly, Nielsen zmarł w szpitalu w pobliżu jego domu w Fort Lauderdale, na Florydzie, gdzie znalazł się z powodu komplikacji wynikających z zapalenia płuc.

Nielsen, który urodził się w Kanadzie, rozpoczął karierę aktorską w Nowym Jorku, gdzie wystąpił w ponad 150 widowiskach telewizyjnych.

W połowie lat 50. ub. wieku przyjechał do Hollywood. Początkowo występował w filmach przygodowych i dramatach a także w licznych serialach telewizyjnych.

Największą popularność zyskały mu jednak role komediowe, zwłaszcza w serii filmów "Naga Broń", w których kreował postać niezdarnego policjanta Franka Drebina oraz lekarza w filmie "Czy leci z nami pilot ?". Nielsen znany był z wesołego usposobienia i skłonności do żartów.