Mark Harmon nació en California. Nombre completo: Thomas Mark. El padre de Mark Harmon fue un famoso futbolista, el mejor jugador de 1940, su madre fue la actriz Elise Knox. Tiene dos hermanas mayores: la mayor, Kristin Nelson, que luego se convirtió en artista, y la menor, Kelly Harmon, modelo fotográfica. Estudió marketing y comunicaciones en la Universidad de California en Los Ángeles, donde se graduó con honores en 1974. Jugó al fútbol, formó parte del equipo estudiantil. Mark Harmon es dos veces campeón de fútbol de Nebraska, ganador del Premio Nacional de Fútbol de 1973. Debutó en cine y televisión en 1975. En sus primeros trabajos se utilizó su atractivo aspecto físico, interpretando principalmente a policías y médicos. En 1977, por un pequeño papel en la película para televisión «Eleanor and Franklin: The White House Years», fue nominado por primera vez al premio Emmy. En 1979, Harmon interpretó uno de los papeles principales, ayudante del sheriff, en la serie policial «240-Robert», en 1980 participó en la telenovela «Flamingo Road». De 1983 a 1986 interpretó a un médico en la serie sobre el trabajo hospitalario «St.

Elsewhere». En 1987, Harmon apareció en cuatro episodios de la serie cómico-detectivesca «Moonlighting». De 1991 a 1993 interpretó a un policía en la serie «Reasonable Doubts», su personaje y la heroína de Marlee Matlin eran centrales en la serie. En 1996-2000, Harmon volvió a interpretar el papel de médico en el drama médico «Chicago Hope», en 2002, un agente del servicio secreto en la serie «The West Wing». En 2003 apareció en la serie «JAG» en el papel del agente especial del Servicio de Investigación Criminal de la Marina de los EE. UU. Leroy Jethro Gibbs, ese mismo año comenzó la emisión de la serie «NCIS», en la que este personaje interpretado por Harmon es uno de los centrales. Mark actuó a menudo en cine, pero en su mayoría fueron papeles secundarios. También actuó en producciones teatrales, incluso junto a su esposa. Desde 1995 actúa como productor y director de temporadas individuales de series de televisión con su participación. El 21 de marzo de 1987, Harmon se casó con la actriz Pam Dawber. Tienen dos hijos: Sean (1988) y Ty Christian (1992).