Jerry Goldsmith volgde een opleiding aan het City College van Los Angeles maar studeerde ook filmmuziek bij Miklos Rosza, piano bij Jacob Gimpel en kreeg naast een theoretische basis ook onderricht in compositie bij Mario Castelnuovo-Tedesco. Hierna ging hij aan het werk bij CBS waar hij zowel radio- als televisiewerk deed. Zo dirigeerde hij de filmmuziek voor series als Dr. Kildare, Climax, Playhouse 90, Studio One, Gunsmoke en The Man from UNCLE. Op filmvlak scoorde hij zijn eerste filmsucces met Lonely are the Brave waar hij de dialogen op een bijzondere wijze voorzag van muziek. Met Freud introduceerde hij eigentijdse, atonale muziek op een gewaagde, gedurfde manier.
Goldsmith wijzigde nogal eens van aanpak, de ene keer koos hij voor symfonische muziek, andere keren ging hij de jazz-tour op maar in beide gevallen legde hij de klemtoon op het ritme. Hij heeft vanaf de jaren ’50 heel veel filmmuziek geschreven voor Hollywoodfilms maar ook kamermuziek en vocaal werk. In de jaren '80 maakte hij voornamelijk muziek voor actie- en avonturenfilms.

Naast heel wat Oscarnominaties won Jerry Goldsmith drie Emmy Awards, werd hij negen keer genomineerd voor een Golden Globe en vier keer voor een BAFTA.

Jerry Goldsmith werd uitzonderlijk al eens vermeld als Jerrald Goldsmith, zoals in de begingeneriek van Face of a Fugitive (1959).