Nadat Hoagy Carmichael met succes zijn studies rechten aan de Indiana Unversity in Bloomington had afgewerkt en korte tijd een eigen praktijk had was hij een tijd bandleider waarna hij ging werken als jazz-componist, tekstdichter en zelfs acteur.
Op muzikaal vlak was hij een autodidact, zijn liedjes waren voornamelijk triestige, nostalgische nummertjes.

Als acteur deed Carmichael zich meestal voor zoals hij was en kwam meestal over als iemand met weinig interesse en enthousiasme. Zijn commentaar als pianist op het acteervuurwerk van Humphrey Bogart en Lauren Bacall in To Have and Have Not is daar een passend voorbeeld van.

De gekendste liedjes van Carmichael waren Stardust (1931), één van de gekendste nummers ooit van Tin Pan Alley, en Georgia.

Hij schreef vanaf 1936 ook muziek voor films. In the Cool, Cool of the Evening uit de film Here Comes the Groom bijvoorbeeld won een Oscar in 1952.
Uitzonderlijk was Carmichael dus ook te zien als acteur waarbij hij soms zichzelf vertolkte en opvallend traag sprak. De gekendste scènes zijn ongetwijfeld die waarbij hij aan zijn piano zit, een sigaret rookt en een liedje zingt.

Carmichaels memoires werden neergeschreven in The Stardust Road (1946) en Sometimes I Wonder (1965).