Né le 10 juin 1901 à Berlin, fils d’un acteur et ténor d’opérette viennois, Loewe est un enfant prodige : il joue du piano à l’âge de cinq ans, à sept ans compose pour les présentations de son père et devient à treize le plus jeune soliste appelé à se produire avec l’Orchestre Philharmonique de Berlin.
Il fait des études musicales poussées avec Ferruccio Busoni et Eugène d’Albert. À l’âge de quinze ans il écrit une chanson populaire, Katrina, dont plus d’un million de partitions seront vendues.
Loewe émigre aux États-Unis en 1924 où il fait toute sorte de petits boulots pendant les dix années suivantes. En 1934, il écrit pour Broadway la musique de la pièce Petticoat Fever et, dès 1936, il compose de la musique pour des revues de Broadway, sans remporter beaucoup de succès. Loewe travaille avec le parolier Earle Crooker sur les comédies musicales : Salute to Spring (1937) et Great Lady (1938), mais ils ne parviennent pas non plus à attirer l’attention.
En 1942, Loewe rencontre Alan Jay Lerner au Lambs, club de théâtre new-yorkais, et lui demande de travailler à la révision de Salute to Spring pour un producteur de Detroit. Ils poursuivent leur collaboration avec deux échecs, What’s Up ? (1943) et The Day Before Spring (1945), avant de connaître le succès à Broadway avec Brigadoon (1947). Viennent ensuite Paint Your Wagon (1951), My Fair Lady, le film Gigi (Vincente Minnelli, 1958), et Camelot (1960). Des différends entre Loewe et Lerner surviennent au cours de l’écriture de Camelot et ils interrompent leur collaboration pendant plus de dix ans.
Loewe décide de se retirer à Palm Springs, en Californie. Il arrête de composer jusqu’à ce que Lerner lui propose de compléter la partition du film Gigi pour une nouvelle version à la scène, en 1973, ce qui lui a valu un Tony Award pour la meilleure musique originale.
L’année suivante, ils collaborent pour une version musicale filmée du Petit Prince, d’après Antoine de Saint-Exupéry. Le film est un échec critique et public. Loewe est lauréat du Songwriters Hall of Fame en 1972. Il vit à Palm Springs jusqu’à sa mort, en 1988.
Il a une étoile sur le Palm Springs Walk of Stars depuis 1995. Il est enterré dans le Desert Memorial Park.
