Керн родился на Манхэттене в семье еврейских иммигрантов из Германии. Музыкальные способности проявились рано: мать, опытная пианистка и педагог, обучила его игре на фортепиано и органе. Он окончил Музыкальный колледж в Нью‑Йорке (1904), затем продолжил обучение в Европе.
Карьеру Керн начинал как театральный пианист и аранжировщик, писал отдельные номера для спектаклей. Важным этапом стало сотрудничество с Гаем Болтоном и Пеламом Вудхаузом для театра «Принцесса»: они создали новую модель музыкальной комедии — с цельным сюжетом и органично встроенными песнями.
Вершиной творчества Керна считается мюзикл «Плавучий театр» (Show Boat, 1927), созданный вместе с либреттистом Оскаром Хаммерстайном II. Постановка затрагивала серьёзные социальные темы и сильно изменила представление о жанре мюзикла. Из этого спектакля особенно известна песня «Ol’ Man River» — стилизация афроамериканского духовного песнопения о реке Миссисипи, ставшая одним из главных хитов XX века.
Многие мелодии Керна стали джазовыми стандартами и исполнялись десятками артистов. Среди самых узнаваемых:
В общей сложности Керн написал музыку более чем к 100 сценическим постановкам и создал свыше 700 песен.
С 1930‑х годов Керн активно писал музыку для кино. Он сотрудничал с крупными студиями и создавал песни для фильмов с такими звёздами, как Фред Астер и Джинджер Роджерс. Его киномузыка сочетала театральную выразительность с кинематографической лёгкостью и надолго закрепилась в репертуаре эстрадных и джазовых исполнителей.
Джером Керн считается одним из основателей американской популярной и театральной музыки. Его вклад в развитие мюзикла и песни высоко оценён: он включён в Зал славы авторов песен, а посмертно получил специальную награду «Грэмми» (Grammy Trustees Award).