Его родители выступали в кабаре. Какое-то время Жан работал разнорабочим. А в 19 лет он сыграл первую роль в мюзикле «Фоли-Бержер».
Вскоре он ушел в армию, а после службы продолжил актерскую карьеру. В составе театральной группы совершил турне по Южной Америке. А после того как вернулся во Францию, начал работать в Мулен Руж. После этого актера стали приглашать на серьезные роли в театре. В 1928 году он снялся в двух немых фильмах.
Еще в 1925 году актер женился в первый раз на Габи Басе, но брак их продлился всего пять лет. В 1930 году Габен перешел в звуковое кино, снялся в фильме «Пусть каждому повезет». После этого на протяжении четырех лет Габен снялся во многих фильмах, играя в них в основном второстепенные роли. Слава пришла к актеру в 1934 году после выпуска фильма «Мария Шапделен».
Звездой французского кинематографа Габен стал в 1936 году, снявшись в военной драме «La Bandera». А еще через год Жан Габен стал всемирно известен, благодаря фильмам «Пепе Ле Моко» и «La Grande Illusion».
После этого актер отправился в Америку. В 1939 году он развелся со своей второй женой Сюзанн Маргерит Жанной Мошен, с которой они прожили шесть лет (в браке родилось двое детей), и у него начался роман с Марлен Дитрих.
Вместе с ней снялся в фильме «Martin Roumagnac», но фильм не имел успеха. Несмотря на провал, Габена пригласили сняться в фильме «Au-Delà Des Grilles», который получил «Оскара» в 1949 году.
Потом актер снялся еще в нескольких фильмах, которые так и не стали событием. Былая слава пришла к актеру в 1954 году после выхода фильма «Не тронь добычу!», и в последующие 20 лет он снялся в нескольких десятках картин, многие из которых были сняты на кинокомпании «Gafer Films», которую Габен создал вместе с другим актером — Фернанделем — в 1963 году.
Умер Жан Габен 15 ноября 1976 года в пригороде Парижа от сердечного приступа.