Но в конце 1940-х годов, во время маккартистского преследования всех граждан с левыми взглядами, семья с 12-летним Джо была вынуждена покинуть США и поселиться в Париже.
Джозеф начинает учиться в элитном швейцарском колледже Ле-Розей, затем за четыре года не раз меняет школы: посещает школу в Италии, Женеве и, наконец, получает степень бакалавра в Гренобле.
Для учебы в ВУЗе Джо Дассен возвращается на родину в США и оканчивает университет в Анн-Арборе. В студенческие годы Джо обращается к музыке, с другом поет под гитару песни Брассенса.
В 1958 году Джо пишет несколько песен к фильму отца «Закон», диск-сорокапятка с саундтреком выходит на следующий год. Но в тот период Джо еще не воспринимает музыку всерьез. Он заканчивает диссертацию по этнологии и возвращается в Европу. Там он подрабатывает то ассистентом на съемках у своего отца, то ведущим, то журналистом «Плейбоя».
Настоящий успех в музыке ему помогает приобрести первая жена Мариз, которая в качестве сюрприза к 26-летию Джо решила записать его любительские песни на гибкий диск в звукозаписывающей студии CBS. Коллектив студии, оценив талант певца, уговаривают Джо подписать контракт.
После нескольких провальных дисков в конце 1966 года песня «Excuse Me Lady» наконец становится хитом. В следующие годы популярность Джо Дассена стремительно растет. Его неповторимый вокал и песни Les Dalton, Guantanamera, Siffler sur la colline, Les Champs-Élysées, Le Moustique, Si tu t’appelles mélancolie, L'Été indien и Le Café des trois colombes делают певца известным во всех концах земного шара.
Жизнь певца оборвалась 20 августа 1980 года на Таити, он скончался от сердечного приступа.