Знаменитый немецкий тренер Йозеф Дерваль долгое время был футболистом немецких «Алемании» из Ахена и «Фортуны» из Дюссельдорфа, принадлежавших ко второй Бундеслиге, работал в клубах Швейцарии «Билль» и «Шаффхаузен». В Швейцарии он впервые испытал свои силы в качестве играющего тренера. Такая перемена деятельности оказалась весьма успешной и в германию он вернулся уже как главный тренер «Фортуны». Вскоре получил приглашение от самого Хельмута Шена помогать ему тренировать сборную страны, а в 1978 году сменил его на посту главного тренера.

Шен оставил ему команду со славным прошлым, она занимала под его руководством первые места на чемпионатах Европы в 1972 г. и мира в 1974 г. Однако 1976 г. оказался для сборной ФРГ неудачным, они проиграла финал чемпионата Европы сборной Чехословакии по пенальти.

Юпп Дерваль серьезно обновил состав команды и в 1980 году на чемпионате Европы сборная считалась явным фаворитом. На том турнире сборная одержала победы над сборными Чехословакии и Голландии, и вышла в финал против сборной Бельгии. Финальный матч состоялся 22 июняна римском стадионе «Олимпико». Немцы показали настоящий «тевтонский характер» и команда хоть и не без труда одержала победу, забив решающий мяч за 2 минуты до конца игры.

Это была первая победа такого масштаба для Дюрваля, но она же стала и последней. На чемпионате мира в 1982 году сборная ФРГ проиграла финал со счетом 3:1 итальянской сборной, в составе которой был неудержимый Паоло Росси.

А чемпионат Европы в 1984 г. стал для сборной ФРГ просто провальным. Она даже не дошла до финала, заняв третье место в группе. После такой неудачи Юпп Дерваль ушел в отставку, передав полномочия Францу Беккенбауэру.

В 1984-1988 гг. он возглавлял клуб «Галатасарай» в Турции.