1978–1984 metais Vakarų Vokietijos nacionalinė rinktinė vadovaujant J.Derwallui 1980-iais tapo Europos čempione, o 1982 metais pasiekė Pasaulio čempionato finalą, kuriame nusileido Italijai.
Jam stovint prie komandos vairo rinktinė laimėjo 45-ias iš 67-ių tarptautinių rungtynių.
Savo kaip trenerio karjeros saulėlydyje J.Derwallas vadovavo Stambulo „Galatasaray“ klubui, kuris prieš strategui pasitraukiant 1987 metais tapo Turkijos čempionu.