Az 50 éves szakember már játékosként is szép karriert futott be, szerepelt a Stuttgartban, az Eintracht Frankfurtban, a Karlsruhéban és a Freiburgban is. Edzőként 1996-ban a Stuttgartban mutatkozott be, majd tevékenykedett a Fenerbahcénál, a Karlsruhéban, az Adanasporban, a Tirol Innsbruckban, majd az Austria Wiennél. Hat évvel ezelőtt került a német szövetség (DFB) kötelékébe, a 2006-os világbajnokságig Jürgen Klinsmann segítője volt.
A korábbi kiváló csatár a németországi torna után távozott, Löw pedig előrelépett. A korábbi asszistens szisztematikus munkával építette újjá a Nationalelfet, amely két évvel ezelőtt döntőbe jutott az osztrák-svájci közös rendezésű Európa-bajnokságon. A finálét végül a spanyolok nyerték 1-0-ra, de Németországban mindenki elégedett volt az együttes teljesítményével.
Löw és fiai a dél-afrikai világbajnokság selejtezőjében is kiválóan szerepeltek, majd az idei nagydőben mindenkit elkápráztattak látványos, gólratörő játékukkal. A Nationalelf végül az elődöntőben torpant meg, ismét a hispán nemzeti tizenegy állította meg a németeket. Schweinsteigerék végül ismét megszerezték a bronzérmet, elvileg ez el is dönthette a szakvezető sorsát.
Joachim Löw azonban már a vb előtt vacillálni kezdett a folytatásról, a bronzmeccs után pedig úgy köszönt el játékosaitól, mintha már végleges lenne az elválás. De nem így történt, a szövetség meggyőzte a trénert, aki így újabb nagytornán bizonyíthat csapatával.