Quelques années avant qu'éclate la seconde guerre mondiale, des études avaient été entreprises en Allemagne en vue d'aboutir à la production d'un nouveau pistolet automatique devant remplacer le vieillissant Lüger P-08.
Les premiers essais officiels de cette nouvelle arme se déroulèrent en 1936 et, après quelques modifications, la Wehrmacht l'adopta en 1938 (d'où l'appellation P-38). Le conflit se développant, les besoins d'armes de la Wehrmacht s'intensifièrent et la firme Walther ne parvint bientôt plus à faire face aux demandes. En conséquence, les usines Mauser produisirent également le P-38 à partir de 1942. Il a été conçu pour être fabriqué plus rapidement, à meilleur marché, et plus facilement que le P08. En plus de ces qualités, le P38 est robuste mais aussi sophistiqué. Il comporte de nouvelles caractéristiques qui l'ont rendu plus commode et plus sûr que le Luger, qui avait été conçu à la fin du siècle précédent. Entre autre, il bénéficie d'une détente à double-action, grande innovation dans le domaine des pistolets automatiques, qui permet de faire feu très rapidement d'une seule pression du doigt (sans la nécessité préalable d'armer à la main). Le P38 était très en avance sur son temps, fiable, précis et confortable d'utilisation, il est l'ancêtre du pistolet moderne.