Nach dem 2. Weltkrieg wurden in der BMW-Wohnsiedlung in München, die 1957 in "Gerberau" umbenannt wurde, viele Heimatvertriebene angesiedelt. Am 21. November feierte Pfarrer Erich Goldammer dort in der Kantine den ersten Gottesdienst und übernahm die seelsorgerische Betreuung der Siedlung.
Am 20. Juni 1948, dem Tag der Währungsreform, gab Pfarrer Goldammer den Plan bekannt, eine "Flüchtlings-Notkirche" zu bauen. Diese Kirche wurde von freiwilligen Helfern mit Steinen der von Bomben zerstörten Häuser gebaut. Am 21. August 1949 konnte Kardinal Faulhaber diese Kirche weihen.
Allmählich wurde aber das Lager der Heimatvertriebenen aufgelöst. Viele von ihnen zogen weg, aber manche konnten sich auch ein eigenes Haus bauen und wurden in Karlsfeld sesshaft. Der Gemeindebereich Karlsfeld-West wuchs somit stetig. Darum erwarb Pfarrer Josef Mühlhauser von St. Anna bereits am 13. Juni 1961 im Auftrag des Erzbischöflichen Ordinariates das Grundstück in der Schulstraße auf dem heute das Pfarrzentrum St. Josef steht.
1963 begannen die Planungen für die neue Kirche St. Josef, am 2. November 1965 wurde der Grundstein gelegt und am 9. Juli 1967 konnte Kardinal Julius Döpfner das Pfarrzentrum St. Josef weihen.
Zum 1. November 1970 wurde die Kuratie St. Josef zur Pfarrei erhoben.
Während das Erzbischöfliche Ordinariat die Kosten für den Bau des Pfarrzentrums übernahm, musste die Gemeinde die Einrichtung bezahlen. Dazu wurde der Kirchbauverein gegründet.
Die Ausstattung der Kirche wurde mit dem Bau der Orgel durch die Orgelbauwerkstätte Rudolf Kubak in Augsburg abgeschlossen, die am 13. Juli 1980 von Generalvikar Dr. Gerhard Gruber gesegnet wurde.
Im freistehenden Glockenturm der Kirche befinden sich fünf Glocken, zwei nach den Glockenpatronen Johannes Nepumuk und Hedwig benannt, sowie die Christkönigsglocke, die Josefs-Glocke und die Marienglocke. Die Glocken wurden 1967 in der Glockengießerei Rudolf Perner in Passau gegossen.
Eine Figur des Namenspatrons der Kirche, geschaffen von dem Künstler Hermann Schilcher aus Oberammergau rahmt mit der Orgel den Altarraum ein.
