Josef Müller se narodil 18. října 1920 v Čopu na Zakarpatské Ukrajině. V roce 1939 byl odveden do židovské pracovní jednotky maďarské armády v Moháči, která byla zprvu využívána k těžkým pracím na území Maďarska. Na jaře roku 1942 byla jednotka přesunuta k východní frontě na Donu, kde během postupu k frontové linii například čistila minometná pole, kopala příkopy, pohřbívala zavražděné civilisty apod. Po bitvě u Stalingradu se mu podařilo utéct k Rusům, kde začal pracovat jako sanitář.

V Novochapjorsku se začala organizovat československá brigáda, do které se přihlásil. Byl přidělen k minometné rotě pod velením Františka Bedřicha. Získal hodnost svobodníka, desátníka i četaře. Vyznamenal se hned ve svém prvním boji o Kyjev, kdy jako mířič minometu úspěšně zasáhl nepřátelské postavení. Účastnil se bojů na Dukle a u Liptovského Mikuláše, kde byl raněn.