Ostermann wurde in Mülheim am Rhein geboren. Er war der Sohn des Eisenbahners Peter Ostermann und seiner Frau Gertrud, geb. Paas. 1878 zog die Familie nach Deutz, wo man dem Vater, der bei der Bergisch-Märkischen Eisenbahn beschäftigt war, eine bessere Stelle angeboten hatte. Da Deutz in dieser Zeit Garnisonsstadt war, kam Willi Ostermann in frühester Kindheit in Kontakt mit den durchziehenden Militärmusikkapellen. Ostermann besuchte die katholische Volksschule in Deutz. Zu dieser Zeit erhielt er aufgrund seiner roten Haare den Spitznamen „Ostermanns-Fuss“ oder auch „dä jlöhndije Fuss“ (jlöhndije = „glühende“, Fuss = „der Fuchs“, auf Kölsch auch das Wort für „der Rothaarige“). Mitschüler berichteten später, er habe bereits in der Schule mundartliche Parodien auf Gedichte angefertigt.