Marius' far, mølleejer Jørgen Peter Henriksen, døde omkring 1890, men enken fortsatte driften af møllen til den ældste søn, Anton Henriksen, kunne overtage den i 1898, 23 år gammel.

Selv om man siger, at det er skomageren, der skal blive ved sin læst, og det formentlig også gjaldt for hans børn, så må noget tilsvarende have været tilfældet for møller- og bagerbørn. Det var jo gerne forældrene der bestemte, hvor børnene skulle i lære – og hvem de i øvrigt skulle giftes med. I hvert fald blev Marius Henriksen også udlært som møller og bager. Han var to år i lære som bager i Allinge fra 1896-1898.

I 1898 rejste han til København og fortsatte som lærling i en bagerforretning i Tordenskjoldsgade ikke langt fra Det kongelige Teater. Efter endt læretid vendte han tilbage til Allinge, overtog det bageri og konditori der ses på de to billeder herover, og her drev han sin virksomhed i nogle år. Han blev gift med Anna Bech i 1906. Hun var datter af Peter Bech, der ejede stubmøllen i Svaneke og begge havde således rødder i de mere eller mindre "sammenspiste" møller- og bagerkredse, der må have været på Bornholm dengang. Familien fik fire børn, Edith f. 1907, Ivar 1910, Arne 1915 og Ruth 1918. Alle var født i Allinge.