Efter en jämn inledning på matchen klev Johanna Bundsen fram. Den svenska målvakten stod för flera viktiga räddningar och låg bakom det svenska rycket.
Ett måls ledning blev till sex och det svenska laget ledde med 17-13 efter den första halvleken.
– Bundsen gör en väldigt bra match och gör flera viktiga räddningar, säger Nathalie Hagman.
Japan närmade sig något strax efter pausvilan, men det svenska laget hade full kontroll och det blev till slut aldrig riktigt spännande.
Carlson bästa målskytt
Sverige vann matchen med 35-28 och Jenny Carlson blev planens bästa målskytt med sju fullträffar.
– De är helt nya spelare, men jag tycker vi löser det bra, säger Jamina Roberts.
I morgon väntar Ungern och därefter avslutar Sverige OS-kvalet på söndag med en match mot Storbritannien. De två bästa lagen i gruppen går vidare till OS i sommar.
I den andra matchen i Sveriges grupp körde Ungern över Storbritannien med 49-11.