1-0 kom i den 23:e minuten då VM-veteranen Mana Iwabuchi testade skott strax utanför straffområdet och Lee Alexander i det skotska målet inte lyckades rädda det trots att det kom mitt i målet.
En kvart senare drygade Yuika Sugasawa ut ledningen till 2-0 från straffpunkten.
Skottland kämpade tappert och med bara ett par minuter kvar fick de utdelning. En katastrofpassning av Japans Nana Ichise gick rakt till den skotska inhopparen Lana Clelland som jättesnyggt sköt in reduceringen i krysset.
Segern gick ändå rättvist till Japan som möter den andra gruppfavoriten England i den avslutande gruppspelsmatchen på onsdag.