Beslutet fattades efter ett möte mellan president Jimmy Morales och den israeliske premiärministern Benjamin Netanyahu på söndagen och kommer bara veckor efter att USA:s president Donald Trump bestämde sig för att erkänna Jerusalem som Israels huvudstad.
Morales meddelade nyheten på sociala medier.
Guatemala blir därmed det första landet, förutom USA, som ska flytta sin ambassad. Det finns ingen tidsplan för när detta ska ske med någon av ambassaderna. Även Tjeckien har sagt att man överväger en flytt.
Fördöms
Jerusalems status är ett av de största hindren för att nå ett fredsavtal mellan Israel och palestinierna, som vill ha östra Jerusalem som huvudstad.
Trumps beslut har fördömts av flera världsledare och i torsdags röstade FN:s generalförsamling igenom en resolution med innebörden att alla beslut om Jerusalems status är ogiltiga och måste upphävas.
Guatemala var ett av nio länder som ställde sig på USA:s sida under omröstningen.
128 medlemmar röstade för resolution, 35 avstod och 9 länder röstade emot, rapporterar BBC.
Trump hotar avbryta ekonomiskt stöd
USA är ekonomiskt viktigt för Guatemala, och Trump hade hotat att avbryta ekonomiskt stöd till länder som stödde FN-resolutionen.
I augusti ville riksåklagare och antikorruptionsutredare stödda av FN utreda Morales, en före detta tv-komiker med ett starkt stöd bland konservativa kristna, för illegal kampanjfinansiering.
Morales undvek riksrätt och försökte få FN:s antikorruptionsutredare utvisad ur landet. Utvisningsbeslutet upphävdes dock av författningsdomstolen efter kritik av FN, EU och USA.