Det var två lag i behov seger för att nå kvartsfinal.
Sverige hade också 2-0 efter den första perioden efter mål av Andreas Wingerli och Rickard Rakell.
Sverige hade även med sig 2-0 in i den tredje perioden.
Men då fick Tjeckien en drömstart på perioden och gick ifatt till 2-2 på knappt fem minuter, där båda målen tillkom i powerplay.
Och Tre Kronors mardröm i den tredje perioden fortsatte.
”Hamnade på hälarna”
Tjeckien gjorde 3-2 genom Lukas Klok efter åtta minuter, och avgjorde med 4-2 i öppet svenskt mål, när Sverige tog ut målvakten Adam Reideborn, med tre minuter kvar.
– Vi hamnade på hälarna och sedan kan vi inte hantera den pressen som tjeckerna sätter på oss efter det. De sköljer över oss lite grann, vi förlorar närkamper och kommer tvåa på puckarna. De växlade upp sitt spel och tyvärr växlade vi ner, säger Johan Garpenlöv.
Frustrationen var stor i det svenska laget efter matchen.
– Jag tycker vi har matchen under kontroll. Men de är effektiva i powerplay och tar över matchen, säger Tre Kronors Oscar Lindberg, som satt utvisad när Tjeckien inledde sin upphämtning.
Rickard Rakell gjorde sitt första mål i VM – men hade svårt att glädjas över det efteråt.
– Tung förlust. Vi hade det i egna händer. Vi pratade i periodpausen om att fortsätta spela samma spel men det blir tufft när de gör första powerplaymålet. De får energi och vi försöker sätta emot men kunde inte. Det är tufft, säger Rickard Rakell.
VM
Sverige
2 - 4
Tjeckien
Första perioden
- 1-0Wingerli (Friberg)12:08
- 2-0Rakell (Kempe/Nygren) PP115:02
Tredje perioden
- 01:102-1Vrána (Stránský) PP1
- 04:532-2Kovár (Sekác/Kubalík) PP1
- 08:172-3Klok (Kovár)
- 18:262-4Flek (Kubalík) ENG