Matchen avgjordes i slutminuterna när kazakerna tack vare två snabba mål av Alexander Nasonov och Rauan Issaliev gick från 3-3 till 5-3.
– Det var små marginaler mellan två bra lag. Jag är imponerad över att de kunde ge Sverige en riktigt tuff match i går och ändå komma tillbaka och vara så bra i dag, sade Finlands förbundskapten Antti Parvianen.
Finland gick annars till halvtidsvila med en 2-0-ledning, och såg ut att ha full kontroll på matchen – som officiellt spelades i 30 minusgrader – mot de tröttkörda kazakerna.
Men efter ett misstag i helt fel läge och några hörnor som inte gick in så var bronset borta.
I och med förlusten har finländarna förlorat bronsmatchen mot Kazakstan tre år i rad.
– I den första kontrollerade vi spelet som vi planerade. I början av andra gjorde de mål tidigt. Och trots att vi kom tillbaka och kunde kvittera så orkade vi inte hålla ihop. Grattis till dem, de gjorde det bra. Jag har 17 ledsna spelare i omklädningsrummet som gärna hade vunnit bronsmedaljen, men är det kris i finska bandy? Nä, det hoppas jag inte, sade Parvianen.