Basel hade 3-1 att gå på inför returmötet med Hammarby i Conference League-kvalet.
I regnet på Tele2 arena klev islänningen Jon Gudni Fjoluson fram och såg till att ordna förlängning.
Han gjorde 1-0 i den 48:e minuten på nick. Sex minuter senare utökade han till 2-0 på ett långskott med vänstern som touchade en Baselspelare och ställde målvakten.
Flera missar
I förlängningen gav Aziz Ouattara Mohammed Hammarby ledningen. 19-åringen höll sig framme nära mål och spelades fram fint av Astrit Selmani och kunde rulla in bollen i öppet mål i den 101:a minuten.
Men Basel reducerade på straff åtta minuter senare och tog kvalrysaren till straffar.
Där föll Hammarby sedan brassen Arthur avgjort i den femte omgången. Basel missade bara en straff, medan Darijan Bojanic och Paulinho båda sköt över.
– Det blir straffar och det är som ett lotteri. Jag gillar inte lotteri. Jag gamblar inte, har aldrig gjort det och kommer aldrig göra det. Jag tänker alltid att det är bäst att de som vill ta straffar ska ta straffar. Om det är några som ska ta straffar så är det Darijan (Bojanic) och Paulinho, säger Hammarbys tränare Milos Milojevic till Sportbladet och fortsätter:
– Jag hoppas bara att Darijan och Paulinho gråter ut i natt och kommer taggade i morgon. De mår dåligt. Fotboll är ett känslokrig. För supportrar, tränare och alla.
Elfsborg ute
Förlusten innebär att Hammarby missar gruppspelet i Conference League och att klubben går miste om ett miljonregn. En plats i gruppspelet ger minst runt 30 miljoner kronor i utbetalning från Uefa (Europeiska fotbollsförbundet).
Även Elfsborg åkte ut i kvalet. Boråslaget hade ett 0-5-underläge att försöka hämta in mot nederländska Feyenoord och föll till slut med totalt 3-6 trots seger med 3-1 i returen.
KLIPP: Malmö FF möter Juventus och Chelsea i CL-gruppspelet