iBorderCtrl heter ett avslutat forskningsprojekt som finansierats av EU. Hur pengarna använts och hur det lyckades är det ingen som vet. Det är hemligstämplat. ”Affärshemligheter” är motiveringen. Trots att det är skattepengar som finansierat det. Det man vet är att det syftade till att med hjälp av artificiell intelligens avslöja lögnare vid gränskontrollen. En virtuell passkontrollant frågar ut dig och bedömer om dina svar är trovärdiga.
Detta testades vid tre gränsövergångar i EU. Vid en av dem lyckades en journalist bli utvald som försöksperson. Fyra av hennes sexton svar bedömdes som lögn, trots att hon svarat ärligt på alla frågor. Enligt tyske EU-parlamentarikern Patrick Breyer (Piratpartiet), bevisar det att tekniken är opålitig, och användandet av den farlig.
– Det är stor risk att folk anklagas felaktigt. USA testade det här för ett par år sedan, och upphörde efter två år. Jag är säker på att de hade sina anledningar att lägga ned det.
Forskningsorgan inför domstol
Breyer är upprörd över hemlighetsmakeriet som tillåts omgärda EU-finansierade forskningsprojekt som detta. Han undrar varför skattepengar ska gå till saker som skattebetalarna inte får insyn i och har därför stämt EU:s forskningsorgan REA inför EU-domstolen.
– Jag begär tillgång till dokument och en laglig prövning av om det här är förenligt med fundamentala rättigheter inom EU. Utslaget blir prejudicerande för hanteringen av EU:s framtida forskningsprojekt.
Delar av teknologin bakom iBorderCtrl fortsätter utforskas i pågående projektet Tresspass. Där finns ”stress-avslöjaren”, en slags lögndetektor och en riskbedömning som bland annat bygger på om du betalade biljetten med kontanter.
Reglering av AI
EU-kommissionen har nyligen föreslagit reglering av användandet av AI, som i sådana här fall klassas som ”hög risk”. Men ansvarig kommissionär, Margrethe Vestager, ser det inte som ett problem att man samtidigt som man höjer varningsflagg, också finansierar sådana projekt.
– Tvärtom, det förstärker vårt budskap: omfamna artificiell intelligens, men var försiktig när det används i situationer där fördomar kan byggas in och det riskerar mänskliga rättigheter, säger hon till SVT.
