EU-kommissionens regleringspaket klassar viss användning av artificiell intelligens som extra riskabel. Det handlar bland annat om självkörande fordon eller automatiserad bedömning vid rekrytering och kreditgivning. Margrethe Vestager ser en risk för att sådana algoritmbaserade beslutssystem bygger in fördomar då historiska data, som de ofta bygger på, kan vara snedvridna:
Diskriminering en risk
– Det finns risk för diskriminering. Du kanske inte får jobbet du söker bara för att du är kvinna, du får inte lånet beviljat för att du tillhör en minoritet, det handlar om fundamentala saker i våra liv, där våra värderingar är hotade.
Särskild vikt läggs vid ansiktsigenkänning. När det används kontinuerligt i övervakningssyfte på ett automatiserat sätt ska det i princip vara förbjudet på allmänna platser. Undantaget, säger Vestager, är polis och myndigheter med särskilt tillstånd.
– I ett begränsat antal situationer, exempelvis när man letar efter en terrorist eller ett försvunnet barn.
Inga ”sociala betyg”
EU-kommissionens reglering vill också helt förbjuda myndigheter att ägna sig åt någon form av ”social betygsättning” såsom det utvecklats i Kina där medborgare får en klassificering beroende på hur väl de sköter sig i samhället.
– Som när en stat noterar ditt beteende, om du kör mot rött ljus eller är sen med att betala hyran, och därför skulle sätta dig under extra lupp i övrigt. Det ska vara helt förbjudet.
Experten: Skarpt paket
Annars handlar det mycket om företags skyldigheter, att de som använder artificiell intelligens måste ange det för kunder i situationer där det kan påverka deras beslut i viktiga frågor och vara öppna med hur dataprogrammen fungerar så beslutsmodellerna kan granskas av myndigheter. Företag som bryter mot reglerna riskerar miljardböter av EU.
– EU:s regleringspaket är skarpt. Med ett etiskt filter, synliggörandet av etiska avvägningar mellan vinst och värderingar, så kommer vi få AI-applikationer som vi känner oss mer trygga med, tror AI-experten Anna Felländer på AI Sustainability Center.
