Datorn som läser dina känslor

Uppdaterad
Publicerad

Ansiktsigenkänning tar reda på vem vi är. Känsloigenkänning försöker svara på frågan vad som rör sig i vårt inre. En kontroversiell teknik som håller på att bakas in i allt fler applikationer.

– Vi mäter mikrouttryck, subtila rörelser i ansiktsmusklerna. Ansiktet blir ett fönster till dina känslor, till det undermedvetna, förklarar Matteo Sorci som är forskningschef vid det schweiziska bolaget Nviso.

Jag testar deras verktyg för privatekonomiska rådgivare där jag får se korta snuttar av olika ekonomirelaterade scenarios samtidigt som datorns kamera filmar mitt ansikte för att analysera vad jag egentligen tycker om att ta risk och min inställning till att konsumera nu istället för att spara till pensionen.

– Om du frågas ut av en människa så kan dina svar påverkas av vad du tror är socialt acceptabelt att säga. På det här sättet fångar man upp dina ofiltrerade känslor kring pengar, menar Sorci.

Stort i Kina

Ett amerikanskt rekryteringsföretag använde tekniken för att sålla bland kandidater som fick genomgå en videointervju. Ett amerikanskt försäkringsbolag skröt om att de använde sådan AI för att analysera skadeanspråk som kunderna lämnade via videokamera. Detta för att avslöja lögnare. Både försäkringsbolaget och rekryteringsfirman fick hård kritik och backade från tillämpningen.

I Kina är det gott om bolag som satsar på känsloigenkännings-AI och säljer det till företag och organisationer som vill automatisera övervakning och kontrollera mänskligt beteende. ”Smarta ögon” används i en del skolor för att bedöma hur noga eleverna följer lektionen, och för att utvärdera lärarna utifrån hur väl eleverna verkar ta emot deras undervisning.

Kritiker: Oroväckande tillämpning av AI

Kritiker menar att det är en pseudovetenskap och ser en risk i att företag som vill spara pengar genom automatisering börjar använda en teknik som lovar mer än den kan leverera. Till men för de som utsätts för den.

– Känsloigenkänning är en av det mest oroväckande tillämpningarna av artificiell intelligens, varnar Daniel Leufer på organisationen Access Now som jobbar för människors digitala rättigheter.

Han menar att AI visserligen kan vara mycket bra på att känna igen typiska ansiktsuttryck. Men att det saknas bevis för att det går att koppla dem till känslor på det här sättet. Matteo Sorci på Nviso håller med om att det är svårt, men att det ändå går om man är medveten om begränsningarna.

– Melankoli och nostalgi kan ge upphov till samma ansiktsuttryck. Människor i olika kulturer kan visa glädje på olika sätt. Det är mycket viktigt att känna till kontexten för att det ska fungera.

Så arbetar vi

SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer om hur vi arbetar.