På Stockholms universitet utvecklar forskare ett AI-system som ska kunna läsa av känslor. Tanken är bland annat att AI ska hjälpa terapeuter att göra en andra bedömning av hur klienten reagerat på det som sagts under ett terapisamtal.
– Det kan ibland vara svårt att uppfatta allting, som kroppsrörelser, ansiktsuttryck och tonläge. Det kan också vara svårt för en terapeut att minnas allt och då kan man hamna i förutfattade meningar om samtalet, säger Lennart Högman, forskare vid Psykologiska institutionen på Stockholms universitet.
Oro hos forskare
AI-verktyg utvecklas nu inom de flesta branscher. I Vetenskapens värld: Bakom AI uttrycker dock AI-forskare en oro för hur just känsloavläsning kan komma att användas. Som i till exempel rekrytering.
– Säg att jag söker ett jobb och utsätts för känsloavläsning. Baserat på mitt tonfall och mina ansiktsuttryck påstås saker om huruvida jag är en bra och stabil kandidat. Datorn kan påstå saker om mitt inre, säger Meredith Whittaker, före detta Googleforskare.
”Anledning att vara försiktig”
Lennart Högman tycker att oron är delvis berättigad.
– Det finns anledning att vara försiktig på hur vi använder den här typen av system. Det kan också finnas en övertro på hur vi kan använda det. Den gamla drömmen om lögndetektorer. Vissa är ju väldigt bra på att hålla tillbaka känslor, vissa kan det inte alls, säger Lennart Högman.
Se Vetenskapens värld: Bakom AI på SVT Play eller på SVT 2 den 29/1 klockan 20.00.
