I slutet av juni publicerade brittiska tidningen Daily Mail en video på sin Facebooksida. I videon kunde man se klipp på bland annat ett antal svarta personer.

Facebookanvändare som såg videon i sitt flöde fick upp en automatiserad textruta som frågade om de ville ”fortsätta se videor med primater”, vilket fick tidningen att undersöka saken och inaktivera den AI-drivna funktionen som drev budskapet.

Ber om ursäkt

På fredagen, den 3 september, bad Facebook om ursäkt och kallade händelsen för ett ”oacceptabelt fel” och sa att de undersökte funktionen med mål att ”förhindra att detta händer igen”.

Dani Lever, en taleskvinna för Facebook, sa i ett uttalande: ”Vi har förbättrat vår AI, men vi vet att det inte är perfekt, och att vi har mer arbete framför oss. Vi ber om ursäkt till alla som kan ha sett dessa kränkande rekommendationer.”

Facebook är inte ensamma

Liknande händelser har tidigare förekommit hos andra it-jättar. Till exempel 2015 då Google kategoriserade bilder på svarta personer som ”gorillor”. Företaget gick då ut och bad om ursäkt och lovade att åtgärda problemet.

Teknik för ansiktsigenkänning har stundtals varit otillräcklig när det kommer till människor med mörkare hy, och kan ha problem att identifiera dem. Förra året blev exempelvis en person gripen efter att ett ansiktsigenkänningsprogram pekat ut honom som skyldig gärningsman.

”Att lösa rasism är ingen prioritering”

Darci Groves, en tidigare anställd på Facebook, sa upp sig i somras efter fyra år på företaget. I en intervju med The News York Times menade Groves att rasism inte är ett prioriterat problem för företaget, med tanke på alla misstag de gjort gång på gång.

– Facebook kan inte fortsätta begå sådana här misstag och sen bara säga förlåt, säger hon.