Google har tagit ner AI-tjänsten Geminis bildgenereringsverktyg – tre veckor efter att den lanserades. Detta efter att användare påpekat att den återgett historiska bilder på ett felaktigt sätt.

Personer har bett AI:n att generera vikingar och ett par i Skottland på 1850-talet – varpå Gemini har återgett bilder på svarta och ickevita människor.

Även när man har bett AI:n att “skapa en bild på en påve” visade Gemini en ickevit kvinna, trots att påvedömets historia består av 266 personer – samtliga män och det stora flertalet vita. Ett av inläggen på X där man ser AI-bilderna har visats över 2,6 miljoner gånger.

De virala bilderna har väckt debatt i sociala medier den senaste veckan.

På grund av de historiska felaktigheterna menar vissa att tjänsten är “anti-vit”, skriver The Washington Post.

Google: “Vi ska bli bättre”

Google ber om ursäkt i ett blogginlägg som publicerades på fredagen där de beskriver att Gemini var så pass fokuserad på att visa en bred representation av olika människor att den blev för försiktig, även när den fick tydliga instruktioner.

De tackar användarna för konstruktiv kritik och säger att Geminis bildgenereringsverktyg pausas tills man jobbat fram en förbättrad version. Samtidigt menar Google att de inte kan lova att det aldrig uppstår ”pinsamma, inkorrekta och kränkande misstag” igen.

Se exempel på några AI-genererade bilder som väckt stor uppmärksamhet, i klippet ovan.