”No one likes the poor”.
”Today is my birthday I hope get some love here”.
Bakom dessa kryptiska fraser lurar tusentals bilder som frossar i sår, amputerade armar, proteser och plågade små barn med fysiska funktionsnedsättningar, mestadels med indiskt eller afrikanskt utseende.
Bilderna som ackompanjerar fraserna har i ökande takt postats på Facebook, åtminstone sedan början av april 2024. De har i många fall tusentals eller till och med miljoner reaktioner och kommentarer.
Men det är inga riktiga barn – bilderna är sannolikt alla AI-genererade.
Sedan 2023 har AI-genererat bildinnehåll blivit mycket vanligare i sociala medier-flödena.
I många fall föreställer bilderna relativt realistiska motiv – vackra naturscenerier och tjusiga bostäder – och sprids vidare av sidor som publicerar olika typer av viralt innehåll.
Ur detta har en subgenre av grupper och sidor växt fram på Facebook och Tiktok där man gör sig lustig över äldre människor som lurats av AI-bilder till att skriva ”Så vackert!” och liknande i kommentarsfälten.
Som respons har Meta, som äger Facebook och Instagram, gjort försök att märka ut AI-innehållet, något som stött på en rad problem.
Sprids från Indien
Sedan våren 2024 har AI-barnen börjat dyka upp i flödena.
Vissa av Facebooksidorna som delar bilderna verkar vilja ge sken av att vara amerikanska. Sidan ”Social Help” ger till exempel sin kontaktinfo till ”Phoenix, Arizona, USA”.
Men tittar man närmare med Metas sidtransparens-verktyg kan man se att sidorna i regel administreras från Indien.
Proteser och ”poverty porn”
AI-bilderna kan ha flera olika teman.
Vissa av sidorna postar amerikanskt patriotiskt innehåll (till exempel flaggor och militärer), eller religiösa bilder (till exempel Jesus).
Men allt som oftast återkommer fokusen på funktionsnedsättningar, och det som kallas ”poverty porn” – bilder som exploaterar fattigdom och elände för att manipulera fram starka känslor av empati.
Med tiden har flera av sidorna börjat posta allt mer bisarrt och extremt innehåll, barn som skrikandes äts upp av insekter eller vilda djur, barn med stora öppna blodiga sår, eller barn som med slutna ögon flyter upp och ner i vattnet.
Hur fungerar de här sidorna? Är det människor eller botar som styr och kommenterar?
Och varför gör man detta?
Se SVT:s genomgång i videon ovan!
Om experten i videon
Vlada Rozova forskar på AI och tillämpad maskininlärning vid University of Melbourne, och tillsammans med Jake Renzella vid University of New South Wales i Sydney har hon tittat på förekomsten av AI-bilder på Facebook.