Artificiell intelligens har det senaste året blivit allt bättre på att generera fotorealistiska bilder på människor.
Samtidigt har en subkultur fokuserad kring explicit och pornografiskt innehåll vuxit fram – material som de stora AI-verktygen bannlyst. Runt årsskiftet samlade en grupp med ambitionen att förbättra och förenkla produktionen av AI-pornografi in över en halv miljon kronor på Kickstarter på bara lite mer än en vecka, innan insamlingen stoppades.
Och i denna utvecklings mörka skugga har ytterligare en variant vuxit fram: AI-genererade bilder som avbildar sexuella övergrepp på barn.
”Den här typen av bilder utgör en betydande utmaning”
För SVT Nyheter bekräftar Europol att denna typ av material redan existerar – och sprids.
– Europol är medvetet om förekomsten av denna typ av AI-genererat material inom EU. Framstegen inom AI har gjort det lättare för brottslingar att skapa material som visar sexuellt utnyttjande av barn, skriver Claire Georges, talesperson för Europol.
– AI-teknik som kan generera den här typen av bilder utgör en betydande utmaning.
Den svenska polisen delar Europols bild av läget.
Paralleller till ”Mangamålet”
Men skulle skapandet av denna typ av AI-bilder vara olagligt i Sverige?
I det uppmärksammade ”Mangamålet” åtalades en översättare specialiserad på japanska tecknade serier för barnpornografibrott för innehav av tecknade bilder. Översättaren frikändes i Högsta domstolen.
Högsta domstolen konstaterade att teckningarna var pornografiska och föreställde barn, men att det handlade om fantasifigurer som inte kan misstas för verkliga barn.
Enligt domen skulle ”En kriminalisering av innehav av teckningarna gå utöver vad som är nödvändigt”.
Skulle detta vara applicerbart också på AI-genererade bilder?
I videon ovan förklarar Björn Sellström, kommissarie på Nationella Operativa Avdelningen (NOA) på polisen, det juridiska läget i Sverige – och vilka problem denna AI-utveckling kan föra med sig.
