”Det är inte tillåtet att publicera, ladda upp, strömma eller dela: Innehåll som ändrar eller förvränger en bild på en annan person för att porträttera eller antyda sexuell suggestion eller deltagande i sexuella handlingar. ”
Så står det i den sociala plattformen Tiktoks regler gällande sexuella trakasserier. Ändå fick ett rörligt bildspel bestående av AI-genererad deepfake-pornografi föreställande popfenomenet Billie Eilish ligga uppe i fyra dagar.
– Den som matar in innehållet kan begå en handling som inte är laglig. Den som visar innehållet, till exempel Tiktok, kan ha ett medverkandeansvar, säger Sanna Wolk, professor i juridik.
Tiktok: Medvetna om att vi inte fångar allt
Tiktok-kontot som lade upp bilderna hade över 76 000 följare och länkade till ett Instagramkonto med drygt 2 000 följare, som delade bilderna vidare och försökte sälja ”ocensurerade bilder” med ”explicit innehåll” för 20 dollar styck.
Tiktok vill inte ställa upp på en intervju med SVT, men bekräftar via mejl att innehållet bröt mot deras community-regler och att det raderats efter granskning. De uppger även att Sveriges modereringsteam inte stött på filmen och heller inte kan se att den spridits i någon omfattning här.
Samtidigt säger de sig vara medvetna om att de inte fångar upp alla fall av kränkande innehåll så snabbt som de önskar.
Sexualiserande filter och appar kritiseras
Deepfake pornografi är enligt många experter ett växande problem – men även överdrivet sexualiserande filter som i många fall används av minderåriga, eftersom Tiktok tillåter användare från 13 år.
De senaste veckorna har just AI-genererade bilder och filter från appar som Lensa eller Midjourney mött stor kritik för att lägga särskilt sexualiserande effekter på kvinnor. Vilket bland annat kritiserats av skådespelerskan Megan Fox, efter att appen Lensa skapat bilder där hon till största delen porträtteras naken.
– Det spelar ingen roll om det är kändisar eller nyheter. Just det här att förvränga verkligheten ökar dramatiskt, säger Sanna Wolk.
Se Sanna Wolk, professor i juridik, förklara vilka brott TikTok kan göra sig skyldiga till när brottsligt innehåll delas i videon ovan.
Vad innebär Deepfake?
Begreppet deepfake kommer från ”deep learning” i meningen ”djup maskininlärning” i datorer och ”fake” i meningen ”falsk”.
Djup maskinlärning är avancerad AI-teknik (Artificiell Intelligens) där flera lager av maskininlärda algoritmer används för att effektivt kunna plocka ut indataegenskaper på hög avancerad nivå. I praktiken så används detta ofta för att manipulera ett ansikte och en röst i video eller ett foto.
För att skapa en riktigt bra och trovärdig deepfake behövs hundratals bilder av ett ansikte från olika vinklar, men för att det ska funka hjälpligt behövs faktiskt bara ett enda foto.