Utrikes
En person står framför ett fönster med en grå vägg bakom sig, klädd i en mörk kavaj och en randig skjorta. Bredvid personen finns ett grafiskt diagram som visar en nätverksstruktur med olika ikoner som representerar sociala medieplattformar som LinkedIn, Facebook och Twitter, samt en RSS-symbol och en generativ AI-symbol. Diagrammet illustrerar samband och interaktioner mellan dessa plattformar.

Javascript är avstängt

Javascript måste vara påslaget för att kunna spela video
– AI har ”demokratiserat” trollfabriken. Vem som helst har nu möjligheten att massproducera desinformation, säger Jack Brewster på Newsguard. Foto: SVT

Experterna: Så snabbt kan en AI-trollfabrik byggas

Uppdaterad
Publicerad

AI öppnar upp för massproduktion av digital desinformation. Men vad krävs egentligen för att göra det?

I videon visar två experter hur de snabbt och billigt byggde sin egen automatiska fejkfabrik.

Carl Heath leder arbetet med digital resiliens på forskningsinstitutet RISE, och är en flitigt anlitad talare på temat ”desinformation på nätet”. SVT träffar honom i Riga på NATO Stratcoms möte om sociala medier och AI, där han visar hur han använder ett marknadsföringsverktyg och en chatbot för att automatiskt göra om nyhetsartiklar från SVT till rysk-ortodox propaganda för spridning på X och Facebook.

Det krävde en lätt handpåläggning med grundläggande ”programmering” och tog 30 minuter.

– Vad som händer när tekniken blir tillgänglig är att fler kan göra det när det krävs mindre kunskap. Och det gör att problemet ökar i sin omfattning, konstaterar Carl Heath.

Jack Brewster, redaktör på amerikanska Newsguard, som granskar nyhetsmedier och avslöjar falska nyheter på nätet, gjorde det lättare för sig.

På en onlinemarknadsplats för tjänster hittade han en pakistansk frilansare som byggde en egen fejkad nyhetssajt åt honom för 100 dollar som kan spotta ur sig tusentals smutskastande artiklar på valfritt tema.

– AI har ”demokratiserat” trollfabriken. Vem som helst har nu möjligheten att massproducera desinformation, säger Jack Brewster.

Se mer i Fejkfabriken på SVT Play.

Relaterat

Så arbetar vi

SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer om hur vi arbetar.