Den senaste tidens uppmärksammade applikationer för att generera text, bild, ljud och video gör det möjligt för vem som helst att skapa innehåll som ser hyfsat bra ut. Open AI, som ligger bakom chatboten Chat GPT, konstaterar i en analys att tekniken kan driva ned kostnaden för att bedriva påverkansoperationer så att fler aktörer har råd att missbruka AI i desinformationssyfte.

Sprida propaganda

Det saknas inte exempel på att de har rätt.

Amerikanska undersökningsföretaget Graphika, som studerar desinformation online, visar i en färsk rapport hur en pro-kinesisk påverkansgrupp nyttjar tekniken. Financial Times rapporterade nyligen om liknande propagandaspridning med hjälp av syntetisk video i Venezuela till stöd för Maduro-regimen.

– I Venezuelas informations-öken frodas desinformationen och nu finns tekniken för att skapa övertygande fake news-videor, säger Adrián González, representant för organisationen Cazadores de Fake News som avslöjar desinformation, till tidningen.

I flera av fallen har videoklippen skapats med ett verktyg från det Londonbaserade företaget Synthesia. Deras applikation gör det möjligt att snabbt och enkelt skapa video med avatarer, som är förinspelade skådespelare som kan fås att säga vad man vill på över 120 olika språk

Synthesia uppger att det strider mot företagets användarvillkor att sprida felaktig information och att de som missbrukat tjänsten stängts av.

Skapa desinformation snabbt

Kristian Rönn, med en bakgrund inom datavetenskap och artificiell intelligens, drar som vd för Normative nytta av AI i det dagliga arbetet. Men han oroas över hur tekniken också kan användas för andra syften.

– Vem som helst kan be en AI skriva en miljon fake news-artiklar, mer än någon journalist någonsin kommer att kunna faktagranska. Desinformation på en skala som vi inte vet hur vi kan hantera.

Se SVT:s Alexander Noréns AI-avatar i klippet ovan.