– Donald Trump är en riktig jävla åsna. Jag skulle aldrig säga de här sakerna, men någon annan kanske vill att jag ska säga det, säger en sammanbiten Barack Obama bakom sitt skrivbord i Vita Huset.
Buzzfeeds virala ”intervju” med den forne presidenten fick enorm uppmärksamhet i somras, framförallt för att den aldrig ägt rum. Det ser ut som Barack Obama, det låter som han, men i själva verket är det någon annan som pratar – och kan därför med hjälp av en ny teknik använda den världskände politikern som en digital marionett.
Klippet är en så kallad deepfake – en falsk video där ett datorprogram matats med bilder och ljud på Obamas utseende och röst, tills det lärt sig att återskapa honom in i minsta detalj. Tekniken slog igenom vid årsskiftet, och innebär att vi inte längre kan lita på att rörlig bild verkligen är äkta.
– Precis det är vad som hänt. Att manipulera video har man kunnat göra länge, men tekniken har blivit enklare och mer tillgänglig. Nu kan vem som helst göra det här, förklarar Martin Törnros, källkritiksexpert, som föreläser om bland annat deepfakes på svenska skolor och bibliotek.
Hämndporr och falska bevis
Namnet deepfakes kommer från en anonym användare på nätforumet Reddit, som la ut den hemmagjorda programvaran gratis på nätet vid årsskiftet. Sen dess har tekniken skapat skandalrubriker över hela världen, bland annat då den använts för att lägga in ansikten på kända skådespelerskor i porrfilmer. Och den typen av övergrepp är bara ett av flera orosmoment, menar Martin Törnros.
– Det kan börja användas för att göra hämndporr, som redan är ett stort problem idag, säger han till Kulturnyheterna.
– Man kan också fabricera bevis för att fälla någon i en domstol. Eller det omvända: Att den som är anklagad med en äkta video kan hävda att den är fejkad.
Än så länge går det fortfarande att avslöja deepfakes: Suddiga ansiktskonturer, flimmer eller avsaknaden av blinkningar är tecken på att videon har manipulerats. Men tekniken går snabbt framåt, något som inte minst skapar utmaningar för etablerade medier. Michael Kucera, nyhetschef på SVT Nyheter, säger att det är viktigt att medier är medvetna om att tekniken finns.
– Deepfakes är fortfarande är i utvecklingsstadiet, men sånt här kommer mer och mer, säger han till Kulturnyheterna.
– Samtidigt är frågan om vad som är äkta och inte något vi ställer oss dagligen. Ta till exempel en bild på en explosion – sker den vid rätt tidpunkt, på rätt plats? Bilden behöver inte vara manipulerad för att man måste kontrollera om den visar det den påstår sig visa.
Ökar misstänksamheten
Men det handlar inte bara om bara om att avslöja de faktiska, falska videoklippen, menar Martin Törnros. Bara det att tekniken finns, ökar risken för att verkliga bilder misstros och ifrågasätts. Samtidigt kan även slarvigt gjorda deepfakes få genomslag, på grund av den mänskliga lockelsen till att få sina åsikter bekräftade.
– Uppenbart fejkade saker kan få en viktig funktion i de fall där narrativet är viktigare än hur svårt klippet är att avslöja. Man vill tro på det man ser på grund av ens ideologi, säger Martin Törnros.
Som exempel nämner han bland annat fejkade bilder på muslimer som obekymrat promenerar förbi terroroffer, som trots att de är falska flera gånger fått spridning i samband med terrorattentat.
”Det mesta är äkta”
Hittills finns det inga kända fall där deepfakes har använts för att försöka manipulera politiken eller medierna. Istället ligger genomslaget hos mer lättsamma fall som deepfakes-projektet där man försöker redigera in Nicholas Cage i så många kända filmer som möjligt. Eller de nya Star Wars-filmerna, där tekniken möjliggjort att ha med skådespelare som åldrats eller avlidit. Så hur orolig ska man egentligen vara?
– Det är viktigt att man inte avfärdar alla videos som fejkade, lika lite som man inte ska göra det med bilder. Photoshop har funnits i många årtionden, men de flesta bilderna vi ser idag är fortfarande äkta, säger Martin Törnros.
– Så det är viktigt att inte måla upp ett skräckscenario där vi utgår ifrån att alla videos är fejk.