Mark Zuckerberg, Barack Obama, Vladimir Putin och Nancy Pelosi. Listan på såväl politiker som andra typer av makthavare som figurerat i maniuplerade videos – så kallade deepfakes – har börjat bli lång. Ibland rör det sig om humor och satir, men den nya AI-tekniken kan också användas i politiskt syfte, för att sprida desinformation eller smutskasta politiska motståndare, som Kulturnyheterna har rapporterat om tidigare.
Men nu möter deepfakes motstånd. I höst inleder forskare vid Lunds universitet arbetet med en ny app som ska kunna avslöja falskt eller manipulerat nyhetsmaterial i Sverige, med hjälp av egna AI-algoritmer. Det rapporterar Vetenskapsradion i SR.
– Vi kanske får vänja oss vid att vi inte kan lita på en bild eller en ljudfil, säger Kalle Åström, professor vid Matematikcentrum vid Lunds universitet, till Vetenskapsradion.
Växande trend
Liknande teknik tas nu fram på olika håll i världen, då tekniken behöver anpassas efter ett specifikt språk. Programmen är i första hand tänkta att användas av journalister, men ska också finnas tillgängliga för allmänheten.
Teknik kallas för GAN, där två nätverk ”tävlar” mot varandra. Det ena försöker skapa så realistiska manipulerade klipp, medan det andra försöker avslöja dem. Forskarna i Lund jämför tekniken med kampen mot datavirus, där tekniken konstant behöver utvecklas.
– Virus skapas också hela tiden, men samtidigt det finns det personer som kämpar mot virusproduktionen, säger statsvetaren Anamaria Dutceac Segesten från Lunds universitet, till SR.