Kultur

  • Viktigt meddelande:

    Viktigt meddelande till allmänheten i Skelleftehamn och Örviken i Skellefteå kommun, Västerbottens län. Det brinner i ett industriområde med kraftig rökutveckling till följd. Räddningsledaren uppmanar alla i området att gå inomhus och stänga dörrar, fönster och ventilation. För mer information lyssna på Sveriges Radio P4 Västerbotten.

Deepfake-tekniken kan användas till att göra manipulerade videos av politiska ledare som ser helt autentiska ut. På bilden manipuleras ett klipp med USA:s tidigare president Barack Obama. Foto: AP/TT

Svensk app ska stoppa deepfakes

Uppdaterad
Publicerad

Debatten om deepfakes – falska videos gjorda med AI-teknik – har eskalerat under våren sedan flera politiker och kända personer figurerat i manipulerade videoklipp. Med hjälp av en ny app vill forskare i Lund nu ta upp kampen mot falska nyheter.

Mark Zuckerberg, Barack Obama, Vladimir Putin och Nancy Pelosi. Listan på såväl politiker som andra typer av makthavare som figurerat i maniuplerade videos – så kallade deepfakes – har börjat bli lång. Ibland rör det sig om humor och satir, men den nya AI-tekniken kan också användas i politiskt syfte, för att sprida desinformation eller smutskasta politiska motståndare, som Kulturnyheterna har rapporterat om tidigare.

Men nu möter deepfakes motstånd. I höst inleder forskare vid Lunds universitet arbetet med en ny app som ska kunna avslöja falskt eller manipulerat nyhetsmaterial i Sverige, med hjälp av egna AI-algoritmer. Det rapporterar Vetenskapsradion i SR.

– Vi kanske får vänja oss vid att vi inte kan lita på en bild eller en ljudfil, säger Kalle Åström, professor vid Matematikcentrum vid Lunds universitet, till Vetenskapsradion.

Växande trend

Liknande teknik tas nu fram på olika håll i världen, då tekniken behöver anpassas efter ett specifikt språk. Programmen är i första hand tänkta att användas av journalister, men ska också finnas tillgängliga för allmänheten.

Teknik kallas för GAN, där två nätverk ”tävlar” mot varandra. Det ena försöker skapa så realistiska manipulerade klipp, medan det andra försöker avslöja dem. Forskarna i Lund jämför tekniken med kampen mot datavirus, där tekniken konstant behöver utvecklas.  

– Virus skapas också hela tiden, men samtidigt det finns det personer som kämpar mot virusproduktionen, säger statsvetaren Anamaria Dutceac Segesten från Lunds universitet, till SR.

Relaterat

Så arbetar vi

SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer om hur vi arbetar.