I helgen släpptes en video på Facebookägda Instagram där Mark Zuckerberg något robotaktigt säger:
“Föreställ er detta för en sekund: en man med fullständig kontroll över miljarder människors stulna data, deras liv, hemligheter och framtid. Den som har kontroll över data har kontroll över framtiden.”
Bakom det förvrängda klippet ligger det brittiska konstprojektet Spectre som drivs av två brittiska konstnärer och en reklambyrå. Att just Zuckerberg blev föremål för en så kallad “deep fake” är ingen slump.
Berusad Nancy Pelosi i fejkvideo
För några veckor sedan uppmanades Facebook att plocka ner en redigerad video på Demokraternas talman i kongressen, Nancy Pelosi, där hon framstod som berusad. Klippet skapades sedan Fox News publicerat ett klipp, som twittrades ut av president Donald Trump, där tempot har sänkts så att det framstår som att Pelosi stammar.
Facebook beslöt att behålla videon men lät den sjunka i rankning. En företrädare för företaget sade att man skulle göra likadant om det dök upp en fejkad video på Zuckerberg.
Lätt att använda
Tekniken bakom deep fakes är avancerad att konstruera, men lätt att använda. I dag finns mjukvara tillgänglig för den som vill experimentera, säger Mårten Björkman, AI-forskare på KTH.
-Tekniken man använder kallas generativa djupa neurala nätverk. Normalt så försöker man avgöra, “vad är det vi ser på bilden”? I de här fallen kastar man om och försöker skapa en ny bild utifrån önskemål, säger han.
De allra bästa exemplen på deep fake är gjorda av professionella. Om det är video av bättre kvalité kan den som studerar detaljerna ganska lätt uppfatta att det inte är naturligt. Men det är inte lika enkelt när det rör sig om lågupplöst video som sveper förbi på internet, säger Mårten Björkman.
– Samtidigt är det så starkt när vi ser en video att vi tror på det. Även om någon säger att det inte är sant så blir vi ändå påverkade.
Se video och diskussionen om deep fakes i SVT:s Morgonstudion i klippet högst i artikeln