Hur företag, kommuner och landsting hanterar sin digitalisering har diskuterats flitigt under en it-mässa i Luleå. Begreppet deepfake kommer från orden ”deep learning” i meningen ”djup maskininlärning” i datorer och ”fake” i meningen ”falsk”.

De självlärande nätverken kan sätta ihop stora mängder data, till exempel många olika bilder av ett ansikte, och skapa ”levande” modeller av dem.

Så kan man upptäcka en deepfake

Den datorskapade modellen kan sedan användas till exempel i ett videoklipp där man byter ut ansiktet på en person i en video till ett datorskapat ansikte från en helt annan person – så kalla face swap.

– Man använder algoritmer (AI) för att lära sig och utföra vissa saker, så i det här fallet handlar det om bildhantering, säger Mattias Niemi.

Hur kan man upptäcka att det är en manipulerad fejkvideo?

– Man kan upptäcka deepfakes på håret, tänderna eller rörelser i ansiktet som inte är naturliga, säger Mattias Niemi.

Vara någon annan

Det går med tekniken att skapa en konstgjord modell av en existerande människa. En modell som ser ut och rör sig som sin verkliga förlaga – och som sedan kan användas exempelvis som nyhetsuppläsare i tv utan att personen överhuvudtaget är inblandad. Det är bara den datorskapade modellen som agerar.

Det är också fullt möjligt att, med de rätta AI-programmen, ersätta sitt eget utseende med någon annans, kanske någon celebritet, och sedan låta datorn förvandla rösten till en kopia av en annan person och sedan i realtid delta i ett videosamtal i rollen som någon annan.

I klippet berättar säkerhetskonsulten Mattias Niemi hur det går till att luras med deepfakes.