Internetstiftelsen om regeringens press på techbolagen.

Javascript är avstängt

Javascript måste vara påslaget för att kunna spela video
Hör internetexperten på Interstiftelsen angående vad sociala medieföretagen kan göra för att ta mer ansvar mot kriminella aktörer på plattformarna. Foto: SVT/Storyblocks

Experter: Svårt för techjättarna att upptäcka olagligt innehåll

Uppdaterad
Publicerad

Regeringen vill att techjättarna tar mer ansvar när det gäller organiserad brottslighet på sociala medier.

Men experter som SVT har pratat med säger att de digitala plattformarna omöjligt kan upptäcka allt som är olagligt.

– De har ingen skyldighet att aktivt leta efter brottsligt innehåll, säger Daniel Westman, oberoende rådgivare och forskare inom it.

Den svenska och danska regeringen ska kalla upp de stora digitala aktörerna för att diskutera åtgärder mot hur sociala medier används för organiseras brottslighet.

SVT har tidigare rapporterat om annonser i sociala medier där kriminella söker personer som kan utföra våldsdåd i Danmark.

Svenska kriminella i Danmark

Enligt justitieministern Gunnar Strömmer (M) och hans danska motsvarighet är ett syfte att sätta press på techjättarna.

Svårt att upptäcka nya slangord

Måns Jonasson, internetexpert på Internetstiftelsen, säger att det finns två sätt för techaktörerna att upptäcka brottslighet. Antingen genom funktioner där användare anmäler inlägg, eller genom deras eget säkerhetssystem.

– De har algoritmer som försöker fånga upp otillåtet innehåll. Men det är hela tiden en balansgång att inte filtrera bort för mycket.

Samtidigt är det svårt om inte omöjligt att upptäcka allt eftersom det ständigt uppstår nya uttryck.

– Ett slangord som ”jappa” som används för att mörda någon, det är ett ord som man då måste lägga in i en ordlista för att börja leta efter. Och hur ska man veta om någon skämtar när den skriver det ordet?

Techjättarna kan ta till resurser

Techjättarna skulle däremot kunna ta ett större ansvar för att gå igenom anmälningar på deras plattformar, säger Måns Jonasson.

– Det handlar om att de skulle behöva anställda väldigt många fler moderatorer som granskar innehåll, men det är förstås väldigt dyrt.

Daniel Westman, oberoende rådgivare och forskare inom it, säger att det är en balansgång för lagstiftarna när det gäller hur mycket innehåll plattformarna kan ta bort.

– Utgångspunkten är att plattformarna inte har något direkt ansvar för det användarna gör och de har ingen skyldighet att aktivt leta efter brottsligt innehåll.

Måste klargöra vad som behöver göras

Plattformarna har en skyldighet att tillhandahålla funktioner för att kunna anmäla innehåll, och att agera när anmälningar kommer in.

De kan även vara skyldiga att vidta åtgärder om det till exempel kommer ett domstolsbeslut.

– Formuleringar om att plattformar ”måste ta sitt ansvar” kan låta bra, men man måste också tänka på vad exakt som ska göras, vilken makt de ska ha och vad som ska vara en uppgift för det allmänna.

Så svarar techjättarna

Tiktok skriver i ett mejl till SVT att de inte har någon kommentar men att de ser fram emot att ”samarbeta med justitieministern och dela med oss av hur vi för närvarande arbetar med denna fråga.”

Snapchat uppger att de rapporterar, tar bort och vidtar åtgärder när företaget uppmärksammas om brottsligt innehåll.

”Vi vill att brottslingar som missbrukar Snapchat ska ställas inför rätta och vi stödjer brottsbekämpande myndigheters utredningar”, säger Cees van Koppen, chef för public policy i Norden.

SVT har sökt Meta (Facebook och Instagram) och den krypterade plattformen Telegram.

Så arbetar vi

SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer om hur vi arbetar.

Svenska kriminella i Danmark

Mer i ämnet