En tecknad bild visar en liten flicka som trycks ned av en hand under vattenytan i ett badkar. Bildtexten lyder “när din dotter blivit kär i en negerpojke”. Bilden är ett riktigt Facebook-inlägg som visas upp på en storbildsskärm för framtida moderatorer.
– Det här tar vi inte bort eftersom det inte är en direkt uppmaning till våld, säger utbildaren på det irländska företaget CPL Resources som sköter modereringen av Facebooks material.
Hellre fria än fälla
I dokumentären Inside Facebook: Secrets of the Social Network visas flera exempel på när facebooks moderatorer uppmanas att hellre fria än fälla stötande material, bland annat videofilmer med våld mot barn, djurplågeri, blodiga självskador och hets mot invandrare och minoriteter.
– Det är det riktigt extrema och farliga innehållet som attraherar de mest engagerade människorna på plattformen, säger riskkapitalisten Roger McNamee som investerade i företaget i ett tidigt skede.
Han var tidigare också mentor till Facebooks grundare Mark Zuckenberg, men kritiserar nu företaget för att tjäna grova pengar på annonser genom nättrafik som extremistiskt och stötande material generar.
Facebook förnekar att det skulle ligga i företagets intresse att ha överseende med våldsamt eller extremistiskt material.
– Chockerande material gör inte att vi tjänar mer pengar. Det är ett missförstånd kring hur digitala plattformar fungerar, säger Richard Allen som jobbar med facebooks riktlinjer för användare.
Personalstyrkan ska fördubblas
Efter att ha tagit del av Channel 4:s dokumentärfilm medger däremot Facebook misstag i bedömningar av kontroversiellt material och säger att utbildarna som smygfilmats själva har fått genomgå en ny utbildning för att korrigera felen.
Facebook kritiseras också för att ge högerextremistiska facebookgrupper en särskild skyddsstatus, som gör att grupperna inte blockeras automatiskt vid många anmälningar. Den särskilda statusen har från Facebooks sida motiverats med att till exempel samhällsorganisationer och stora medieföretag behöver skyddas från organiserat sabotage.
Omkring 10.000 människor runt om i världen jobbar med att moderera Facebooks material i nuläget, de flesta är anställda via undereverantörer. Facebook uppger att personalstyrkan kommer att fördubblas inom det närmsta året.