Ze houden het afvoerputje van het internet schoon: de zogenaamde 'content-moderatoren' van Facebook, Google en Twitter. Dag in, dag uit beoordelen ze in de Filipijnse hoofdstad Manilla duizenden gewelddadige- en pornografische beelden. Maar ze moeten ook haatzaaierij onderscheppen en dat zonder de vrijheid van meningsuiting te beknotten. Het lijkt een onmogelijke opgave.
Documentairemaker Hans Block sprak met verschillende online schoonmakers. De onthullende film 'The Cleaners', die hij hierover samen met regisseur Moritz Riesewieck maakte, gaat donderdag in Nederland in premiere.
"De externe bedrijven die door de techbedrijven worden ingehuurd om voor hen te modereren leggen hun medewerkers contractueel een zwijgplicht op, dus het was moeilijk om ze te spreken. De moderatoren in de documentaire waren net gestopt of wilden stoppen."
25.000 berichten per persoon per dag
De vaak jonge moderatoren worden blootgesteld aan geselecteerde berichten die extreem geweld, sadisme , haatzaaierij of (kinder-)porno bevatten. Een van hen zag hoe iemand zich voorbereidde op een zelfmoord, maar mocht niet ingrijpen. Uiteindelijk beroofde de persoon op de live-beelden zich van het leven.
Een andere moderator zag talloze onthoofdingen en kan nu aan de snede zien wat voor soort mes is gebruikt. Weer een ander deed haar beklag bij de leiding nadat ze kinderpornobeelden moest beoordelen. Tevergeefs. "Ze zeiden dat ik contractueel verplicht was de beelden te bekijken", aldus de moderator.
De psychologische opvang na het zien van dit soort beelden is volgens de schoonmakers nihil. De meesten houden het maar een half jaar of een jaar vol. Het dagelijkse doel is het beoordelen van 25.000 berichten, zegt een van hen. Na drie 'fouten' lig je eruit, zegt een ander.
Maar wat een fout is, is onduidelijk. De richtlijnen zijn voor meerdere interpretaties vatbaar en veranderen geregeld: "Is een oorlogsmisdaad nieuws of propaganda? Is naaktheid kunst of satire? Het is voor hen vaak moeilijk te onderscheiden", aldus documentairemaker Block.
Erdogan
De voormalige censuurchef van Google, Nicole Wong, bekent in de documentaire dat de techgigant zwichtte voor Turkije, toen het land bezwaar aantekende tegen bepaalde video's op YouTube. "Ze waren niet in strijd met onze richtlijnen maar wel illegaal in Turkije, dus we hebben ze onzichtbaar gemaakt voor IP-adressen in dat land. Ik was er niet trots op maar dat is wat we deden", zegt Wong.
Facebook en Twitter weerden ook berichten van Nederlandse publicisten en cartoonist Ruben L. Oppenheimer waarin de draak werd gestoken met de Turkse president Erdogan.
Na aanhoudende kritiek heeft Facebook recent de interne richtlijnen voor verboden berichten openbaar gemaakt.
Terwijl sommige regimes sociale media dus censureren, maken anderen er juist gretig gebruik van. In de documentaire is te zien hoe president Duterte van de Filipijnen Facebook gebruikt in zijn bloedige kruistocht tegen drugsdealers- en gebruikers.
En zowel in Sri Lanka als in Myanmar is Facebook een katalysator voor boedhistisch geweld tegen moslims. Zo versterkt desinformatie en haatzaaierij op het platform het geweld tegen de Rohingya-minderheid.
'Anti-sociale media'
"Internet staat in die landen gelijk aan Facebook, want het platform biedt haar gebruikers er gratis toegang tot dat internet", zegt de Amerikaanse auteur Siva Vaidhyanathan. Hij brengt volgende maand het boek 'Antisociale media' uit. De ondertitel is 'Hoe Facebook ons onthecht en democratie ondermijnt'.
Hij somt op hoe het platform keer op keer de meest extremistische berichten hoog in de tijdlijn stuwt, een duwtje in de rug voor propagandistische boodschappen. "Facebook geeft dictatoriale leiders een perfecte gereedschapskist, met gewelddadige gevolgen", aldus de schrijver.
Terwijl de techgiganten in het westen onder vuur liggen vanwege nepnieuws, Russische trollen en beïnvloeding van verkiezingen leidt desinformatie in ontwikkelingslanden al tot dodelijke slachtoffers. Documentairemaker Block spreekt zelfs van een 'dystopie' van sociale media in de Derde Wereld. "Dit is de nachtmerrie waar we ons op zouden moeten richten anders gaat het in de toekomst overal zo."
Wederhoor: Facebook
Facebook erkent in een reactie dat het werk van de moderatoren vaak moeilijk is. "Dat is de reden waarom iedereen die Facebook-content beoordeelt/bekijkt ook psychologische ondersteuning krijgt aangeboden", mailt een woordvoerder. "Daarnaast hebben we ook verschillende wellness opties (denk aan yoga)."
"We hebben meer dan 7500 mensen die wereldwijd content beoordelen. Onze doelstelling is om door te groeien naar 20.000 mensen dit jaar."
"Het is in ons belang om er zeker van te zijn dat men redelijke en haalbare targets meekrijgt. Facebook-contracten vereisen dat alle leverancierspartners zorgen voor psychologische ondersteuning en we werken samen met onze partners om de toevoegingen jaarlijks te evalueren."
"Facebook financiert en controleert actief bij de partners met wie we werken dat er werkomstandigheden worden gecreëerd die psychologische ondersteuning garandeert."
Met betrekking tot de kritiek op de rol van Facebook in landen als Myanmar laat het bedrijf weten dat het serieus werk maat van het tegengaan van haatzaaien. "Er is geen plek voor haatzaaien of content die geweld promoot op Facebook. We zullen daar hard tegen optreden. We nemen dit zeer serieus en werken al jarenlang samen met experts in Myanmar om veiligheidsmaatregelen en tegenspraak campagnes te ontwikkelen. Dat werk omvat ook een speciale Veiligheidspagina voor Myanmar, een plaatselijke geillustreerde versie van onze richtlijnen voor community's. Maar we kunnen natuurlijk altijd nog meer doen en we zullen blijven samenwerken met plaatselijke experts om onze gemeenschap veilig te houden."
