Overheden willen internetregels na 'Christchurch', maar wat werkt?
De manier waarop schutter Brenton Tarrant sociale media gebruikte bij de aanslagen in Christchurch schokte de wereld. Hij startte een livestream op Facebook en de beelden werden vervolgens razendsnel verspreid over het internet. De techplatforms hadden moeite met de stortvloed aan uploads.
"Het bereik van deze video's was onthutsend", vond de Nieuw-Zeelandse premier Ardern. Het lijkt nu zelfs een kantelpunt te worden, want overheden willen verandering zien. Op initiatief van Nieuw-Zeeland en Frankrijk komen regeringsleiders en techbedrijven morgen in Parijs samen om daarover te praten.
En daarmee hebben ze één van de grote problemen van onze tijd te pakken. "Als je dit op hoog politiek niveau organiseert, gaat daar een symbolische waarde van uit", zegt terrorisme-deskundige Jelle van Buuren. "Maar daarmee is de werkelijkheid van morgen nog niet veranderd."
De 'Christchurch call'
Want vooralsnog blijft de aanpak vaag. In een opiniestuk in The New York Times schreef premier Ardern afgelopen weekend dat op basis van maatregelen die al worden genomen, partijen worden opgeroepen om verder actie te ondernemen. Dat is de zogeheten 'Christchurch Call'. Daarnaast komt er een 'vrijwillig kader' waarmee de ondertekenaars beloven om online extremisme tegen te gaan.
Maar de afgelopen jaren zijn de techbedrijven zo enorm gegroeid dat lang niet alles meer door mensen wordt gecontroleerd. Zowel Facebook als YouTube (en daarmee moederbedrijf Google) is deels afhankelijk van machines die ongewenste content signaleren en, al dan niet na tussenkomst van een mens, verwijderen. Hun afhankelijkheid van die machines groeit.
Kunstmatige intelligentie
Het probleem in het geval van het filmpje uit Christchurch zat hem in de grote hoeveelheid uploads en dat de video steeds werd aangepast. Daardoor zag het systeem het telkens als een nieuwe video en werd die niet automatisch verwijderd.
"Dit was ongekend voor ons", zegt Kent Walker, juridisch topman van Google, in een gesprek met de NOS. "Het was een gecoördineerde poging om onze systemen te overweldigen." Hij vertegenwoordigt Google morgen in Parijs.
Volgens Natali Helberger, hoogleraar Informatierecht aan de UvA, stellen de techbedrijven te veel vertrouwen in de kunstmatige intelligentie die de herhalingen op basis van patroonherkenning moet voorkomen. "Die systemen zijn nog niet zo slim dat ze goed kunnen voorspellen hoe nieuwe versies van zo'n video eruit gaan zien. En het is ook koffiedik kijken of die systemen dat überhaupt ooit kunnen."
Er wordt een soort kat-en-muisspel gespeeld, tussen de uploaders en de techbedrijven, zegt Nikki Sterkenburg, onderzoeker bij de Universiteit Leiden van het gedrag van extreem-rechts online. "Er zijn mensen die er heel bewust op uit zijn om de video verder te verspreiden, ik heb het Christchurch-filmpje vijf of zes keer zien langskomen. Het is echt een punt van zorg."
Volgens Kent Walker is Google voor slimme regulering. "De kern van het probleem moet worden aangepakt. Regulering moet geen inbreuk maken op de toegang tot informatie, maar wel zorgen dat gewelddadige en extremistische content verwijderd wordt."
Bij de top morgen schuiven naast Google ook vertegenwoordigers van Facebook, Microsoft en Twitter aan. Onder de regeringsleiders zijn de premiers van Canada, het Verenigd Koninkrijk en Europese Commissie-voorzitter Juncker.
