'Beelden aanslag Christchurch niet gewelddadig genoeg voor algoritme Facebook'

De Nieuw-Zeelandse premier Ardern vindt dat er samen met socialemediaplatforms een oplossing gevonden moet worden voor het het delen van livestreams bij aanslagen. Daarmee reageert ze op Brian Fishman, Facebooks beleidsdirecteur voor terrorismebestrijding.

Volgens de Amerikaanse website Daily Beast heeft hij onlangs in het Amerikaanse Congres gezegd dat het algoritme de beelden van de aanslagen in Nieuw-Zeeland als niet gewelddadig genoeg beoordeelde. Daardoor werd de livestream niet meteen offline gehaald.

Bij de aanslag in Christchurch kwamen vijftig mensen om het leven. De schutter plaatste 17 minuten lang een livestream van het bloedbad online, die veel gedeeld werd op Facebook en YouTube. "Je zult je best moeten doen om iemand te vinden die niet vindt dat die beelden meteen verwijderd hadden moeten worden", zei Ardern in een reactie. "Dat het toch zo veel gedeeld is, is enorm schadelijk. Voor die video is geen plek in onze samenleving."

De premier doet dan ook een beroep op de platforms om er samen voor te zorgen dat zoiets niet nog een keer voorkomt. "Een van de problemen is dat er niet veel transparantie is over hoe de gebruikte algoritmes werken. Daarom is het vaak erg moeilijk om kritiek te uiten op de werkwijze van de bedrijven erachter."

Ardern zei al met veel andere leiders te hebben gesproken over het probleem. Ook wil ze graag een keer met Facebook-baas Mark Zuckerberg om tafel.

Omzeilen

Journalisten van de Britse krant The Guardian vonden zes uur na de aanslag nog een versie op Facebook. Ook waren zeker drie uur na publicatie nog kopieën te vinden op YouTube. Na veel commentaar liet Facebook eind vorige maand al weten te kijken naar manieren waarop de livestream-functie van het platform kan worden beperkt.

"Mensen met slechte bedoelingen zullen altijd proberen onze veiligheidsmaatregelen te omzeilen. Daarom moeten we hard blijven werken om ze voor te blijven", schreef Facebook-topvrouw Sheryl Sandberg toen in een open brief.

Boetes

Naar aanleiding van de aanslag in Christchurch werd vorige week in Australië een wet aangenomen waardoor socialemediaplatforms die niet snel genoeg gewelddadig beeldmateriaal verwijderen flinke boetes kunnen krijgen. In de meest extreme gevallen kunnen topmensen bij techbedrijven zelfs tot drie jaar cel krijgen.

De maatregel richt zich op "weerzinwekkend gewelddadig" beeldmateriaal, zoals video's van terroristische aanslagen, moorden, verkrachtingen of ontvoeringen. Als websites als Facebook, Twitter, YouTube, 4chan of 8chan dat soort filmpjes niet snel genoeg verwijderen, kunnen ze boetes krijgen die oplopen tot 10 procent van de jaarlijkse winst.