Hollandse Hoogte

Het is één van de grootste kopzorgen bij socialemediaplatforms: hoe voorkom je de verspreiding van extremistische content op je netwerk? Terreurorganisaties zoals IS maken handig gebruik van de enorme impact en het massale bereik van bijvoorbeeld Facebook en YouTube. Techbedrijven komen nu met een gezamenlijke aanpak, om die verspreiding in te perken.

Die aanpak komt er in de vorm van een database, die gevuld en beheerd wordt door Facebook, Twitter, YouTube en Microsoft. Als één van de vier bedrijven foto's en video's met extremistische inhoud tegenkomt, dan stopt het bedrijf dat in de database, met een unieke code. De andere partijen kunnen vervolgens aan de hand van die code op hun eigen platform gerichter zoeken en ongewenste foto's en video's eerder verwijderen.

Dilemma's

Dat kan niet verkeerd zijn, toch? Je wil als online gebruiker vermoedelijk niet worden geconfronteerd met een video waarin iemand wordt onthoofd. Maar het werpt ook dilemma’s op. De genoemde bedrijven hanteren bijvoorbeeld allemaal een ander beleid over het verwijderen van content. 

Dat wordt ook benadrukt in een gezamenlijk opgesteld blog. Alleen informatie over de "meest extreme content" zal met de andere bedrijven worden gedeeld. Vervolgens maken ze hun eigen afweging.

Ik vrees dat dit soort databases er veel te snel toe leiden dat we dingen niet te zien krijgen.

Rejo Zenger van burgerrechtenorganisatie Bits of Freedom

Maar juist het blog roept een hoop vragen op die niet worden beantwoord. Want wat is dan die meest extreme content? Daar zijn de bedrijven niet duidelijk over. Er is wel een voorstelling van te maken: bijvoorbeeld onthoofdingen door IS. Dat zullen ze alle vier niet willen tonen. Maar daarna wordt het snel ingewikkeld. Wanneer is iets propaganda en wanneer valt het onder vrijheid van meningsuiting?

Dit 'censuurbeleid' ligt gevoelig bij de techbedrijven. Daardoor heeft het waarschijnlijk ook lang geduurd voordat deze database tot stand is gekomen. Want reken maar dat hier achter de schermen al lang over wordt gesproken. Extremistische video’s zijn niet van de laatste tijd. Die worden al een aantal jaar gepubliceerd.

De bedrijven zijn waarschijnlijk bang om grote blunders te begaan. Je kunt er de klok op gelijkzetten dat zo’n database een keer een fout maakt. Iets waar Facebook inmiddels aardige wat ervaring mee heeft. Denk bijvoorbeeld aan de foto van het Vietnamese 'napalmmeisje' dat tijdelijk werd geblokkeerd op het platform. Dat leidde tot veel ophef.

De beroemde foto van de 9-jarige Kim Phuc, die op 8 juni 1972 in Vietnam samen met andere kinderen huilend en reddeloos over straat rent na een luchtaanval met napalm AP / Hollandse Hoogte

Het weghalen van content werpt daarnaast de ethische vraag op of het wel de techbedrijven moeten zijn die de lijsten beheren. "Ik vrees dat dit soort databases er veel te snel toe leiden dat we dingen niet te zien krijgen", zegt Rejo Zenger van burgerrechtenorganisatie Bits of Freedom. "Facebook en YouTube zijn zo machtig, dat is schadelijk voor onze maatschappij." 

Transparant

Eén van de ontwikkelaars van een gelijksoortige database voor kinderporno, Hany Farid, suggereerde eerder dit jaar al dat er een dergelijk systeem moest komen voor extremistische content. "We zijn blij met de ontwikkeling", zegt hij in reactie tegen The Guardian. Hij voert al sinds januari hierover gesprekken met Facebook en Google. 

Tegelijkertijd is Farid kritisch op de uitwerking, aangezien de techbedrijven de database zélf gaan beheren, en niet een onafhankelijke instantie. "De bedrijven moeten transparant zijn over hoe content in de database terechtkomt en daarnaast is het belangrijk dat experts op het gebied van extremisme ervoor zorgen dat de lijst actueel blijft."

STER reclame