Kinderporno opsporen met detectiesoftware op mobiel: experts tegen EU-wetsvoorstel

Een groep van bijna 200 wetenschappers uit 26 landen maakt zich zorgen over een wetsvoorstel uit Brussel dat bedoeld is om kindermisbruik te bestrijden. In een open brief aan de Europese Commissie schrijven de deskundigen dat ze het geen goed idee vinden dat berichtendiensten als WhatsApp, Signal en Telegram verplicht worden detectiesoftware te installeren om de verspreiding van kinderporno tegen te gaan.

Berichtendiensten die worden aangemerkt als 'hoog risico' zouden volgens het wetsvoorstel deze software moeten installeren. Een slecht plan, vindt universitair hoofddocent Jaap-Henk Hoepman, verbonden aan de Radboud Universiteit en een van de auteurs van de brief.

Politie, veiligheidsdiensten en de EU maken ze zich zorgen over de beveiliging van berichtenapps. Waarom zie je in deze video:

"Stel, WhatsApp wordt gezien als 'hoogrisicoberichtenservice' voor het verspreiden van kinderporno, dan krijgen met het voorstel zoals het nu op tafel ligt, álle EU-burgers die WhatsApp gebruiken deze detectiesoftware op hun telefoon. Wij vinden dat buitenproportioneel en een bedreiging voor de beveiliging en privacy van communicatie."

Over het plan wordt al lange tijd in Brussel onderhandeld. Ondanks de aanpassingen die de Europese Commissie eerder heeft gedaan - zoals de maatregelen alleen verplichten voor 'hoogrisicoberichtendiensten' - is deze methode volgens de ondertekenaars van de brief niet voor alle soorten opsporing geschikt.

Voor het opsporen van gebruikers van bekend kinderpornomateriaal kan detectiesoftware een goede methode zijn, denkt Hoepman. "Er zullen zeker minder valse meldingen zijn tussen verzenders en ontvangers van versleuteld kinderpornomateriaal. Maar de detectiesoftware moet ook geplaatst worden voor het herkennen van nieuw, nog onbekend materiaal en voor het detecteren van grooming, waarbij volwassenen kinderen proberen te verleiden."

Valse meldingen

En met name onbekend materiaal opsporen vormt een probleem. Daarvoor moet kunstmatige intelligentie worden toegepast en die technologie is volgens de experts nog niet ver genoeg ontwikkeld.

"Je zult ontzettend veel valse meldingen krijgen", voorspelt Hoepman. "Kinderen verspreiden onderling ook veel seksueel materiaal in hun zoektocht naar hun eigen seksualiteit. Hoe weet de software hoe oud iemand is? Of iemand van 19 jaar stuurt iets naar een minderjarige; technisch gesproken is dat dan al grooming. Al deze mensen worden dan ook verdacht en aan onderzoek onderworpen."

Ben van Mierlo, landelijk coördinator Zeden, Kinderpornografie en Kindersekstoerisme bij de politie, ziet dezelfde problemen als de opstellers. "Een opa stuurt een foto van z'n kleinkind in het zwembad door naar je familie-app. Detectiesoftware stuurt een melding door naar Interpol of Europol. En de verzender of ontvanger wordt als verdachte gezien terwijl diegene dat niet is."

Bovendien kost het ontzettend veel menskracht. "Er worden miljarden berichten verstuurd die moeten worden bekeken."

Inzage in communicatie

Politie en inlichtingendiensten worstelen al jaren met het opsporen van criminelen die gebruikmaken van versleutelde communicatie van WhatsApp of Signal. Ze willen hier inzage in. "Nu kunnen criminelen zich digitaal volstrekt onbespied bezighouden met criminele activiteiten", zegt Van Mierlo.

Welke technologie gebruikt zou moeten worden om het EU-wetsvoorstel uit te voeren, is nog niet duidelijk. Van Mierlo: "Krijgt de ontvanger bij verdacht materiaal alleen een melding waarin staat dat dit bericht niet kan worden gezien, dan stopt dat weliswaar de verspreiding. Maar om ook een verdachte te kunnen oppakken, hebben wij bewijs nodig."

Daarvoor is inzage in berichtenverkeer met toestemming van de rechter nodig, vindt de politie. "Kijk naar grooming, daarbij gaat het om tekst en context: zonder inzage in wat er over en weer wordt gezegd, weet je niet of iets vrijwillig gebeurt, en of iemand inderdaad minderjarig is."

"Als wij een verdachte hebben, van kinderporno, maar ook van wapenhandel of drugshandel, willen wij die berichten bekijken. Die inzage in end-to-end-encryptie hebben wij nodig. We moeten nu al verdachten laten lopen bij gebrek aan bewijs", aldus Van Mierlo.

Privacyonderzoeker Hoepman is faliekant tegen inzage in versleutelde berichten. "Privacy is een groot goed. De politie kan niet meekijken in versleutelde correspondentie, maar ze hebben wel veel metadata; wie wanneer met wie communiceert, van tien miljoen Nederlanders hebben ze locatiegegevens. Dat kunnen ze allemaal analyseren."

Balans is zoek

Volgens de politie is de balans tussen privacy en veiligheid zoek. "Als Messenger van Facebook binnenkort ook overstapt op end-to-end-encryptie, missen we jaarlijks miljoenen meldingen die we nu wel doorgespeeld krijgen. Wij willen ook geen surveillancestaat zijn, maar je wilt privacy én veiligheid."

Van Mierlo ziet ook een rol voor de bedrijven achter berichtendiensten. "Bedrijven als Meta moeten ook hun verantwoordelijkheid nemen door opsporingsinstanties te waarschuwen en persoonsgegevens door te spelen bij criminele activiteiten. Ze zeggen dat dit technisch niet kan, maar dat betwijfelen wij."

De definitieve stap tot het komen van wetgeving over detectiesoftware op telefoons wordt na de Europese verkiezingen in juni verwacht.