Apple wil iPhones scannen op kinderporno - waarom dat wel/geen goed idee is
Apple gaat iPhones doorzoeken op kinderpornomateriaal, in eerste instantie in de VS. Die aankondiging veroorzaakte veel ophef, en juristen en privacydeskundigen zetten vraagtekens bij de plannen.
Tegelijkertijd verschilt het in zekere zin niet heel veel van wat andere techbedrijven al doen: de foto's die je uploadt naar een clouddienst doorzoeken op kinderporno. Het is iets wat onder meer Google, Microsoft en Dropbox al doen.
Maar er is één groot verschil: waar die bedrijven je foto's doorzoeken in de cloud, waar je je foto's hebt gestald, gaat het in de plannen van Apple om je telefoon zélf die naar kinderporno zoekt.
Lijst met kinderporno
Het scannen op kinderpornofoto's doen veel techbedrijven al jaren. Dat gebeurt overal op min of meer dezelfde manier, en dat begint met een lijst met bevestigd kinderpornomateriaal.
Dat zijn niet de foto's zelf: het zou immers dubieus en juridisch twijfelachtig zijn om die op te slaan. In plaats daarvan gaat het om digitale handtekeningen van het materiaal.
Kinderpornofoto's en -filmpjes worden met een speciale wiskunde functie door elkaar gehusseld. Het oorspronkelijke kinderpornomateriaal is niet meer uit de digitale handtekening te destilleren.
Als een internetgebruiker een foto uploadt naar zijn online-fotobibliotheek, of als hij iemand anders een foto mailt, kunnen die foto's makkelijk worden vergeleken met de handtekeningenlijst.
Apple wil hetzelfde doen, maar dan lokaal. Op je iPhone draait binnenkort een programmaatje dat jouw fotobibliotheek vergelijkt met de 'kinderpornolijst'. Wordt een bepaalde hoeveelheid foto's of video's aangemerkt als kinderporno, dan worden ze gedeeld met Apple, die ze daarop weer deelt met de autoriteiten.
Dat gebeurt alleen als je het back-uppen van je foto's naar iCloud hebt ingeschakeld; als dat niet zo is, worden je foto's niet gecontroleerd.
Principiële stap
Hoewel de feitelijke werking dus niet veel anders is dan bij andere clouddiensten, gaat het om een belangrijke principiële stap, zeggen critici. Voor het eerst draait er op je telefoon software die in de gaten houdt wat voor foto's en video's je opslaat.
Hoewel Apple het systeem uitsluitend voor kinderporno belooft te gebruiken, zijn er risico's. "Het is een lastige discussie, want niemand is tegen het bestrijden van kinderporno", zegt jurist Terstegge. "Maar het gevaar is dat dit mechanisme ook voor andere doeleinden wordt ingezet."
Zo zou een overheid, bijvoorbeeld die van China, Apple in theorie kunnen vragen om 'onwelgevallige' foto's en video's te verbieden. Hoewel er geen aanleiding is om te denken dat Apple daaraan zou willen meewerken, is dat iets wat op dit moment technisch onmogelijk is, maar binnenkort wel.
Balans
Arda Gerkens, directeur van het expertisebureau Online Kindermisbruik, is juist wél te spreken over het systeem. "Het lijkt erop dat Apple heeft gezocht naar een balans tussen privacy en het beschermen van kinderen", zegt Gerkens. "Voor zover we kunnen zien is dat gelukt."
Want het lokaal controleren van foto's en video's heeft ook een privacy-voordeel: het gebeurt volledig zonder dat Apple er weet van heeft en je foto's verwerkt. Het is een principe dat Apple ook toepast bij gezichts- en objectherkenning op foto's. Waar Google dat doet op zijn computers in datacenters, doen iPhones dat lokaal.
Wie is eigenlijk de baas van je apparaat?
Het moet echter nog blijken of deze functie in Nederland überhaupt door de beugel kan, zegt jurist Terstegge. "Een apparaat dat je koopt mag niet opeens allemaal dingen doen die je niet verwacht. Wie is eigenlijk de baas van je apparaat?"