Nieuw programma helpt tieners naaktfoto's offline te halen
Met de nieuwe online tool 'Take It Down' krijgen tieners de mogelijkheid om naaktfoto's van zichzelf van bepaalde platforms te verwijderen en te voorkomen dat hun foto's worden geüpload.
Het programma is ontwikkeld door het Amerikaanse National Center for Missing & Exploited Children (NCMEC) en wordt deels gefinancierd door Meta, het moederbedrijf van Facebook. De tool is specifiek gericht op minderjarigen.
Een woordvoerder van NCMEC zegt tegen de Britse krant The Guardian dat het programma bedoeld is voor mensen die weten dat hun naaktfoto rondzwerft op het internet, of die bang zijn dat de foto op het internet terecht komt. Het gaat bijvoorbeeld om seksueel getinte foto's die naar een partner zijn gestuurd, of wanneer iemand met naaktbeelden wordt afgeperst.
Hoe werkt het?
Wie wil kan anoniem beelden aandragen waarvan de site vervolgens een "hash" maakt, een soort unieke wiskundige vingerafdruk. De naaktfoto of -film zelf wordt dan niet geüpload.
Vernieuwend aan het programma is dat tieners die vermoeden dat naaktbeelden van hen de ronde doen nu ook preventief een digitale vingerafdruk kunnen aanmaken. Die "hashes" komen vervolgens op een zwarte lijst te staan waar sociale media hun beelden aan kunnen toetsen. Wanneer iemand dan probeert de foto op een website te plaatsen, kan de foto worden herkend en geblokkeerd.
Antigone Davis, hoofd van Meta's veiligheidsafdeling, zegt tegen The Guardian dat de tool ook werkt bij "deepfakes". Dat zijn kunstmatige video's waarbij beelden van iemand worden gemanipuleerd. Die video's kunnen levensecht lijken.
Wat kan het niet?
Een belangrijke beperking van Take It Down is dat het afhankelijk is van platforms die zich vrijwillig bij het initiatief hebben aangesloten. Tot nu toe hebben alleen Facebook, Instagram, OnlyFans, Pornhub en Yubo aangegeven mee te werken aan de tool. Op andere platforms, zoals TikTok en Telegram, kunnen de beelden niet worden verwijderd. Daarnaast werkt de zwarte lijst niet met platforms die berichten versleuteld versturen, zoals WhatsApp en iMessage.
Ook wanneer de afbeelding is bewerkt, bijvoorbeeld doordat er een filter overheen is gezet of een emoji is toegevoegd, kan de foto niet meer aan de hash worden herkend.
Onduidelijk is hoe wordt voorkomen dat mensen legitieme beelden op de zwarte lijst zetten die vervolgens niet meer kunnen worden gedeeld. De afbeelding of het filmpje zelf wordt immers niet verstuurd, waardoor het NCMEC niet kan toetsen welk materiaal op de zwarte lijst komt te staan.
Traumatiserend
Volgens NCMEC is het programma vooral bedoeld om online kindermisbruik- en uitbuiting aan te pakken: "Als je eigen naaktbeelden online staan, kan dat zeer traumatiserend zijn, vooral voor jongeren", zegt een woordvoerder van de stichting tegen The Guardian.
Het is niet voor het eerst dat Meta zich in dergelijke initiatieven mengt. In 2017 probeerde Facebook, dat nu Meta heet, een soortgelijk hulpmiddel voor volwassenen te ontwikkelen. Dat lukte toen niet omdat het bedrijf vrijwilligers vroeg om naaktbeelden in te sturen. In 2021 lanceerde Meta samen met de UK Revenge Porn Helpline het programma StopNCII (Stop Non-Consensual Intimate Images), speciaal gericht tegen de verspreiding van wraakporno.
