Fleur Damen
Verslaggever Nieuwsuur
Fleur Damen
Verslaggever Nieuwsuur
Zonder dat je het weet op een gemanipuleerde, online naaktfoto belanden: het overkwam enkele bekende vrouwen al en gebeurt nu ook bij scholieren. In het Spaanse dorp Almendralejo maakten en verspreidden 21 jongens, allemaal onder de zestien, zulke beelden van ruim twintig minderjarige dorpsgenoten.
De meisjes deden aangifte bij de politie. Ook in Nederland ontving de politie al aangiftes van scholieren van wie nepnaaktbeelden waren verspreid, gemaakt met kunstmatige intelligentie. Deskundigen waarschuwen voor de "catastrofale" impact op jonge meisjes.
Online shaming
"Ik kwam thuis van een reis en m'n dochter zei: kijk, mama, wat ze met me hebben gedaan", vertelt Miriam Al Adib Alonso, moeder van een van de Spaanse slachtoffers, aan Nieuwsuur. "Ze liet me een foto van zichzelf zien, helemaal naakt. Maar toen ik nog eens keek, zag ik dat het niet lichaam van mijn dochter was."
Toen kunstmatige intelligentie opkwam, vreesde de Nederlandse Robin Griffin al dat dit zou gaan gebeuren. Ze werkt mee aan voorlichtingscampagnes over online shaming. "Dit is weer een nieuwe manier om iemand te pesten en te shamen."
Griffin weet waar ze het over heeft. Toen ze zeventien was, werd een naaktfoto van een meisje verspreid dat op haar leek. Wekenlang kreeg ze nare appjes, opmerkingen, en verwensingen op straat. In voorlichtingscampagnes moeten ook met AI gemaakte naaktbeelden aan bod komen, vindt ze. "Het is belangrijk dat jongeren op een jonge leeftijd leren herkennen wat wel en niet oké is."
Hoe komen deze nepbeelden tot stand? Joris Mollinga, medeoprichter van een bedrijf dat zich specialiseert in het herkennen van met kunstmatige intelligentie gemanipuleerde beelden, legt het uit:
Wie met AI-software naaktfoto's maakt van minderjarige klasgenootjes, is volgens de wet kinderpornografie aan het maken, zegt Ben van Mierlo, landelijk coördinator Zeden, Kinderpornografie en Kindersekstoerisme bij de politie. En dus is ook het verspreiden en bezitten van zulke beelden strafbaar, benadrukt hij.
Van Mierlo maakt zich zorgen over de snelle toename van AI-naaktbeelden van minderjarigen. "Wereldwijd zijn nu enkele duizenden van dat soort beelden in omloop, maar de toename gaat heel snel. Het afgelopen jaar ging het om een stijging van 500, 600 procent."
Deepfake-meldpunt
Die snelle toename geldt ook voor de populairste toepassing van deze deepfake-technologie: pornovideo's waarin volwassen vrouwen, vooral bekende actrices en politici, voorkomen. Die categorie is goed voor ruim 95 procent van alle deepfake-beelden, en groeit razendsnel. Alleen al dit jaar verscheen meer deepfake-porno dan alle voorgaande jaren bij elkaar, berekende technologiewebsite Wired onlangs.
Privacydeskundige Bart van der Sloot (Tilburg University) werd door het kabinet gevraagd onderzoek te doen. Zijn aanbeveling: een uitgebreid pakket maatregelen, waaronder een verbod op apps waarmee naaktbeelden worden gemaakt, een grootschalige voorlichtingscampagne op scholen en meer rechtszaken.
Maar het ministerie van Justitie en Veiligheid nam die aanbevelingen niet over. Wel wil het ministerie een deepfake-meldpunt oprichten.
"Zo'n meldpunt is echt een doekje voor het bloeden", zegt Van der Sloot. "Je weet dat dit soort software en websites is gemaakt om dit soort materiaal te verspreiden. Daar zit de bron, dáár moet je iets aan doen, in plaats van alles bij de burger zelf te leggen."
Iedereen heeft me naakt gezien, dacht ik. Dat voelde heel onveilig.
De gevolgen van zulke gemanipuleerde naaktbeelden voor het slachtoffer kunnen enorm zijn, zegt Van der Sloot. "Onderzoek laat zien dat dit voor opgroeiende meisje een catastrofale impact op het zelfbeeld kan hebben. Als je weet dat jongens in de school kijken naar naaktbeelden waar jij opstaat, doet dat iets met je, zelfs als je weet dat ze nep zijn."
Griffin is het daarmee eens. Zij werd door omstanders uitgescholden vanwege de naaktfoto, hoewel ze er zelf niet op stond. "Ik kreeg appjes van onbekende nummers, en mijn moeder werd aangesproken op straat. In de trein gingen mensen naar me roepen."
Op straat bleef Griffin nog lang naar beneden kijken. "Ik dacht de hele tijd dat voorbijgangers dachten dat ze me naakt hadden gezien. Dat voelde heel onveilig."
