Deepfakes politici op Meta en X, ondanks afspraken over weren ervan

Techbedrijven Meta en X hebben in aanloop naar de Europese verkiezingen drie deepfakes van Nederlandse politici door de filters laten glippen. Dat blijkt uit onderzoek van BNR, dat de nepvideo's zelf maakte met behulp van AI-software en ze bij wijze van test op de platformen plaatste.

In februari beloofden de techbedrijven dat ze door AI gemaakte misleidende content rondom de verkiezingen zouden bestrijden.

De onderzoeksredactie van BNR maakte met AI video's van Geert Wilders, Caroline van der Plas en Rob Jetten en plaatste deze op X, TikTok en de platformen van Meta, het moederbedrijf van onder andere Instagram.

Daarbij koos de redactie bewust voor een publicatiedatum in de toekomst, zodat ze niet daadwerkelijk gepubliceerd zouden worden voor de verkiezingen. "Verrassend genoeg kwamen ze door de filter van X en Meta heen", vertelt Lisanne Wichgers van de onderzoeksredactie bij BNR Nieuwsradio.

De video's zijn dus niet online te zien, omdat ze ingepland staan voor de toekomst. Alleen bij TikTok werden de video's eruit gefilterd als deepfake. "Daarbij werd mijn account zelfs geblokkeerd", aldus Wichgers.

De deepfake van Wilders die BNR maakte met AI-software, waarin hij zegt dat hij zich zal bekeren tot de islam:

Volgens Wichgers zijn de uitkomsten van het onderzoek opvallend, omdat eruit blijkt dat er ondanks de afspraken van begin dit jaar niet genoeg wordt gedaan om misleidende verkiezingsinformatie te bestrijden.

Twintig grote techbedrijven die het akkoord tekenden hadden toegezegd om samen te werken om AI-content rondom verkiezingen en de distributie ervan op te sporen en aan te pakken.

Dat het nog niet helemaal lukt, blijkt ook uit deze week geplaatste deepfakes op het Instagramkanaal van Wybren van Haga, kandidaat voor het Europees Parlement. Hij zette onder meer een nepvideo van demissionair minister van Binnenlandse Zaken Hugo de Jonge online.

Handhaven

Vanuit Europa is er al langer de wens om door AI gegenereerde content beter te controleren. Sinds 2022 bestaat in de Europese Unie de Digital Services Acts, waarin wettelijk is vastgelegd dat misleidende advertenties verboden zijn. Ook loopt er een onderzoek naar onder andere Meta, omdat het vermoeden bestaat dat dat bedrijf de wet heeft overtreden.

Ook in Nederland zijn er zorgen over deepfakes en verkiezingen. Demissionair justitieminister Yesilgöz zei bij de inloop van de ministerraad vandaag dat afspraken met socialemediabedrijven hard nodig zijn, omdat "we er allemaal in zouden kunnen tuinen dat politici bepaalde dingen kunnen zeggen".

Ook De Jonge heeft het over de toenemende desinformatie in politieke context. "We doen er al een aantal dingen tegen, maar ik denk niet dat hier het laatste woord al over gezegd is."

Speciale software

Het is nog niet duidelijk hoe de deepfakes door de filters van Meta en X zijn geglipt. BNR legde de beelden voor aan DuckDuckGoose, een bedrijf dat met speciale software deepfakes kan herkennen en ook met de Nederlandse overheid samenwerkt. Met die tool werden de deepfakes volgens de nieuwszender wel herkend.

Zowel Meta als X is om een reactie gevraagd na de berichtgeving van BNR, maar daar is nog niet op gereageerd. De resultaten van het onderzoek naar Meta worden naar verwachting pas na de Europese verkiezingen gepubliceerd.