Extra toezicht moet einde maken aan 'levensgevaarlijke algoritmes'

De Autoriteit Persoonsgegevens is begonnen met het toezicht op algoritmes. Die kunnen bijvoorbeeld bepalen of mensen wel of niet worden uitgenodigd voor een sollicitatiegesprek, of oordelen of iemand wordt onderworpen aan een extra controle op fraude.

Het extra toezicht is toegezegd in het regeerakkoord. Voor dit jaar heeft het kabinet er een miljoen euro voor uitgetrokken. Dat loopt de komende jaren op, naar structureel 3,6 miljoen euro in 2026. Zowel overheidsinstanties als het bedrijfsleven krijgen met het nieuwe toezicht te maken. Volgens voorzitter Aleid Wolfsen is het hard nodig dat er meer toezicht wordt gehouden op de werking van algoritmes, omdat er van alles mis kan gaan.

Voorbeelden van fout gebruik van algoritmes zijn er de laatste jaren te over. Het gebeurde bij het schandaal met de kinderopvangtoeslagen bijvoorbeeld. Toen werd op basis van allerlei indicatoren bepaald wie handmatig gecontroleerd zouden worden. De indicatoren waren bijvoorbeeld iemands nationaliteit, de gezinssamenstelling en het salaris. Een ander voorbeeld is het omstreden anti-fraudeprogramma SyRI.

"Algoritmes worden steeds vaker ingezet en gebruikt bij het selecteren van mensen", zegt Wolfsen. "Wie mag wel of niet klant worden van een bedrijf, wie wordt wel of niet uitgenodigd voor een sollicitatiegesprek, en wie wordt er wel of niet extra gecontroleerd op fraude."

Toezicht op alle algoritmes

Een algoritme kan, als het fout gaat, volgens Wolfsen "levensgevaarlijk" zijn. "Het kan zijn dat een algoritme verkeerd geprogrammeerd of verkeerd getraind is", zegt Wolfsen. "Er kunnen discriminatoire elementen in zitten en dat kan heel veel mensen in één keer treffen. Dat moeten we met zijn allen gaan proberen te voorkomen."

Het nieuwe toezicht moet ertoe leiden dat de privacywaakhond sneller maatregelen kan nemen bij foute algoritmes. "Als wij daar strakker op zitten kun je sneller ingrijpen, sneller waarschuwen en sneller stoppen", zegt hij. "We gaan dat samen doen met andere toezichthouders." Burgers zelf kunnen hun klachten ook melden bij de Autoriteit Persoonsgegevens. Die instantie kan ook zelf besluiten tot een onderzoek.

Waarschuwing Wolfsen

Wolfsen waarschuwt bedrijven dat de Autoriteit Persoonsgegevens op alle algoritmes toezicht kan houden. "We kunnen overal bij, overal in. Voor ons bestaan er geen geheimen op dat vlak. Het kan zijn dat we het niet openbaar maken omdat we geen bedrijfsgeheimen willen verklappen. Maar dat wil niet zeggen dat we niet moeten, kunnen, mogen en willen weten hoe het werkt."

Of het toezicht voldoende is, is toch nog maar de vraag. Amnesty International zegt dat er te weinig middelen zijn om discriminerende algoritmes effectief aan te pakken. De mensenrechtenorganisatie vindt onder meer dat er extra geld moet komen voor de toezichthoudende taken.