Rekenkamer: meer aandacht nodig voor risico's overheids-algoritmes

De overheid gebruikt op steeds grotere schaal algoritmes, maar daar moet beter toezicht op komen. Dat schrijft de Algemene Rekenkamer. Ook moet de privacy van burgers beter worden bewaakt en moet de overheid de algoritmes beter in de gaten houden.

Algoritmes worden onder meer gebruikt voor het geautomatiseerd versturen van brieven, maar ook om een inschatting te maken van wie recht heeft op een uitkering. In alle gevallen komt er ook nog een ambtenaar aan te pas.

Voorspellende algoritmes

Eerder concludeerde de NOS al dat de overheid op grote schaal slimme algoritmes inzet. Uit het Rekenkamer-onderzoek blijkt dat ook: zo gebruikt de Belastingdienst algoritmes die voorspellen welke belastingaangiftes mogelijk verdacht zijn.

Hoewel een algoritme nergens eigenhandig bepaalt dat bijvoorbeeld een uitkering moet worden stopgezet, betekent dat niet dat ze risicoloos zijn. Zo is er een kans dat algoritmes onbedoeld discrimineren, schrijft de Rekenkamer.

Critici waarschuwen al langer voor algoritmes die helemaal zelfstandig werken, en beslissingen maken zonder tussenkomst van mensen. Maar dat gebeurt op dit moment alleen bij simpele processen, zoals het versturen van brieven, blijkt uit het onderzoek.

Overheidsbelangen

Volgens de Rekenkamer denkt de overheid te veel aan overheidsbelangen bij de inzet van algoritmes, en nog te weinig aan de belangen van individuele burgers. Niet alleen de privacy komt er soms bekaaid vanaf, ook denken overheden nog te weinig na over bijvoorbeeld de ethiek van algoritmes.

Bij de kinderopvangtoeslagenaffaire lagen algoritmes ook onder een vergrootglas: ze zouden een rol hebben gespeeld bij het eruit pikken van bijvoorbeeld mensen met een dubbele nationaliteit. Voor dat soort risico's zou meer oog moeten zijn.

Een voordeel is volgens de Rekenkamer dat dat kan: de algoritmes die de overheid inzet, zijn te analyseren. Het gaat nergens om een 'black box' die zelfstandig werkt en door niemand wordt begrepen, stelt de Rekenkamer. Critici vreesden daarvoor.