Algoritme helpt overheid bij berg werk, maar regels ontbreken
Veel overheidsorganisaties maken gebruik van algoritmes, maar vinden dat het ontbreekt aan beleid over het gebruik hiervan. Dat blijkt uit een inventarisatie van het CBS onder 67 ministeries, gemeenten, waterschappen en andere organisaties.
Het CBS heeft in opdracht van het ministerie van Binnenlandse Zaken voor het eerst in kaart gebracht hoeveel instanties dit soort data-analyses toepassen. Dat is het geval bij bijna de helft van de ondervraagde overheidsorganisaties. Een deel van de ondervraagde instanties die nog geen algoritmes gebruiken, wil dit in de nabije toekomst wel gaan doen.
De computersystemen worden voor veel verschillende doeleinden ingezet. De algoritmes zijn reeksen instructies die helpen bij het ordenen van grote hoeveelheden gegevens en worden gebruikt om risico's te signaleren. Gemeenten brengen zo bijvoorbeeld het aantal vroegtijdige schoolverlaters, het aantal fraudeurs of het risico op verzakking van funderingen in kaart.
Slimme keuzes bij veel werk
Het ministerie van Binnenlandse Zaken gaf opdracht tot de inventarisatie van het CBS na vragen van Kamerleden Hanke Bruins Slot (CDA) en Rob Jetten (D66). D66 pleitte in september ook voor een speciale toezichthouder om discriminatie en privacy-schending tegen te gaan.
Volgens de partij ligt discriminatie op de loer bij bijvoorbeeld de opsporing van uitkeringsfraude. Als daarbij te veel wordt vertrouwd op algoritmes zouden sommige bevolkingsgroepen vaker gecontroleerd kunnen worden op basis van criteria als huidskleur, inkomen of geslacht.
"De data-analyses helpen bij het ordenen van de gigantische voorraad werk die overheidsorganisaties soms hebben liggen. Algoritmes helpen bij het maken van slimmere keuzes, maar de uitkomsten moeten wel altijd worden gekoppeld aan menselijke deskundigheid", zegt Marlies van Eck, universitair docent en onderzoeker bij het Centrum voor Recht en Digitale Technologie van de Universiteit Leiden.
Een groot nadeel van algoritmes is dat ze altijd vanuit het verleden redeneren.
Uit de inventarisatie van het CBS blijkt dat de meeste instanties willen dat er afspraken worden gemaakt over de manier waarop de algoritmes worden ingezet. Het gaat dan vooral om de inzichtelijkheid, transparantie en betrouwbaarheid van de systemen. Ook willen sommige organisaties dat wordt vastgelegd tot op welke hoogte algoritmes zonder tussenkomst van personen beslissingen mogen nemen.
Nu worden algoritmes vooral gebruikt als hulpmiddel om een probleem te signaleren of advies te geven. De uitkomsten worden altijd door een medewerker bekeken of verder onderzocht. Volgens de overheidsorganisaties kunnen zij dankzij de algoritmes efficiënter werken.
Werkt tunnelvisie in de hand
Onderzoeker Van Eck ziet ook dat de systemen veel voordelen bieden, maar waarschuwt voor de risico's van het gebruik van data-analyses door de overheid. "Een groot nadeel van algoritmes is dat ze altijd vanuit het verleden redeneren", legt Van Eck uit. De systemen maken immers analyses op basis van gegevens uit het verleden. Dit kan tunnelvisie in de hand werken en vooroordelen bevestigen.
Ook zij vindt daarom dat er beleid moet worden opgesteld op dit gebied. Daarnaast pleit ze voor externe controles door deskundigen op de algoritmes die overheidsorganisaties gebruiken.
