Nauwelijks zicht op 'zwarte zoemende dozen' van overheid: 'Algoritmeregister wassen neus'
Het algoritmeregister, dat de overheid transparanter moet maken, wordt een half jaar na de lancering nauwelijks ingevuld. En de informatie die er wel in staat, is niet erg toegankelijk.
In het register maken overheidsinstellingen, bijvoorbeeld gemeentes en ministeries, openbaar hoe ze tot (semi-)geautomatiseerde besluiten komen. Het algoritmegebruik door de overheid ligt onder een vergrootglas door de toeslagenaffaire, waarin dubbele nationaliteit werd meegewogen in een algoritme voor risicoanalyse van toeslagaanvragen.
Bij de lancering in december 2022 stonden er 109 algoritmes op de website. Die kwamen van instellingen die de informatie al eerder online hadden gezet. Een half jaar later zijn het er 123. Het register invullen is (nog) niet verplicht.
"Het algoritmeregister zoals het er nu is, is eigenlijk een wassen neus", zegt onderzoeker Iris Muis van de Data School van de Universiteit Utrecht. "Ten eerste vullen lang niet alle instanties het register in en als ze het wel invullen, blijft er veel onduidelijk."
In het coalitieakkoord is afgesproken dat algoritmes wettelijk gecontroleerd moeten worden op discriminatie en willekeur. "Een belangrijke voorwaarde daarvoor is transparantie over algoritmes en hun toepassing," schreef verantwoordelijk staatsecretaris Alexandra van Huffelen. "Het algoritmeregister kan een belangrijke bijdrage leveren aan het beter uitlegbaar maken van de toepassing en de uitkomst van algoritmes."
Om te bepalen of een algoritme bijvoorbeeld discrimineert, moet je weten op basis van welke kenmerken burgers worden geselecteerd. Maar dat soort gegevens worden niet vrijgegeven, omdat dat fraudeurs zou kunnen helpen om het systeem te omzeilen. Maar dat gevaar ziet juridisch adviseur en onderzoeker Mariette Lokin niet. "De regels die je toepast, daar moet je open over zijn. Dus je moet als overheid vertellen dát en wát je controleert. Precieze grenswaarden waarop mensen hun gedrag kunnen afstemmen, kun je achterwege laten."
Lichtmasten en jeugdcriminaliteit
De gemeente Utrecht heeft 38 algoritmes geregistreerd, bijvoorbeeld een model dat voorspelt wanneer lichtmasten aan vervanging toe zijn. Of hoeveel vogels er boven een bepaald gebied kunnen vliegen. "Ik denk dat dat niet helemaal de bedoeling is. Waar het om gaat is dat je als overheid laat zien hoe je de wet toepast, nu dat steeds vaker gebeurt door 'zwarte zoemende dozen'", zegt Lokin.
Een woordvoerder van de verantwoordelijke wethouder Rachel Streefland zegt in een reactie dat het signaleren van vogels van belang is voor de kwaliteit van de natuur, maar erkent ook dat dit model 'lage impact' heeft op Utrechtse bewoners.
Bij relevantere algoritmes blijft de werking onduidelijk, bijvoorbeeld "Risico-indicatoren en voorspelmodel jonge aanwas in de drugscriminaliteit" van Utrecht. Daarin wordt informatie geboden over in welke buurten veel kwetsbare jongeren wonen. Maar welke data daarvoor gebruikt worden en wat met deze informatie gebeurt, is onduidelijk.
"Dat is belangrijk om te weten. Geven ze het door aan de politie? Of gebruiken ze het voor beleid om buurtvaders- en moeders te subsidiëren?", vraagt Lokin zich af. "Dat zijn twee hele verschillende verhalen en dat is precies waarom dit register zo'n beperkte waarde heeft. Het algoritme zelf, de beslisregels of computercode, staat er niet in en je weet ook niet hoe het gebruikt wordt."
Deze problemen ziet Lokin ook bij andere algoritmes in het register. "Er staan wel beschrijvingen, maar algoritmes zijn het niet." De gemeente zegt bezig te zijn met een 'verbeterslag'. Eind 2023 moeten de algoritmes verbeterd zijn op vorm en inhoud.
Register op maat
Lokin betwijfelt of het algoritmeregister meer transparantie oplevert. "Het is niet heel toegankelijk zoals het nu is opgezet." Er moet een duidelijker definitie komen van welke algoritmes erin moeten staan, vindt ook Iris Muis. "Zijn dat alleen de high-impact algoritmes? En wat maakt iets tot een high-impact algoritme?"
Beide onderzoekers pleiten voor bijvoorbeeld een 'bijsluiter' bij overheidsbrieven in plaats van het register. "Je moet uitgaan van de vraag: wat willen burgers precies weten?", zegt Lokin. Het register is een generiek antwoord op die vraag, terwijl je specifieker zou moeten zijn.
"Bij elke brief die je van een overheidsinstantie krijgt, zou uitgelegd moeten worden met welke beslisregels zij tot die beslissing zijn gekomen en welke gegevens daarbij gebruikt zijn. Dan ben je echt open over de manier waarop je de wet toepast als overheid. Eigenlijk een algoritmeregister op maat."
'Niet wachten tot alles perfect is'
Staatssecretaris Van Huffelen vindt niet dat het register mislukt is, omdat het wel wat inzichten geeft. "We zijn alvast begonnen, want we wilden niet wachten tot alles helemaal perfect was, tot we alle algoritmen in beeld hadden." Maar, het kan sneller, erkent ze. "Ik zit mijn collega's er ook over achter de broek." De kritiek op het register wil ze gebruiken om het beter te maken.