Klacht over 'discriminerende' antispieksoftware niet gegrond, oordeelt college

Een student van de Vrije Universiteit (VU) in Amsterdam is door de universiteit niet gediscrimineerd door software die spieken tijdens tentamens moet tegengaan. Dat concludeert het College voor Rechten van de Mens, nadat de student een klacht daarover indiende.

De antispieksoftware Proctorio zou volgens Robin Pocornie haar gezicht niet herkennen vanwege haar donkere huidskleur. Ze ondervond daardoor problemen tijdens het maken van tentamens, zegt Pocornie. Zo moest ze bijvoorbeeld meerdere keren inloggen en een tentamen met een felle lamp in haar gezicht maken. De universiteit zette de software tijdens de coronacrisis in, omdat studenten destijds thuis tentamens moesten maken.

Het college zegt nu dat de VU voldoende heeft aangetoond dat Pocornie niet meer problemen met inloggen had dan andere studenten. De keren dat ze wel moeite had met inloggen kwam dat volgens het college niet vanwege haar huidskleur, maar doordat haar internetverbinding haperde of vanwege de bril die ze droeg.

Discriminatie bij anderen niet uit te sluiten

Het college benadrukt wel dat het oordeel gaat over het specifieke geval van Pocornie. Het kan niet uitsluiten dat het gebruik van Proctorio of vergelijkbare AI-software in andere situaties wel tot discriminatie leidt.

Eerdere onderzoeken toonden aan dat gezichtsherkenningssoftware minder goed werken bij mensen met een donkere huidskleur. Ook het Racism and Technology Center in Amsterdam, dat Pocornie had ingeschakeld, zegt dat al langer bekend is dat gezichtsherkenningssoftware minder goed werkt bij mensen van kleur.

Pocornie is teleurgesteld dat het college ondanks wetenschappelijke onderzoeken tot dit oordeel is gekomen, zegt ze tegen de NOS. "Dat laat zien hoe moeilijk het is om dit soort algoritmes aan te pakken."

Klacht beter behandelen

De VU had haar klacht wel zorgvuldiger moeten behandelen, oordeelt het college. De studentenombudsman had haar naar de juiste instantie moeten verwijzen. Daar heeft de student nu zelf veel moeite voor moeten doen. "In de toekomst gaat het bij andere studenten nog een keer gebeuren", zegt Pocornie. "Daarom moet er een loket komen waar studenten op kunnen bouwen."

Pocornie is er wel van overtuigd dat universiteiten door alle aandacht voor deze zaak beter gaan nadenken voordat ze soortgelijke software gebruiken. Daar blijft ze zich ook voor inzetten: "Zodat onderwijsinstellingen niet alleen achteraf maar ook vooraf de vraag stellen: kan deze software mogelijk discriminerend werken?"