Studente dient klacht in over 'discriminerende' antispieksoftware
Een studente van de Vrije Universiteit (VU) in Amsterdam heeft zich bij het College voor Rechten van de Mens beklaagd over de antispieksoftware die de universiteit tijdens de coronacrisis heeft ingezet. Volgens de masterstudente bio-informatica herkende de software haar gezicht niet omdat ze een donkere huidskleur heeft. Ze heeft daarom een klacht ingediend wegens discriminatie.
Aan de Volkskrant vertelt Robin Pocornie dat ze tijdens de coronacrisis, toen de universiteiten dicht waren, meerdere keren problemen heeft gehad met het inloggen voor online tentamens. De VU gebruikte voor digitale toetsen antispieksoftware van het Amerikaanse bedrijf Proctorio. Om een tentamen op afstand te kunnen maken, moesten studenten eerst hun studentenpas en gezicht door die software laten 'scannen' via de webcam.
Het lukte Pocornie aanvankelijk niet om in het systeem te komen. Het programma herkende haar gezicht niet en vroeg haar in "een goed belichte ruimte" te gaan zitten, schrijft de Volkskrant, maar daar zat de studente al. Uiteindelijk slaagde ze er toch in om in te loggen, door met een lamp recht in haar gezicht te schijnen. "Toen begonnen wel alarmbelletjes af te gaan", zegt ze tegen de krant.
'Oneerlijk systeem'
De studente heeft naar eigen zeggen vanwege haar huidskleur veel hinder ondervonden bij het maken van de online tentamens, onder meer doordat het inloggen haar veel tijd kostte en stress opleverde. Het Racism and Technology Center in Amsterdam, dat ze inschakelde omdat ze bij de VU te weinig steun ervoer, zegt dat al langer bekend is dat gezichtsherkenningssoftware minder goed werkt bij mensen van kleur.
De organisatie vreest dat duizenden studenten met een donkere huidskleur daar de afgelopen tijd problemen mee hebben ervaren. "Juist een systeem dat ervoor moet zorgen dat er niet vals wordt gespeeld, pakt oneerlijk uit", zegt Hans de Zwart, een van de drie mensen achter het Racism and Technology Center.
Vorig jaar concludeerde een Amerikaanse softwareonderzoeker, die ook student was bij een onderwijsinstelling die Proctorio gebruikte, dat de software een gezichtsdetectiemodel gebruikt dat meer dan de helft van de gezichten met een donkere huidskleur niet herkent.
De student startte zijn onderzoek na meerdere klachten over de software:
De VU zegt in een reactie op de klacht van Pocornie dat het de universiteit "zeer" raakt dat de studente zich benadeeld heeft gevoeld. "De faculteit heeft de klacht van de student dan ook met grote zorgvuldigheid onderzocht. Er is in dat onderzoek geen aanwijzing gevonden dat de software daadwerkelijk discrimineert."
De universiteit zegt dat de software van Proctorio alleen is ingezet als er geen alternatieven waren om de toets af te nemen. In meer dan de helft van de gevallen was zo'n alternatief wel voorhanden, bijvoorbeeld in de vorm van een openboektentamen of een presentatie. De software is gebruikt tot afgelopen voorjaar.
Zorgen om privacy
In de coronacrisis zijn veel tentamens en andere schoolopdrachten digitaal afgenomen. Om te controleren of studenten daarbij niet frauderen of spieken, maakten veel onderwijsinstellingen gebruik van zogeheten proctor software, die op afstand onder meer de webcam, microfoon en soms ook webbrowser van een student kan besturen.
De software houdt daarmee bijvoorbeeld in de gaten of studenten opzijkijken (om mogelijk te spieken of overleggen). Ook oog- en handbewegingen worden gemonitord. Studentenorganisaties hadden veel kritiek op de inzet van de software. Ze vreesden dat die de privacy van studenten zou schenden.
NOS op 3 maakte twee jaar geleden deze video over de surveillancesoftware:
