Zwarte mensen minder goed herkend door anti-spieksoftware: 'Leidt tot discriminatie'

Tentamensoftware Proctorio moet fraude opsporen bij onlinetentamens. Maar de software werkt veel beter bij witte dan bij zwarte mensen blijkt uit onderzoek van RTL Nieuws. Het leidt tot discriminatie.

De software, die in coronatijd populair werd, maar ook nu nog veel wordt gebruikt, heeft veel meer moeite om zwarte gezichten te herkennen. Als het lijkt alsof er geen gezicht in beeld is, wordt dat als verdacht aangemerkt door de software. "Ik denk niet dat onderwijsinstellingen bewust discrimineren. Maar scholen die Proctorio gebruiken - nu alle kennis hierover op tafel ligt - maken wél een bewuste keuze. Zij accepteren dat zwarte studenten een groter risico lopen dat hun gezicht niet goed wordt herkend", zegt Naomi Appelman van het Racism and Technology Center in Amsterdam.

RTL Nieuws liet ook Lucas Noldus, hoogleraar Gedrag, informatietechnologie en innovatie aan de Radboud Universiteit, controleren of het onderzoek goed is uitgevoerd. "De conclusie is dat zwarte gezichten het slechtst worden gedetecteerd van alle etniciteiten", zegt hij. "Dan is er dus impliciet sprake van discriminatie. In deze context kan ik dat niet anders uitleggen."

Bron(nen): RTL Nieuws