Autoriteit Persoonsgegevens: "Overal discriminerende algoritmes bij de overheid"

De Autoriteit Persoonsgegevens moet wellicht nog bijkomen van de schrik: sinds de toeslagenaffaire is er werkelijk helemaal niets veranderd bij de overheid. Overal waar de instantie onderzoek doet, duiken discriminerende algoritmes op, vertelt voorzitter van de club Aleid Wolfsen in de Volkskrant.

Een voorbeeld: je zoon vraagt studiefinanciering aan voor zijn mbo-opleiding en wordt door het algoritme van de DUO geselecteerd vanwege mogelijk frauderisico. Zijn zus die naar de universiteit gaat, wordt er niet uitgepikt.

"Overal waar we in prikken, zien we dat het fout zit", aldus Wolfsen. "Dat er dus algoritmen worden gebruikt die mensen met bepaalde kenmerken categoriseren als ‘een risico’, zonder dat zij iets concreets hebben misdaan. Een aantal voorbeelden is al aan het licht gekomen, bijvoorbeeld dat DUO je opleidingsniveau en woonplaats als risicofactoren beschouwt, of dat vier Utrechtse gemeenten het beroep kapper als risicofactor zien."

"Ook onderzoeken wij het vermoeden dat het ministerie van Buitenlandse Zaken etnisch profileert bij visumaanvragen." Wolfsen is bezorgd. "Het feit dat we bij elke tegel die we lichten dit soort systemen vinden, baart me zorgen. Waarschijnlijk wordt er dus op grote schaal gediscrimineerd."

De baas van de Autoriteit Persoonsgegevens is kritisch op medewerkers van overheidsorganisaties. "Wij zien naïviteit over de ongrondwettelijkheid hiervan en we zien onvoldoende betrokkenheid van leidinggevenden. Dat is, in het beste geval, incompetentie. Daar moet meer vangrails voor zijn. Meer scholing, meer toezicht: de Autoriteit Persoonsgegevens moet daarbij eerder worden betrokken."

"Het probleem zit er vooral in dat computercode nog steeds wordt gezien als een opzichzelfstaande tekst, alleen bedoeld voor de ogen van programmeurs", legt Wolfsen uit. "Maar in feite zijn deze codes niets anders dan bijvoorbeeld een op papier geschreven besluit van de Tweede Kamer."

"Als er vroeger een wet werd opgesteld die leidde tot controle van burgers, dan kreeg de Tweede Kamer een velletje papier opgestuurd met daarop de controlecriteria. Vervolgens beoordeelden Kamerleden of die criteria wel wetmatig waren. Dat gebeurt nu niet meer op papier, maar in programmeertaal, maar geen Kamerlid krijgt dat te zien."