Toetsingskaders toetsing. De lokale Rekenkamer helpt Rotterdam met het rapport ‘Gekleurde Technologie’ op het paard. Intensieve kennisuitwisseling binnen de VNG en met BZK via Algoritmeregister.org doet de rest.” Discriminerende profilering Het toezicht wordt versterkt door de nieuwe directie Coördinatie Algoritmes van Autoriteit Persoonsgegevens. In haar Kamerbrief van eind 2022 stelt staatssecretaris Alexandra van Huffelen transparantie centraal. Registraties moeten “eenduidig en bruikbaar” zijn. Dat is mooi, maar een gewraakt algoritme van Buitenlandse Zaken stond niet eens in het register. De AP kapittelt minister Wopke Hoekstra (Buitenlandse Zaken) vanwege vermeend discriminerend gebruik van algoritmes voor de beoordeling van Een gewraakt algoritme van Buitenlandse Zaken stond niet eens in het register visumaanvragen, na een eerdere boete van 565.000 euro vanwege gebrekkige systeembeveiliging. BuZa past discriminerende profilering toe bij visumaanvragen. Sylvana Simons (Bij1) stelde pittige Kamervragen over discriminatie van onder meer de categorie ‘jonge Surinaamse mannen’. Ook Hind DekkerAbdulaziz (D66) stelde Kamervragen over het visumbeleid. Echter, hoe verwerpelijk wellicht ook, dit is geen gevalletje ‘computer says no’, maar gaat om door mensen bedachte beslisregels, zo bevestigt Niels Westerlaken die als Functionaris Gegevensbescherming bij BuZa waarschuwde. Overigens was hij het niet die de kat de bel aanbond; het was de Europese Commissie die de AP inschakelde. “Dit systeem draait al zeven jaar, waardoor BuZa operationeel afhankelijk is van het profileren. Ik hoopte het zelfreinigend vermogen van de organisatie te verbeteren, maar de afwachtende houding van de ambtelijke top bemoeilijkte dat. Onder externe druk wordt transparantie afgedwongen, een goede zaak.” Over het algoritmeregister zegt Westerlaken: “Voor gevoelige algoritmes met persoonsgegevens kent de AVG al een verplichting tot transparantie; betrokkenen moeten informatie krijgen over de logica van het profileren. Als je dat goed doet biedt een register weinig winst.” Hiermee illustreert Westerlaken bij uitstek de problemen die samenhangen met het Nummer 47, juni 2023 15 De Algemene Rekenkamer kent sinds 2021 een toetsingskader algoritmes (2021) dat criteria hanteert voor 63 risico’s qua sturing en verantwoording, model en data, privacy, en IT-beheer. Ethiek is in alle vier de onderdelen verweven. In het rapport Algoritmes Getoetst zijn negen algoritmes onderzocht. Zes van de negen voldeden niet, meestal door gebrek aan controle op de juiste werking, vooroordelen en/of slordig databeheer. BZK ontwikkelt een eigen toetsingskader gebaseerd op dat van de Rekenkamer.
16 Online Touch Home