Geschrapt door JenV De Tweede Kamer stemde recent over een serie moties, ingediend na een debat over algoritmes. Het meest vergaand is een motie van Renske Leijten (SP). Ze vindt dat “algoritmes op het gebied van rechtshandhaving grote ingrijpende gevolgen kunnen hebben en niet mogen leiden tot discriminatie en uitsluiting…verzoekt de regering de categorische uitzondering in het algoritmeregister voor algoritmes die zien op rechtshandhaving te laten vervallen.” Deze gevoelige motie voor uitbreiding van het algoritmeregister werd aangenomen doordat regeringspartij D66 met de vrijwel voltallige oppositie vóór stemde, tegen coalitiepartners VVD en CDA in. Ook opvallend is een brief van minister Yesilgöz van Justitie en Veiligheid naar aanleiding van moties van Kamerleden Lilian Marijnissen (SP) en Jesse Klaver (GroenLinks), aangaande “het opruimen van onrechtmatig en onbehoorlijk verwerkte afkomstgerelateerde indicatoren”. Besloten is dat het COA niet langer de indicatoren ‘ras’, ‘etniciteit’ en ‘religie’ deelt met de gemeenten, die ook bestaande registraties moeten wissen. De IND mag voor het risicomodel ‘Erkend referentschap’ geen afkomstgerelateerde indicatoren meer gebruiken. Het DirectoraatGeneraal Migratie (DGM) stopt met het registreren van ‘nationaliteit’ en ‘veilig land van herkomst’ bij de aanpak van overlastgevers die in Top-X lijsten terechtkomen. Ook bij de officiële registratie van incidenten is dit geschrapt, eveneens met terugwerkende kracht. Ook de Dienst Terugkeer en Vertrek (DTenV) en Koninklijke Marechaussee moeten stoppen met ‘nationaliteit’. 16 algoritmeregister: de registratie zelf is niet de crux, maar het hele proces naar registratie, inclusief controle of het toegepaste systeem ‘nette’ uitkomsten tot gevolg heeft en risico’s op vooroordelen en discriminatie uitsluit of ten minste minimaliseert. Ethisch kompas De Eerste Kamer debatteerde in maart 2023 intensief over de gevolgen van algoritmegebruik voor rechtsstaat en democratie, geholpen door het rapport Algoritmes Overwegen van Rathenau waarin zeven aanbevelingen staan. De theoretische basis is gelegd, nu de praktijk nog. Zo zegt Van Huffelen dat nu pas een uitgebreid doelgroepenonderzoek loopt, “zodat we steeds meer te weten komen over wat er verwacht wordt van het register en stapsgewijs ontwikkelt het register hierin mee.” Ook Eveline Jacobson, projectmanager data-ethiek en algoritmeregister bij UWV, ervaart zo’n voortschrijdend inzicht: “Het begon als een publiek consortium met een aantal gemeenten waaronder Amsterdam die startte met publicatie van algoritmes. Vervolgens was er de motie-Dassen waarin een verplicht algoritmeregister werd voorgesteld. BZK ontwikkelt nu een publicatiestandaard. De doelgroepen zijn burgers en experts.” Wie die experts zijn en welke informatie zij precies willen is niet helemaal helder. Daarmee loop je een risico dat het register zo uitgebreid wordt dat het minder toegankelijk wordt voor de burger voor wie het in eerste instantie was bedoeld. Je kunt je beter eerst richten op toegankelijkheid voor een breed publiek en vervolgens, op grond van de respons, bepalen hoe je uitbreidt. Als je het direct helemaal wilt dicht timmeren streef je je doel voorbij. Bovendien kan naar aanleiding van publicatie altijd aanvullende informatie worden opgevraagd met een beroep op de Wet open overheid.” De leidraad binnen UWV is het Kompas Data-Ethiek van UWV: “Daarbinnen is transparantie één van de belangrijke uitgangspunten, en het register één van de middelen. Er zijn ook andere manieren van informeren van betrokken individuen waar je kunt uitleggen welke rol het algoritme speelt.” Precies hierover is een motie van Evert Jan Slootweg (CDA) door de Tweede Kamer met algemene stemmen aangenomen: “Binnen twee jaar moeten alle overheidsorganisaties kenbaar maken aan onze inwoners van welke persoonsgegevens en welke algoritmes ze gebruik hebben gemaakt bij het nemen van het besluit.” Dit zorgt voor veel meer werk voor ambtenaren dan slechts registratie van hun systeem in het algoritmeregister. Ze moeten niet enkel de input in het algemeen benoemen, maar per besluit kunnen specificeren. Registreren is één, uitleggen is twee. Maar hoe leg je uit wat de machine heeft geleerd en welke gevolgen dit heeft? Het is en blijft aan de overheidsorganisaties zelf, met externe controle van experts en journalisten, om onjuist gebruik te voorkomen.
17 Online Touch Home