om een einde aan de aanvankelijke vrijwilligheid te maken: publicatie wordt na aandrang van de Tweede Kamer verplicht. Van Huffelen laat weten dat ze inziet dat de registratie veel voeten in de aarde heeft: “Voorafgaand aan het registreren moeten de relevante algoritmes geïnventariseerd, en de verantwoordelijkheden goed geregeld worden. Het registreren heeft dus een lange doorlooptijd en heeft nog niet bij elke organisatie urgentie. Capaciteitstekort speelt daarbij een rol.” Haar departement stimuleert registratie. “We hanteren een iteratieve aanpak. Dit betekent dat we zowel werken aan het aantal registraties in het register, als aan de verhoging van de kwaliteit van bestaande registraties. Een aantal registraties is al herzien om de kwaliteit en toegankelijkheid te verbeteren. Betere aanleverfunctionaliteit en checks helpen daarbij.” Het register is volgens Van Huffelen dus ‘work in progress’. Decentrale registers sluiten aan, zoals de registers van het Kadaster en de gemeenten Rotterdam en Eindhoven. Kritische toetsing Gemeente Amsterdam pionierde in 2020 samen met Helsinki in het witboek Public AI-Registers: “Elke burger moet toegang hebben tot begrijpelijke en actuele informatie over de invloed van algoritmen op zijn leven en over de gronden waarop algoritmische beslissingen worden genomen.” Praktisch gezien betekent dit dat overheden “zinvolle transparantie” bieden over “doel en impact, verantwoording, datasets, gegevensverwerking, non-discriminatie, menselijk toezicht, risico’s en hun risicobeperkende maatregelen, en uitlegbaarheid.” Het Algoritmeregister Amsterdam telt nu tien applicaties, onder meer voor bijstandsaanvragen, illegaal wonen, parkeercontrole, drukte op straat, armoedebestrijding en top 400/600 boeven. Die laatste is veruit het gevoeligst: een algoritme van Prokid, ingezet vanaf 2016, leidde onmiskenbaar tot discriminatie. Dat werd pas bekend na uitgebreid onderzoek waarna het algoritme werd opgedoekt. Had een register stigmatisering en discriminatie kunnen voorkomen? Het had er in elk geval aan kunnen bijdragen. Neem dit voorbeeld uit Rotterdam. Renske Leijten (SP) kapittelde de gemeente tijdens een recent Kamerdebat vanwege een algoritme voor fraudeopsporing: “Ben je alleenstaand? Ben je een vrouw? Zit je in de bijstand? En heb je ook nog een andere nationaliteit? Nou, dan scoor je hoog op de fraudekaart. De overheid doet dit nog op heel veel andere plekken; we weten dat algoritmes mensen discrimineren en uitsluiten.” Ambtelijk secretaris van Bernie Goedhart van de Rotterdamse externe adviescommissie Algorithm Advisory Board (AAB) laat weten: “De toepassing ‘Heronderzoeken uitkeringsgerechtigden’ is inmiddels buiten werking gesteld in het Algoritmeregister Rotterdam. Dat is het gevolg van toepassing van streng algoritmebeheer, met een verplichte Impact Assessment Mensenrechten en Algoritmen (IAMA) voor hoog risico. Louter transparantie met registratie volstaat niet, je moet dat vergezeld laten gaan met kritische 14
15 Online Touch Home