Veel ruimte voor verbetering in Amsterdam Gemeente Amsterdam was weliswaar een van de eerste gemeenten die algoritmen centraal registreerde, maar er is in de hoofdstad nog veel ruimte voor verbetering. Dat werd eind 2023 duidelijk uit een rapport van de Rekenkamer Metropool Amsterdam (RMA), die onderzoek verrichte naar de handleiding die de gemeente vorig jaar opstelde om de algoritmen die de gemeente gebruikt transparanter en inzichtelijker te maken. Tekortkomingen Amsterdam gebruikt veel algoritmen, bijvoorbeeld voor het scannen van nummerborden voor parkeercontroles of om de WOZ-waarde van woningen te berekenen. De Rekenkamer concludeerde meerdere tekortkomingen in die algoritmen. Maatregelen die vooroordelen in een algoritme moeten minimaliseren (bias), worden bijvoorbeeld nog maar weinig gebruikt. 'Zo heeft de gemeente slechts bij één algoritme goed onderzocht of het algoritme eerlijk is. Daarnaast worden moeilijke beslissingen over de eerlijkheid van algoritmen nog niet genomen door het bestuur van de gemeente, terwijl dit wel politieke keuzes zijn', schreven de rapporteurs. Wettelijke controles Uit het rapport wordt ook duidelijk dat de wettelijke controles op algoritmen om de privacy van burgers te beschermen door gemeente Amsterdam nog onvoldoende worden uitgevoerd. 'Burgers zijn ‘Amsterdam weet zelf niet goed welke algoritmen ze allemaal gebruikt’ op dit moment nog weinig persoonlijk geïnformeerd over wat de gemeente met hun gegevens doet. En de gemeente legt nog niet goed uit hoe algoritmen zijn gebruikt bij het nemen van besluiten over burgers', aldus de RMA. Onvolledig Het Algoritmeregister, waar alle gemeentelijke algoritmen in moeten komen te staan, is bovendien niet volledig, blijkt uit het rapport. 'Zo stonden in september 2023 nog maar 29 algoritmen op de website, terwijl er mogelijk honderden algoritmen zijn. Dat komt doordat de gemeente zelf niet goed weet welke algoritmen ze allemaal gebruikt. Hierdoor krijgen raadsleden en burgers te weinig informatie'. De Rekenkamer adviseerde de gemeente Amsterdam naar aanleiding van de bevindingen onder meer om de gemeenteraad en burgers actiever te informeren over hoe en welke algoritmen worden gebruikt. meer op het gebied van Europese wetgeving worden er allerlei nieuwe eisen gesteld. De prioritering van het Algoritmeregister vraagt om een bestuurlijke en organisatorische afweging.” Te weinig expertise Kewal ziet tegelijkertijd dat er in sommige organisaties nog te weinig expertise is als het gaat om registreren van algoritmen. Niet iedere ambtenaar heeft scherp wat een algoritme is en welke algoritmen er precies moeten worden gepubliceerd. Het inventariseren van algoritmen en AI-systemen binnen de organisatie is vaak een eerste stap. Het invullen van het register kan nog beter, vindt Kewal. “Natuurlijk zouden we graag zien dat organisaties meer informatie invullen dan nu soms gebeurt. Het kan uitgebreider en vollediger. We zien dat bij sommige organisaties nog onduidelijkheid is over de vraag welke algoritmen moeten worden geregistreerd. Hier gaan we de komende tijd extra aandacht aan besteden.” Stijgende lijn Al met al is Kewal tevreden over de huidige ontwikkelingen rondom de registratie van algoritmen. “Nederland loopt als overheid voorop als het gaat om transparantie, juist door het Algoritmeregister dat we samen met andere overheden hebben ontwikkeld.” Ook de doorontwikkeling van de website van het Algoritmeregister loopt goed, stelt Kewal. “We letten bij de inrichting van de website goed op vindbaarheid en gebruikersgemak. Wat ons ook tevreden stemt, is dat we een stijgende lijn zien in het aantal registraties. Veel organisaties zetten zich hier echt voor in, met gemeenten als koplopers. Maar dat moet in de komende periode natuurlijk wel verder omhoog.” Het Algoritmeregister van de Nederlandse overheid Lees meer over het algoritmeregister op iBestuur.nl iBestuur 52, oktober 2024 61
62 Online Touch Home