processen zo wel de levens van duizenden burgers kunt vernielen. Zo’n systeem maakt mensen erg kwetsbaar, want met wat code kun je vrij extreem bezig zijn. Gebruikers denken vaak al snel: er zal wel over nagedacht zijn. Het zit wel goed. Het is heel problematisch als iedereen er zo over denkt. Al kun je uit de verhoren van de onderzoekscommissie opmaken dat de ambtenaren dit een heel grof mechanisme vonden.” Van Dam kan zich daar helemaal in vinden. “Je hoeft je controlesystemen niet per definitie op harde maatregelen te laten koersen, maar bijvoorbeeld meer op ‘soft controls’ en meer informatieverzoeken. Maar we weten ook dat de Dienst Toeslagen bezwaarschriften volop naar informatieverzoeken omkatte, omdat dit administratief minder werk vergt. De hele sfeer binnen de dienst was er enerzijds een van overleven en anderzijds bevroedde men dat dit niet zo kon. Maar de laatste waren eenlingen.” Politiek Of de politiek erin zal slagen het toezicht op het gebruik van voorspellende algoritmes door de overheid succesvol aan te pakken, betwijfelt Van Eck. Oktober 2020 werd pas door het kabinet besloten dat er een interdepartementale werkgroep voor AI komt, om het versnipperde beleid op algoritmes tot één visie te verenigen. De Tweede Kamer drong daar al ruim twee jaar op aan. “Het gaat ontzettend traag. De Kamerleden die hierin deskundig zijn, zijn op één hand te tellen, en veel gaan er na de verkiezingen weg. Wel zie ik de wenselijkheid van het toezicht op algoritmes in de verkiezingsprogramma’s terugkomen. Wie weet gaat het wat worden.” In januari pleitte de Algemene Rekenkamer voor een betere kwaliteitscontrole van algoritmes. In het onderzoek is niet specifiek naar de FSV gekeken. Burgers moeten het gebruik en de werking van algoritmes kunnen begrijpen, stelt de Rekenkamer. Ook moeten zij weten waar zij terecht kunnen met vragen of bezwaren. Nu is onduidelijk waar ze aan kunnen kloppen. Van Eck pleitte al eerder voor een onafhankelijke instantie die controleert of de omzetting van wetgeving in beslisregels juist is verlopen. “Je weet bij algoritmes niet of de wet goed is geïmplementeerd. Geen wet is zo gespecificeerd dat je hem direct in algoritmes over kan zetten. Bij het coderen worden keuzes gemaakt. Is dan het belang van een goede uitvoering van de wet of dat van de burger leidend geweest? Er zitten allemaal veronderstellingen in zo’n systeem, waarvan ik zou willen dat dit getoetst wordt, zodat de rechter of de burger dat niet zelf hoeft te fixen. De uitvoering is één grote blackbox geworden.” Op het onderzoek van de Algemene Rekenkamer valt trouwens wel wat af te dingen, vindt Van Eck. “Opvallend is dat de Rekenkamer een heleboel informatie gewoonweg niet aangeleverd heeft gekregen van de CIO’s op de ministeries. Ze heeft geen processen kunnen onderzoeken waarin besluiten worden genomen die een substantiële impact op mensen kunnen hebben. Al heeft ze daar wel om gevraagd. De onderzochte algoritmes hebben alleen een administratief effect. Mijn idee is dat ze een beetje zijn gefopt. Ik hoor wel zeggen dat we door dit onderzoek vijftig jaar terug in de tijd zijn geworpen. Dat is jammer. De toeslagenaffaire heeft ons duidelijk geleerd dat we in de fase zijn beland waarin de overheid niet meer alles met ICT mag.” ZIE OOK PAGINA 40: ‘Transparantie in een context van wantrouwen werkt niet’ Nummer 38, april 2021 15
16 Online Touch Home