indicatoren als nationaliteit en etniciteit te gebruiken, aldus de inventarisatie. BZK merkt op dat in een vijftigtal processen met afkomstgerelateerde indicatoren wordt gewerkt, maar dat op basis hiervan geen keuzes met nadelige gevolgen voor burgers worden gemaakt. JenV laat weten met het toepassen van risicomodellen met dergelijke indicatoren te zijn gestopt. Volgens Van Huffelen is er tot dusver van onoorbare praktijken geen sprake. Nog niet alle departementen hebben de inventarisatie afgerond. Ook wil de staatssecretaris de inventarisatie onafhankelijk laten toetsen. Op aandringen van de Kamercommissie, want eerder was ze daar niet toe bereid. De Kamer wil Zolang de AIverordening er niet is, stelt de Kamer, schiet de rechtsbescherming tekort niet, bleek tijdens dit commissiedebat, dat de Auditdienst Rijk de toetsing doet. De deskundigheid van de toezichthouder wordt betwist, want ze heeft zitten slapen bij het toezicht op de Belastingdienst en de misstanden bij de kinderopvang toeslag compleet gemist. De commissie komt zelf met een voorstel welke instantie de toetsing wel uit zou moeten voeren. 27 algoritmes geregistreerd De inventarisatie bij de ministeries is verder nog maar een eerste begin. Het Rijk heeft nauwelijks inzicht in het aantal Nummer 46, april 2023 risicovolle algoritmes die het gebruikt of in ontwikkeling heeft. Ze koopt immers ook algoritmes in bij het aanbesteden van applicaties. Bij de aanbestedingen worden tot nu toe ook geen harde afspraken gemaakt met leveranciers over non-discriminatie. In het Algoritmeregister staan begin maart 27 algoritmes van de rijksoverheid: een ervan is in gebruik bij het ministerie van Financiën (van de Dienst Toeslagen voor het berekenen van de huurtoeslag) en de overige bij een drietal uitvoeringsorganisaties (RvIG, SVB en UWV). Terwijl er volgens het onderzoek van de Algemene Rekenkamer vele tientallen voorspellende en voorschrijvende algoritmes zijn. Ook hoog-risico-algoritmes die bijvoorbeeld worden gebruikt voor fraudeopsporing, blijken niet geregistreerd. De Kamer is dan ook nog lang niet tevreden. Van Huffelen wil echter pas later dit jaar verder werken aan de verdere registratie, geeft ze als reactie aan; nadat ze een implementatiekader voor de AI-verordening uit Brussel heeft opgesteld. Volgens planning is dat rond de zomer. Om het Algoritmeregister verder te kunnen vullen, moet er een scherpe definitie liggen van wat precies hoog-risico-algoritmes zijn, aldus Van Huffelen, “en wat we zelf bij de overheid gaan afspreken moet in lijn zijn met wat we ook in Europa afspreken.” De AI-verordening bevat niet alleen anti-discriminatiecriteria, maar kijkt in een breder verband naar onwenselijke effecten bij het gebruik van algoritmes. Het implementatiekader is noodzakelijk, om het Algoritmeregister honderd procent dekkend te krijgen, stelt de staatssecretaris. Kamer wil niet wachten Aan de Kamer heeft Van Huffelen eerder toegezegd dat het Algoritmeregister eind van dit jaar volledig gevuld zou zijn. Dat wordt dus nog een spannende opgave, redeneert de Kamer. Niet alleen qua planning; van verplichte deelname aan het register door ministeries en uitvoeringsorganisaties is pas eind 2024 sprake. Versnelde invoering van deze verplichting is volgens de staatssecretaris niet mogelijk, want het wetgevingstraject is tijdrovend. Bovendien heeft Van Huffelen de medeoverheden, neem de inzet van hoog-risico-algoritmes door gemeenten, niet aan een touwtje. De Kamer wil echter niet wachten tot er vanuit Europa regels komen. Ook wil ze meer duidelijkheid van de staatssecretaris over de inzet van discriminerende algoritmes bij het Rijk en het opruimen van vervuilde data. Medio mei staat alweer een volgend commissiedebat over AI op de agenda. 71
72 Online Touch Home