De Autoriteit Persoonsgegevens (AP) heeft sinds dit jaar een nieuwe tak: de directie Coördinatie Algoritmes (DCA). DCA gaat toezicht houden op algoritmes, met de focus op het beschermen van publieke waarden en grondrechten. Programmadirecteur Sven Stevenson ziet nog de nodige uitdagingen in de concreetheid van het toezicht. ven Stevenson (1984), nu chef DCA heeft geen specifieke ervaring met algoritmes. Hij was dertien jaar werkzaam bij De Nederlandsche Bank in economische functies en automatisering. Hij gaf in 2008/2009 leiding aan de Jonge Socialisten in de PvdA, de partij van Aleid Wolfsen, voorzitter van Autoriteit Persoonsgegevens. S Wat doen jullie? Stevenson: “Wij brengen in kaart wat de risico’s behelzen en hoe deze te benaderen. Een deel is te ondervangen met bestaand AP-toezicht vanuit de AVG dat we intensiveren voor AI-toepassing. Daarnaast werken we samen met toezicht houders, bijvoorbeeld voor cybersecurity, bouwen het raamwerk voor toezicht op algoritmes en proberen dat te concretiseren.” Wie bemensen het team? “We tellen nu acht personen, beperkt door het budget van 1 miljoen euro over 2023. Er komen nog twee verdubbelingen qua capaciteit. We willen hier mensen hebben die holistisch kijken, naar een breed scala risico’s in verschillende contexten. Het liefst heb je mensen die perspectieven combineren, die behalve juridische bagage kennis hebben in brede zin over digitalisering, over mathematische risico’s van modellen, met een filosofische blik, en kennis van de praktijk van algoritmes. Het zijn veel jonge mensen, een van ons studeerde zelfs ontwikkelingsvraagstukken.” Wat doen die acht mensen dagelijks concreet? “Onze toegevoegde waarde moet zijn om overkoepelend te kijken: hoe ziet het gewenste ecosysteem voor beheersing van algoritmes eruit? Wat zijn de risico’s en uitdagingen met toeNummer 48, oktober 2023 Welke toezichthouders? “De horizontale zoals de Rijksinspectie Digitale Infrastructuur, de ACM vanwege consumentenbescherming, het College voor de Rechten van de Mens. Daarnaast de sectorale toezichthouders als DNB en AFM voor de financiële sector, de Inspectie Justitie en Veiligheid.” Kan me voorstellen dat zo’n overleg alle kanten op fladdert vanwege de enorme informatie-overvloed over AI momenteel… “Dit is inderdaad het beginstadium. We moeten de regelgeving, normen en guidance helder krijgen. Ons belangrijkste wettelijke instrument, de Europese AI-verordening, moet eind 2023 gereed zijn en in 2024 opgenomen in nationale wetgevingen. Daarop volgt de handhaving.” Wat vindt u van de AI Act? “Algoritmes worden als product beschouwd; met vereisten voor toepassingen die een hoog risico vormen voor gelijke behandeling en andere ethische factoren. Het concept van productregelgeving wordt opgerekt, bijvoorbeeld hoogrisico algoritmes die intern voor eigen doeleinden worden ontwikkeld door de politie of verzekeraars komen onder dit producttoezicht te vallen. Ik ben er redelijk optimistisch over.” 13 zicht? We duiken in het onderwerp, de wetenschap, concrete voorbeelden. We maken de halfjaarlijkse Rapportage Algoritmerisico’s Nederland [kader]. We werken aan samenwerkingsverbanden met andere toezichthouders die met algoritmes te maken krijgen in een gezamenlijk platform, vooral voor kennisuitwisseling. We werken aan een tweede platform op bestuurlijk vlak. We moeten elkaar goed weten te vinden.”
14 Online Touch Home