70

standpunt. De Europese AI-verordening, die op zijn vroegst eind dit jaar is afgerond, moet bepalen welke vormen van AI zijn toegestaan en waar systemen aan moeten voldoen. Zo komen er scherpe eisen voor hoog-risicosystemen, zoals verplichte opname in een databank en voor ontwikkelaars een verplichte toets op mensenrechten. Dat laatste is een stevige aanvulling op de bestaande privacy-assessments. Veel is nog onduidelijk op het Europese toneel. Voor realtime biometrische surveillance-software in de openbare ruimte willen de lidstaten naar een verbod toe, maar verder hebben de Europese telecomministers in het eerste concept van de AI-verordening veel uitsluitingen opgenomen. Zo vallen de AI-systemen die op de buitengrenzen van de EU toezicht houden, buiten de verordening. Ook is onduidelijk of EU-landen de ruimte krijgen om zelf aanvullende eisen te stellen. De lidstaten kijken vooral naar de innovatiekansen van AI en willen dat burgers en bedrijven zoveel mogelijk AI-systemen gaan gebruiken. Precies de kant die ook minister Adriaansens zo graag belicht ziet. Geen onoorbare praktijken beide bewindslieden. Het bundelen van kennis, stelt Adriaansens, vindt volop plaats in de Nederlandse AI Coalitie, waarin EZK samenwerkt met zo’n 500 bedrijven, waaronder IBM, Philips en Ahold Delhaize. Vanuit deze samenwerking is innovatieprogramma AiNED opgetuigd, dat 276 miljoen euro krijgt uit de ruif van het Nationaal Groeifonds. Adriaansens en Van Huffelen laten het aan de AP over om meer samenhang in het versnipperde toezicht te bewerkstelligen. Met regulering willen de beide bewindslieden wachten tot Brussel haar ei heeft gelegd. “Er moeten keuzes worden gemaakt die aansluiten op wat er op Europees niveau wordt afgesproken”, zo verwoordt staatssecretaris Van Huffelen het 70 Zolang de AI-verordening er niet is, stelt de Kamer, schiet de rechtsbescherming tekort. De Kamer vindt bovendien dat de AP een toezichthouder zonder scherpe tanden en voldoende middelen is. Van Huffelen ziet dat beslist anders. Hoewel de AI-verordening nog in wording is, geldt natuurlijk al de AVG. “De AP kan dus op dat gebied al aan het werk.” Volgens Van Huffelen loopt het budget van de AP voor het toezicht op algoritmes van het huidige bedrag van 1 miljoen volgend jaar op tot 3,6 miljoen euro. “We hebben dat besproken met de AP en die zegt dat dit voldoende is om deze taak op te kunnen zetten.” Ook het idee dat de AP geen tanden zou hebben, bestrijdt de staatssecretaris. De Belastingdienst kreeg vorig jaar nog een boete van 3,7 miljoen euro opgelegd voor de jarenlange illegale verwerking van persoonsgegevens in de FSV. Medio februari kwam de AI-problematiek wederom aan de orde tijdens een volgend commissiedebat. Vlak ervoor kwam staatssecretaris Van Huffelen met de lang verwachte inventarisatie van bij de departementen in gebruik zijnde hoogrisico-algoritmes en risicomodellen. Een van de acties om de twee jaar oude motie-Marijnissen-Klaver uit te voeren, die zinspeelt op het elimineren van afkomstgerelateerde algoritmes en het opschonen van vervuilde data. Het merendeel van de ministeries stelt geen discriminatoire risicomodellen met

71 Online Touch Home


You need flash player to view this online publication