Podium brengen en transparantie te bieden. De Autoriteit Persoonsgegevens (AP) fungeert als toezichthouder op de naleving en bescherming van persoonsgegevens die worden verwerkt in algoritmes en AI-systemen. Ook wordt er gewerkt aan een implementatiekader ‘Inzet van algoritmes’ om te zorgen voor duidelijke kaders bij het gebruik van AI door de overheid. Internationaal wordt momenteel door de Europese Commissie een AI-verordening (AI Act) opgesteld die onder andere ‘hoog risico’-systemen gaat reguleren. Hierbij worden voor sommige typen AI-systemen verplichtingen in het leven geroepen. Denk aan het uitvoeren van impactbeoordelingen om de gevolgen van deze systemen te analyseren. Tegelijkertijd is kort gepresenteerd door het Congres van Lokale en Regionale Overheden. Dit deel richt zich op de analyse van de impact van digitalisering en AI op lokaal mensenrechtenbeleid. Visie op generatieve AI Net als bij andere impactvolle technologieën, zoals de stoommachine en de computer, kan generatieve AI ingrijpende gevolgen hebben. Deze zorgen vinden weerklank in het maatschappelijke en politieke debat. Eind maart hebben Tweede Kamerleden een motie ingediend waarin het kabinet wordt opgeroepen een integrale visie te ontwikkelen met betrekking tot de toepassing, mogelijkheden en risico’s van nieuwe AI-producten. Het is een uitdaging om beleid te maken voor een vraagstuk dat nog onvoldoende gedefinieerd is er een discussie gaande over de mogelijkheid om een aparte categorie toe te voegen met specifieke verplichtingen voor aanbieders van foundation models. Dit zijn AI-systemen die worden getraind op een grote hoeveelheid data om vervolgens een breed scala aan taken te kunnen uitvoeren, met als bekend voorbeeld het model van OpenAI waar ChatGPT op is gebaseerd. Naast de EU werkt ook de Raad van Europa aan een voorstel tot regulering van AI. Dit AI-verdrag richt zich op de bescherming van mensenrechten, democratie en de rechtstaat bij de ontwikkeling en het gebruik van AI-systemen. Tot slot wordt het vierde deel van het Handboek Mensenrechten binnen96 Bij de uitvoering van deze motie worden naast de vele kansen ook de risico’s, uitdagingen en ethische dilemma’s van generatieve AI steeds duidelijker. Daarom werken het ministerie van Binnenlandse Zaken en Koninkrijksrelaties en Economische Zaken en Klimaat hierin nauw samen met andere departementen, waaronder Justitie en Veiligheid en Onderwijs, Cultuur en Wetenschap. De visie beschrijft de impact op de samenleving en belicht de verschillende juridische, ethische en technische gevolgen van deze technologie. Vanwege het grote politieke en maatschappelijke belang is er gekozen voor een open dialoog met verschillende stakeholders, zoals de EU, wetenschappers, het bedrijfsleven, onderwijsinstellingen, maatschappelijke organisaties en burgers. De inzichten die in verschillende bijeenkomsten met stakeholders, zoals sectorsessies, burgerbijeenkomsten en ECP begeleidingsethieksessies, worden opgedaan worden op hun beurt weer getoetst door een breed samengestelde klankbordgroep. Het doel is om te komen tot een visie op generatieve AI die een weerspiegeling is van de verschillende perspectieven die zijn ingebracht. Elja Daae is coördinerend beleidsmedewerker digitale samenleving bij het ministerie van Binnenlandse Zaken en Koninkrijksrelaties. Wilt u actief op de hoogte blijven van dit visietraject, meepraten en uw mening geven? Word dan lid van de online community generatieve AI: generatieveai.pleio.nl
97 Online Touch Home