GenAI bij de overheid Verbieden? Grenzen stellen? Experimenteren? Gebruik van generatieve AI (GenAI) door rijksambtenaren is aan banden gelegd. Andere overheden zullen volgen. Eerst moet helder zijn of ChatGPT en andere AI-wonderen aan Europese wetten en ethische kaders voldoen. p 12 december 2023 stuurde Alexandra van Huffelen een ‘Voorlopig standpunt voor Rijksorganisaties bij het gebruik van generatieve AI’. Die gaat vooraf aan de overheidsbrede visie op generatieve AI die de demissionair staatssecretaris Digitalisering met haar departement en CIO’s binnenkort presenteert. De brief was urgent vanwege de negatieve adviezen van landsadvocaat Pels Rijcken en de Autoriteit Persoonsgegevens over de juridische risico’s. De landsadvocaat adviseert ‘geen gebruik te maken van online beschikbare GenAI-toepassingen in afwachting van nadere richtsnoeren of handvatten van bevoegde privacytoezichthouders (bijvoorbeeld EDPB en AP), en/of aanvullende regelgeving. Gebruikmaken zou kunnen als de invoer van persoonsgegevens en/of vertrouwelijke informatie technisch en organisatorisch uitgesloten is.’ De AP is nog strenger en adviseert Van Huffelen een strikt verbod in te stellen op gebruik van online generatieve AI binnen de Rijksoverheid vanwege de grote risico’s op schending van de AVG. De AP noemt het recht op correctie en verwijdering van persoonsgegevens als die via een AI-applicatie zijn verspreid, benevens gevaren van vooroordelen van discriminatie van AItoepassing. Behalve de Rijksoverheid moet de regering ook andere overheden hieraan houden, vindt de AP. O Dit volgt Van Huffelen op in de brief namens de regering: ‘Niet-gecontracteerde generatieve AI-toepassingen zoals ChatGPT, Bard en Midjourney, voldoen over het algemeen niet aantoonbaar aan de geldende privacy- en auteursrechtelijke wetgeving. Zodoende is het gebruik hiervan door Rijksorganisaties (of in opdracht daarvan) in beginsel niet toegestaan, in die gevallen waarin het risico bestaat dat wetgeving wordt overtreden, tenzij de aanbieder en de gebruiker aantoonbaar voldoen aan de geldende wet- en regelgeving.’ Van Huffelen noemt dit echter ‘geen categorisch verbod van de technologie’. De facto is dat het wel want ze maakt helder dat niet-gecontracteerde toepassingen niet aan de voorwaarden voldoen in het licht van de geldende wet- en regelgeving. Wel mogen departementen GenAI in een veilige omgeving testen. Ook volgt een inventarisatie van GenAI-gebruik en wensen binnen de Rijksoverheid. Door Peter Olsthoorn Beeld Shutterstock/iBestuur 52 Van Huffelen vindt het onduidelijk of aanbieders als Google of OpenAI auteursrechten respecteren bij het trainen van hun toepassingen met enorme hoeveelheden online teksten en beelden. Dit is een juridisch mijnenveld. In juni 2023 vroeg de AP aan OpenAI per brief om opheldering over omgang met
53 Online Touch Home