Erwin Angelier: AI niet te veel neerzetten als experiment. Eerst moet daarvoor de basis op orde zijn, vult Fettah aan: “Anders krijg je garbage in garbage out. Daarom pleiten wij er bij dit soort modellen voor om niet van alles erin te stoppen, maar eerst te kijken naar wat er al in zit. Als overheid moet je de eigen context toevoegen. We doen te veel experimentjes op sexy onderdelen, maar kijken niet naar de hele keten. Wat voor data erin komen, wat eruit komt. Het moet nuttig zijn.” Heijmans is het daarmee eens. “De context moet goed zijn, alleen dan kun je generatieve AI inzetten voor ouderwets automatiseren.” Daarom moet je als overheid dan ook kritisch kijken met welke partijen je in zee gaat, vult Angelier aan. “Als je zaken doet met een partij die niet vraagt of je het wel aankunt, of je de basis wel op orde hebt, dan moet je jezelf achter de oren krabben. Transparantie op het proces en op de keuzes die je maakt is super belangrijk.” Huykman schetst hoe kwetsbaar data kunnen zijn. “Wij zijn verantwoordelijk voor de data. Maar ik ken gemeenteambtenaren –waaronder ikzelf – die de data van hun familieleden niet toevertrouwen aan het systeem; dan doen we ons werk niet goed. Het gaat heel erg om privacy. Je wilt weten en snappen welke data gebruikt worden, waarvoor en door wie en dat ze vernietigd worden. De onderliggende datastructuur en borging, dataveiligheid, moeten zo stevig zijn dat onze zorgvuldigheid groot is. Dan kunnen we het met comfort gebruiken en is het ook niet eng bij nieuwe toepassingen. Het gaat over het besef van wie de data in een organisatie zijn. De archiefrol van de gemeente is een wettelijke taak, maar we moeten weten dat het niet mijn data zijn, maar die van inwoners. En dan gaat het ook vaak om de meest kwetsbare data. Ik ben blij dat we dat de jongere generaties minder hoeven uitleggen.” Mooie aanleiding voor het gesprek De directeur Artificiële Intelligentie van JenV kijkt na afloop van de sessie terug op een mooi debat. “Deze hype is een mooie aanleiding om het gesprek aan te gaan over de mogelijkheden van generatieve AI, zodat we vervolgens de juiste tool vinden voor de juiste problemen. Daarvoor is deze ontwikkeling heel erg waardevol.” We moeten AI bekijken met een bredere blik, herhaalt hij nog eens. “We moeten continu blijven investeren in ons digitale fundament: om onze data op orde te hebben, onze systemen veilig te houden en bij de tijd te houden.” 38 “Het gaat over het besef van wie de data in een organisatie zijn” De belangrijkste boodschap uit het debat is volgens Van Leeuwen dat we het midden moeten zoeken tussen doen alsof AI alle problemen oplost tegenover achterover leunen uit angst. “Het is belangrijk dat we aan de slag gaan en ervan gaan leren. We moeten beseffen dat dit niet de golden bullet is. Wat steeds centraal moet blijven staan is de mens, de opgave, en niet de tooling dus.” Van Leeuwen zelf is vanuit zijn functie vooral gericht op veiligheid en rechtvaardigheid rond generatieve AI. “Ook in onze digitale samenleving willen we zorgvuldig blijven werken, zodat er geen onrechtvaardigheid insluipt. Dat is niet alleen de verantwoordelijk van ons als overheid, maar van iedereen die werkt aan deze ontwikkelingen. Had je bij een ouderwets boekhoudprogramma nog het overzicht, met dit datagedreven werken sluipen er makkelijk selectie- of metadata fouten in die bijvoorbeeld ongewild tot discriminatie kunnen leiden. Daarom is het extra belangrijk dat we werken aan de ethische verantwoordelijkheid van AI.”
39 Online Touch Home