Er zijn volgens hem genoeg dienstverlenende toepassingen te bedenken met beperktere risico’s. Ethische grenzen Daniel Tijink, ethicus van platform ECP en gesprekspartner van BZK bij de visievorming over AI, vindt het jammer dat de staatssecretaris zich gedwongen voelt om de strenge juridische adviezen te volgen: “Generatieve AI is een nieuwe technologie waarvoor het heel belangrijk is om te leren; dus om het juist wel in gebruik te nemen. Zo leer je al doende goed te kijken wat het ethisch betekent, en om het risico dat je de wet overtreedt te minimaliseren.” Tijink is techniekfilosoof en bestuurskundige, maar haalt zijn kennis bij voorkeur uit de praktijk. Dus heeft hij met BZK bij vier sectoren praktisch AI-gebruik geanalyseerd op ethiek: hoger onderwijs, zorg, politie en media. “Wat zijn de positieve en negatieve effecten? En welke waarden spelen dan een rol? En vooral, hoe kun je reageren? Waar zit de ethische ruimte als gebruiker, als beleidsmaker en vanuit de techniek?” Er is gesproken met betrokkenen aan twee kanten, zoals docenten en studenten, artsen en patiënten, beleidsambtenaren van betrokken ministeries (OCW, VWS, J&V), ICT-afdelingen en Microsoft als leverancier van GPT-functies. Welke ethische verrassingen ontmoetten jullie in die praktijk? Tijink: “In de zorg is een app bekeken die gesprekken tussen arts en patiënt opneemt en samenvat. Dat scheelt veel administratief werk voor zorgverleners. Wij dachten: uit privacy-oogpunt moet je die samenvatting snel weggooien, maar sommige patiënten wilden die juist wel in hun dossier opnemen. Het meest verrassend, want verst gevorderd, was bij het hoger onderwijs. Een student kocht geen boek meer maar liet de stof ophoesten door ChatGPT vanuit de ingebrachte inhoudsopgave. Hij leerde de stof in gesprek met GPT en behaalde een 8. De docent was eerst sceptisch maar later blij verrast, nog nooit had een kandidaat een openboektentamen zonder open boek gehaald.” Dit soort kennis doe je het beste op in de praktijk, benadrukt Tijink. “Niet enkel wetgeving gaat het verschil maken en grenzen bepalen. Wetgeving duurt lang en is abstract. De vertaling van abstracte wet naar concrete praktijk is moeizaam. Ethiek in de praktijk is in deze technologische dynamiek een onmisbare aanvulling op wetgeving. In een gesprek met betrokkenen geef je ethiek samen vorm. Ook het werk van ambtenaren is een specifieke praktijk waarin we gezamenlijk ethiek in AI-toepassing moeten ontdekken.” Nummer 49, januari 2024 55 Daniel Tijink: “Heel belangrijk om te leren; dus om het juist wel te gebruiken.” beeld: arenda oomen
56 Online Touch Home