van een drone die zelf drenkelingen opspoort moet eerst getraind worden om ‘slim’ genoeg te zijn. Vervolgens moet de mechaniek van het apparaat zelf goed werken, ook daarvoor moet uitgebreid getest worden. Uiteindelijk moet het zelfs in barre weersomstandigheden met grote windkrachten in de lucht blijven hangen. Het is met name belangrijk dat wetgeving genoeg meebeweegt met de ontwikkelingen. “Op dit moment is het nog niet toegestaan om te testen zonder een piloot die toezicht houdt, maar ook dat moment gaat komen.” Er ligt momenteel een Europees voorstel voor AI-regelgeving op tafel, maar veel is nog onduidelijk. Met name over de ethische aspecten van de inzet van AI. Marieke Martens gaf aan dat bij het gebruik van AI alle scenario’s moeten worden vastgelegd. “We moeten definiëren waar de systemen aan moeten bijdragen en die systemen ook kunnen afrekenen daarop, in plaats van dat we programmeurs ontslaan die in opdracht van hun baas programmeren. Je moet als overheid zélf je verantwoordelijkheid nemen.” Werkhoven benadrukte dat technologie de samenleving dwingt om ethiek kwantificeerbaar te maken. “En die confrontatie hebben wij nooit eerder in de geschiedenis meegemaakt.” Pas op Op de Haagse campus van Universiteit Leiden neemt Tycho de Graaf, universitair hoofddocent gespecialiseerd in e-law, de deelnemers mee in het aanbesteden van AI en de regels die daar nu voor gelden. In Europa wordt nog hard gewerkt aan een nieuwe set eisen en regels voor AI. Gemeente Amsterdam is één van de eerste organisaties die al eigen contractvoorwaarden heeft opgesteld voor algoritmes. Hoogleraar Matt Young, gespecialiseerd in AI, besprak hoe dataverzamelingen van burgers om bijvoorbeeld fraude te ontdekken in elkaar zitten. “De technisch moeilijkste algoritmes werken vaak het slecht. En de simpelste algoritmes blijken vaak juist heel goed en betrouwbaar te werken. Young raadt aan: “Ga in gesprek met gebruikers, help problemen identificeren voor een institutionele context en onderneem proactief actie.” Wanneer uitkomsten van computerbesluiten niet kloppen moeten deze problemen niet worden wegstopt, maar juist worden gecentreerd. “Identificeer waar het misgaat, erken problemen en documenteer deze”, aldus Young. “Neem fouten mee als afweging bij gevallen in de toekomst waarin mogelijk ook iets verkeerd gaat. Als mens kunnen wij immers de ethische impact van een computersysteem reduceren.” In de afsluitende presentatie gaf emeritus hoogleraar Informatica en Recht Jaap van den Herik nog een belangrijke waarschuwing mee. “Pas op wanneer u technologie inkoopt.” Daarbij refereerde hij aan één van de zes wetten van Melvin Kranzberg: “Technologie is niet goed, niet slecht en ook niet neutraal. Het kan zowel in positieve als in negatieve zin gebruikt worden en onbedoelde gevolgen hebben. Technologie is een hulpmiddel, en de mens heeft aandeel in hoe het gebruikt wordt en hoe het uitpakt.” Juristen en IT’ers begrijpen elkaar volgens Van den Herik niet altijd. “De komende jaren moeten we samen de brug op om het gesprek te voeren.” AI OBJECTDETECTIE: VUILNISZAK VERKEERD 82% 97
98 Online Touch Home