We spreken u direct na de Kamerverkiezingen, een onvermijdelijk onderwerp. Emoties en impulsen waren dominant. Stel, je maakt met AI-bots betere stemhulpen en uitkomsten worden direct in stemmen omgezet, kom je dan tot een andere uitslag? “Inderdaad domineren emoties en impulsen. Een achtergrond van maatschappelijke onvrede, onbehagen en afstand speelde de afgelopen verkiezingen mee. Maar ik vrees dat mogelijke rationalisering via AI alleen maar meer afstand zou creëren. Wie zou de AI-bot programmeren, met welke grootschalige trainingsdata? Eventueel zou je AI kunnen inzetten om de impact van mogelijke coalities beter te duiden, in combinatie met de CPB-doorrekeningen. Al is het ook hier de vraag hoe rationeel en datagedreven coalitievorming in de praktijk is.” In een college over algoritmes voor Universiteit van Nederland vraagt u “Typ als zoekopdracht ‘partijprogramma’, zonder enige context.” Mensen krijgen heel verschillende zoekresultaten, met politieke invloed tot gevolg. De recent aangenomen AI Act vereist menselijke tussenkomst bij uitkomsten. Maar bij het invloedrijkste algoritme, dat van Google Search, controleert geen mens de totstandkoming van resultaten. Is dat kwalijk? “Google personaliseert en hanteert contextuele informatie. De vraag is of dat schadelijk is. DuckDuckGo personaliseert niet, maar promootte daardoor wel veel sterker de programma’s van populistische partijen, omdat die zich optimaal presenteerden om zonder veel betaalde campagne veel online aandacht te krijgen.” Boeiend, wat doet een AI Act of ‘human in the loop’ daartegen? “Ik hoop dat de AI Act, Digital Services Act en de AVG helpen om meer transparantie te geven over totstandkoming van zoekresultaten en suggesties, en de rechten beschermen van zowel eindgebruikers als die van de ‘humans in the loop’, de mensen die achter de schermen modereren. Wie zijn deze clickworkers in lagelonenlanden, welke instructies krijgen ze en raken zij niet getraumatiseerd? De kernvraag luidt: wie bepaalt de uitkomsten van AI-toepassing en hoe? Ik hoop dat er - behalve handhaving van regulering - veel publieke dialoog ontstaat over de afwegingen. Enerzijds dreigt censuur door harde regulering, anderzijds een libertarisch model met dominante populistische uitingen. Wat willen we als maatschappij?” Waarom is de huidige AI-dialoog niet adequaat? “AI begon als onderzoek naar het modelleren van intelligentie. Hierin zat veel filosofie over de aard van intelligentie en van mensbeelden, plus kennis van cognitie. Computers beginnen als tabula rasa, hoe zou intelligentie ontstaan met welke kennis? Inmiddels is AI industrieel georiënteerd, gericht op toepassingen. De fundamentele discussie wordt overruled door de race om met massale data en rekenkracht met producten zoals ChatGPT commercieel te winnen. De intelligentie wordt voetstoots hoog geprezen, terwijl de aantrekkelijkheid meer zit in de brede praktische mogelijkheden. Ter vergelijking, een zakmes is aantrekkelijk gereedschap vanwege veelzijdig nut, maar niet intelligent.” Nummer 49, januari 2024 57 De fundamentele discussie wordt overruled door de race om met producten commercieel te winnen
58 Online Touch Home