Toch is er nu een ethische discussie die bij aanvang van sociale media volkomen ontbrak. Is dat dan onvoldoende? “Dat debat is goed en nodig, maar onvoldoende. Hoe gaan we om met private en publieke belangen? Veel onderzoekscollega’s vertrokken naar industriële partijen voor hogere salarissen en meer data en infrastructuur dan ik bij de universiteit geniet. Bovendien zijn bedrijven beter vertegenwoordigd in lobby’s, waardoor hun perspectief op data van de publieke sector overheerst. Kijk maar eens naar de rol van Microsoft bij OpenAI dat aanvankelijk door publieke belangen leek te worden gedomineerd.” Ander onderwerp: uw fundamenteel onderzoek, bijvoorbeeld categorisering van voedsel in sociale media met behulp van AI… “Als je aan een AI-toepassing om het recept van een pizza vraagt, krijgt je als resultaat de pizza zoals de gemiddelde Amerikaanse pizzabezorger die kent en niet de originele Napolitaanse pizza. Categorisering is immers gestoeld op subjectieve sociale en culturele fenomenen en niet op objectieve natuurwetten. De ontwikkelaars van AI nemen dat niet mee; zij pakken de data die ze tot zich krijgen en vertalen die statistisch tot patronen. Met in het geval van de pizza als uitkomst dat je een fastfoodproduct krijgt voorgeschoteld dat niet bepaald in de schijf van vijf past. Die pizza is wellicht onschuldig, maar radicaliserende filmpjes zijn dat niet; zeker niet in oorlogstijden. De selectiealgoritmes van TikTok zijn erop ingericht dat mensen worden meegezogen in wat ze gepresenteerd krijgen. Maar de algoritmes van TikTok kennen geen principieel verschil tussen een hobby of een wapen. Fijn voor de wapenindustrie, maar voor het algehele welzijn van de mensheid wellicht niet.” U toont in presentaties een schitterend beeld van verschillende mogelijkheden om uitkomsten van (AI) selecties als blauwe en rode stippen over een vlak te categoriseren. De uitkomst of het patroon hangt af van de principes die worden gekozen om selecties te maken. Is dat de essentie van risico’s rond onverantwoorde AI-inzet? “Alles in AI-toepassingen, hoe complex ook, wordt in data vertaald, wat leidt tot ‘meet-framing’: alles krijgt een nummertje, meestal in één dimensie, soms meer. Dus je beperkt de complexiteit ten behoeve van heldere en gunstig te exploi58 Kritisch nadenken en afwijken van een makkelijk herkenbare norm erodeert teren uitkomsten. Altijd vindt reductie en limitatie plaats; het platslaan van criteria die tot de uitkomsten leiden. Het aan bevelingssysteem van TikTok lijkt bijvoorbeeld te optimaliseren op hoe lang je ergens naar kijkt zonder door te scrollen. Dat dit soort grote fenomenen tot een bepaalde uitkomst leiden, beseffen mensen onvoldoende.” Wat kan er dan misgaan? “Heel veel. Ten eerste wordt de ideale gebruiker van TikTok en concurrenten een verslaafde gebruiker. Ten tweede is de selectie die je voorgeschoteld krijgt geheel gebaseerd op wat eerder is bekeken. Statistisch machineleren is fundamenteel gestoeld op trainen en evalueren op bestaande data. Het succes zit dus in de bevestiging van eerder geobserveerd succes. Hier speelt dan het risico dat dominante wereldbeelden nog meer de minder dominante overheersen; zie het pizza-voorbeeld.” Ik vrees een trechter, terecht? “Precies! Cultuurgevoelige, creatieve mensen zullen wellicht nog actief naar andere perspectieven en nieuwe interesses zoeken. Maar velen zullen niet doorhebben wat ze
59 Online Touch Home