mislopen, omdat ze tevreden zijn met wat ze krijgen. Kritisch nadenken en afwijken van een makkelijk herkenbare norm erodeert, omdat we zo snel en gemakkelijk bij die herkenbare norm terechtkomen.” Kun je dat voorkomen door elementen van verrassing in te bouwen? “Dat kan natuurlijk, maar kost extra inspanning. Bovendien, voorspelbaar gedrag levert commerciële partijen meer op. Voor hen is het niet gunstig als je telkens van voorkeur verandert. Het is lucratiever en efficiënter om gedrag van mensen te uniformeren.” Logisch toch dat bijvoorbeeld ambtenaren die een systeem opzetten om subsidies of uitkeringen te verstrekken uitgaan van rationele criteria die zich in het verleden hebben bewezen? “Ja, maar de eenzijdig rationele beleidskant miskent een ideologische kant. Wil je mensen met een hoger inkomen makkelijker lenen en verschillen met armen vergroten op basis van hun financiële verleden? Zo neutraal is die beoordeling op deze criteria niet. Idem dito in risicomodellering voor fraudedetectie die vanuit het oogpunt van de handhaver logisch klinkt. Succes wordt gehanteerd als bevestiging, terwijl dit ongezien onrechtvaardigheid creëert. In het verleden behaalde successen worden dan bepalend voor de toekomst. Bouw je bijvoorbeeld AI voor de selectie van leiders op grond van eigenschappen van succesvolle leiders nu; veelal 50-plus mannen met veel oog voor goede kwartaalresultaten?” Mensen vertonen die vooroordelen en risicomijding toch ook, net als AI? “Als vrouw in de technische wetenschap ervaar ik dat zeker. Mensen willen herkennen. We moeten mensen die keuzes maken voor AI-programma’s deze spiegel voorgehouden; dat ze te comfortabel selecteren. We moeten ze stimuleren om in andere richtingen te zoeken.” Dus we kunnen bevooroordeelde menselijke intelligentie juist helpen met kritische en perspectiefverbredende AI? “Absoluut, als we ons daar maar actief voor openstellen. Gaat een product als ChatGPT dit waarmaken? De belofte is een persoonlijke assistent, maar er wordt vooral plausibele taal gegenereerd, en als we niet uitkijken klinken en zeggen we dan allemaal hetzelfde door dat klakkeloos over te nemen. Al kun je Nummer 49, januari 2024 het ook gebruiken om op eerste gedachten te komen, waarbij wij die gedachten dan proactief zelf verder kunnen uitwerken.” In het verlengde hiervan heeft u publiekelijk commentaar gegeven op risicomodellering. U spreekt over definities van eerlijkheid die onderling wiskundig conflicteren. Hoe bedoelt u? “We weten dat de wereld vaak oneerlijk is, met ongelijkheid, onzekerheid, gebrekkige diversiteit. Voor algoritmische metingen van eerlijkheid, heb je een algoritmische, dus wiskundige definitie nodig van hoe je eerlijkheid interpreteert. Maar er zijn veel verschillende definities mogelijk. Sommigen vinden het eerlijk als achtergestelden in de maatschappij een extra zetje krijgen. Anderen vinden een ‘rich get richer’-model juist eerlijk. Daar horen andere formules bij en fundamenteel andere beleidskeuzes met een fundamenteel andere impact.” Hoogleraar Peter de Kock, expert in AI voor fraude- en misdaadbestrijding, zegt kortweg dat AI eerlijker is en tot betere uitkomsten leidt dan menselijke intelligentie? “Hoe definieer je dan eerlijkheid, rechtvaardigheid en succes? In veel controverses rond risicomodellering werd vertrokken vanuit profilering van mensen die bij voorbaat minder werden vertrouwd door de inspecteurs, waarna hun waarheid werd opgeschaald. Het onrechtvaardige van zo’n aanpak is dat mensen die lijken op eerder verdachte mensen sowieso verdacht zijn, terwijl een mogelijke ‘bad actor’ die hier expliciet niet op lijkt aan de aandacht ontsnapt.” Recent kapittelde WODC-onderzoek de veelgeprezen Top-600 criminele jongerenaanpak van ex-burgemeester Van der Laan. Recidive verminderde niet, weging van factoren bleek achteraf onjuist. Menselijk of kunstmatig: intelligentie schoot tekort. “Deze aanpak vond ik ook al controversieel. Als handhaver heb je met deze aanpak eigenlijk altijd succes. Als een verdachte jongere crimineel wordt, heb je succes omdat het matcht met je verdenking; als een verdachte jongere niet crimineel wordt, boek je succes omdat het programma tot doel heeft om te voorkomen dat jongeren crimineel worden. Maar wat doet het met een jongere en diens omgeving om expliciet als mogelijke crimineel onder een vergrootglas te liggen? Er is met vergelijkbare investeringen een alternatieve beleidsaanpak mogelijk met constructieve begeleiding, zonder uit te gaan van het frame van verdenking.” 59
60 Online Touch Home