SETUP en de gemeente Rotterdam In 2022 deed SETUP in opdracht van de gemeente Rotterdam een artistiek ontwerpend onderzoek naar de vraag hoe Rotterdam een voorbeeldstad kan worden in een digitale wereld. Veel van de spanningen die in deze vraag besloten lagen, kwamen neer op de zorg dat bepaalde Rotterdammers die als kwetsbaar worden gezien ‘niet kunnen meekomen’. In het uitgevoerde onderzoek werd dit perspectief omgedraaid. Kan de gemeente op emotioneel gebied eigenlijk wel meekomen met haar inwoners? Is het niet eens tijd dat de gemeente Rotterdam emotioneel volwassen wordt? Samen met de gemeente ontwikkelde SETUP een provocatieve denk- en gesprekstool in de vorm van een Rotterdamse kristallenset, die helpt om onze relatie met digitale technologie op een andere manier te bevragen. computers wel degelijk intelligent worden. Niet zozeer vanwege fundamentele vooruitgang in AI-onderzoek, maar omdat we intelligentie gaan reduceren tot datgene waar computers goed in zijn: rekenkracht en patroonherkenning. Kunstmatige intelligentie is niet alleen niet slim, het is ook nog eens niet kunstmatig. De grondstoffen die nodig zijn om een AI-systeem te bouwen zijn levensecht, net als de miljoenen arbeiders die de systemen ontwikkelen, trainen en draaiende moeten houden. Ghostwork heet deze vorm van arbeid, omdat het veelal onzichtbaar is. Platformen zoals Amazon Mechanical Turk koppelen klikwerkers aan klikwerktaken zodat bedrijven tegen lage tarieven hun AI-systemen kunnen laten trainen en draaiende kunnen houden. In de beeldvorming rondom AI zie je daar weinig van terug. Het past niet in ons beeld van de intelligente, autonoom functionerende robot. Geen prikkelende beelden Voor ‘autonome’ robots hoeven we niet bang te zijn. Veel problematischer is het misleidende mantra dat AI-systemen ‘ons beter kennen dan we onszelf kennen’. Het gevaar van grote techbedrijven met grote AI-modellen is niet zozeer dat ze ons te goed kennen, maar juist dat ze ons niet kennen en claimen ons wel te kennen op basis van onze data. Dat geldt ook voor dataverzamelende overheden. De miljoenen datapunten en correlaties waarmee bedrijven en overheden voorspellingen doen over ons gedrag kloppen vaak niet en werken discriminatie in de hand. En als de voorspellingen wel kloppen dan komt dat niet doordat bedrijven en overheden ons ten diepste kennen, maar doordat ze bij voorbaat onze keuzes, klikopties en gedragslijnen bepalen waardoor onze onvoorspelbaarheid afneemt. Deze inzichten beginnen langzaam door te sijpelen, maar ze worden niet naar de praktijk vertaald. De natte droom dat we met technologie de wereld volledig naar de hand kunnen zetten is hardnekkig. Ook al piept en kraakt deze droom aan alle kanten, we blijven erin geloven. Misschien is dat omdat we geen prikkelende beelden hebben die ons een andere toekomst met technologie laten zien. En als we het ons niet kunnen voorstellen, kunnen we er ook niet naar handelen. beeld: laura bouman Als we kijken naar de huidige beeldvorming rondom AI, dan zien we dat het ons dwingt om op een bepaalde manier te denken en handelen: kunstmatige intelligentie gaat over mensachtige robots, de cloud over een zwevend wolkje, en privacy gaat over een schild waarachter je iets te verbergen hebt. Zo wordt een rookgordijn opgeworpen dat afleidt van de fysieke realiteit achter deze concepten. Denk aan de energieslurpende datacenters en menselijke arbeid die schuilgaan achter AI, maar ook het feit dat privacy niet gaat over afscherming, maar over bewegingsvrijheid in het echte leven. Maximale controle en beheersbaarheid Hoewel de berichtgeving over kunstmatige intelligentie zich niet langer beperkt tot jubel- dan wel doomsday verhalen, blijft de visuele portrettering nog altijd eenzijdig. Dat is problematisch want als er maar één beeld is, is er ook maar één verhaal en één oplossingsrichting. Die oplossingsrichting beperkt zich in tijden van existentiële crises voornamelijk tot de belofte van maximale controle en beheersbaarheid. Door complexe realiteiten te reduceren tot eenvoudige datamodellen, en volop in 62
63 Online Touch Home