Podium technologie, we ernaar handelen. Zo weten we dat het beeld van technologie als neutraal fenomeen niet klopt, maar blijven we maatschappelijke ongelijkheden met algoritmes reproduceren, omdat we handelen naar de misvatting dat consistentie gelijkstaat aan neutraliteit. Statistics on steroids Wanneer ontwikkelaars hier rekening mee houden in hun technologieontwerp, kunnen we onbekommerd door digitaliseren, lijkt de heersende gedachtegang. Onze relatie met technologie Maar de onwenselijke effecten van digitalisering zijn geen kwestie van privacy, transparantie en een beter technologieontwerp. Er gaat nog een stap aan vooraf, namelijk de relatie die wij als mensheid met technologie zijn aangegaan en het mensbeeld van waaruit wij onze technologieën ontwerpen en gebruiken. Veel belangrijker dan een beter technologie-ontwerp is een betere relatie met technologie. Maar dat lukt niet zolang we onze beeldvorming over technologie niet grondig herzien. Witte glanzende humanoid robots, hersenen met nullen enen, een robothand die naar een mensenhand uitreikt, blauwe achtergronden en printplaten; dat is hoe technologie vaak verbeeld wordt. Vanuit ontzag en verwondering zien we de computer als neutraal, intelligent, en autonoom, en de mens als een onhandige zak organen met wat verouderde hardware in zijn hoofd, klaar om vervangen te worden door de nieuwste AI-robot. Het probleem met dit beeld is niet alleen dat het niet klopt, maar ook dat het een selffulfilling prophecy kan worden omdat Nummer 45, januari 2023 Ook kunstmatige intelligentie is een selffulfilling prophecy. Niet alles wat ertoe doet kan vertaald worden in data en gerepresenteerd worden in een AI-model. Een belangrijke beperking van kunstmatige intelligentie is dat het afhankelijk is van inflexibele wiskundige modellen die gevoed worden met data uit het verleden. Conservatief in plaats van innovatief dus. AI-systemen kunnen op bovenmenselijk niveau schaken en Go spelen, maar zodra ze worden losgelaten in een dynamische omgeving zonder strak afgebakende regels – lees: de echte wereld – gebeuren er vervelende dingen voor mensen die niet tot een statistische meerderheid behoren. In plaats van kunstmatige intelligentie kunnen we dan ook beter spreken over dynamische statistiek of ‘statistics on steroids’. Toch kunnen Veel belangrijker dan een beter technologie - ontwerp is een betere relatie met technologie 61
62 Online Touch Home