ICTU publieke waarden Jeroen van den Hoven (TU Delft): “De tijd is rijp dat we vooropstellen dat technologie moet worden gebruikt op een manier die onze publieke waarden borgt.” beeld: arenda oomen vacy, democratie en ook brede waarden zoals ‘de menselijke maat’, respect voor personen en menselijke waardigheid. “Op dit moment heeft de overheid het veel over de menselijke maat, als reactie op de kindertoeslagaffaire. Maar wat is dat, de menselijke maat? Hoe implementeer je dat? Dat moet je eerst helder hebben als je dit een belangrijke waarde vindt die verankerd moet worden in het systeem dat je maakt.” Dit soort afwegingen en vragen zouden een structureel onderdeel moeten zijn in organisaties en in relevante processen, bepleit Van den Hoven: “Niemand zal zeggen dat privacy of de menselijke maat niet belangrijk zijn, maar je moet het serieus nemen en vertalen naar de praktijk. Dit is niet iets dat je eens per jaar of maand bespreekt, dit hoort elke maandagochtend op de agenda van het managementteam. En dan verslag maken van deze bespreking en Nummer 42, april 2022 erop toezien dat wordt geïmplementeerd wat er is afgesproken.” Een kans voor innovatie Als je vanuit waarden ontwerpt, dan kunnen in een ontwerp meerdere waarden worden verenigd en elkaar zelfs versterken, zegt Van den Hoven. “Het is moeilijk om op deze manier te ontwerpen, maar tegelijkertijd worden ontwerpen er vaak beter van. Ook als het om waarden gaat die tegenstrijdig lijken. Juist dan kan er een spanning ontstaan waaruit nieuwe ideeën voortkomen waarmee je meerdere waarden bedient. Schrik dus niet terug voor het werken vanuit waarden in je ontwerp, want ze bieden een kans voor innovatie.” Publieke waarden en digitale ethiek zijn dynamisch, je zult dus moeten blijven herzien en herijken, zegt hij ook. Van den Hoven benadrukt dat je je niet blind moet staren op de software alleen: “Het gaat om het gehele sociotechnische systeem, software, hardware, mensen en incentive structuren, toezicht, afsprakenstelsels, wetgeving en checks & balances. Kijk naar kernenergie, daar gaat het ook niet alleen om het reactorvat, maar om het gehele systeem: de veiligheidsvoorschriften, regelgeving, controles, adequaat opgeleide mensen. Dat geheel van goed geïntegreerde elementen bepaalt of een reactor veilig is. Hetzelfde geldt voor onze digitale systemen. We zijn nog niet gewend om op deze manier naar digitale technologie te kijken, maar langzaamaan zie je het besef doorbreken dat dat wel nodig is. Kijk naar de nieuwe regelgeving over AI die er vanuit Europa aankomt. Of wat eerder gebeurde met privacy en de AVG. Dit soort regelgeving maakt dat er wordt gebouwd aan een stelsel van afspraken, rollen en processen rondom de inzet van technologie.” De naïviteit voorbij Van den Hoven roept bestuurders op om actief aan de slag te gaan met verantwoorde innovatie. “De naïviteit van de afgelopen dertig jaar, waarin we van technologie naar technologie holden en alleen de spannende dingen zagen, is wel voorbij. We hebben inmiddels door dat er nadelen kleven aan digitale innovaties. Ik denk dat de tijd rijp is dat we vooropstellen dat technologie moet worden gebruikt op een manier die onze publieke waarden borgt. We staan voor grote, infrastructurele digitale opgaven, laten we daar volwassen mee omgaan. Door elke keer weloverwogen een nieuw stuk van het systeem te bouwen, waarin publieke waarden op de best mogelijk manier tot uitdrukking komen.” 93
94 Online Touch Home