jos maessen data en ethiek De afgelopen maand is er aan de discussie over data en ethiek behoorlijk wat brandstof toegevoegd. Ik bespreek hier vier voorbeelden. Allereerst Facebook en de verkoop van gegevens van particulieren aan een bedrijf dat deze gebruikt om analyses te maken teneinde mensen te kunnen manipuleren bij hun stemkeuze. Dat hebben ze niet in de gaten, en zo worden verkiezingen beïnvloed. Facebook heeft, net zoals in voorgaande gevallen, geen maatschappelijke verantwoordelijkheid genomen in deze discussie. zolang in onze economie de misleiding en manipulatie van consumenten de hoeksteen van het verdienmodel zijn, zal dit gedrag doorgaan Een tweede interessante uiting vind ik een artikel van Tim O’Reilly, een invloedrijk denker in Silicon Valley, die zegt dat het onterecht is om Facebook met een sigarettenfabrikant te vergelijken (beide zouden verslaving in de hand werken). Facebook reageert weliswaar niet ontkennend op de aantijgingen, maar, zo stelt O’Reilly, zolang in onze economie de misleiding en manipulatie van consumenten de hoeksteen van het verdienmodel zijn, zal dit gedrag doorgaan. De echte verandering moet dus op een dieper niveau van ons economisch model plaatsvinden. Een derde thema is China, waar men ondertussen zo ver is met gezichtsherkenning, het lezen van berichten op sociale media en het leggen van verbanden tussen diverse registraties, dat mensen via een sociaal kredietsysteem worden beloond of bestraft voor hun gedrag. Dit leidt tot een dusdanig diepgaande beïnvloeding van individuen dat liefhebbers van series als Black Mirror of films, dan wel boeken als The Circle nu zelf deze ervaringen gewoon live kunnen meemaken. Een vierde element zijn de diverse artikelen in Nederland die ingaan op de mogelijkheid om op basis van data voorspellende modellen toe te passen op gedrag. Daarbij worden er vragen gesteld over de relatie overheid–burger. Gaan we burgers afrekenen op gedrag dat voorspeld wordt? En hoe ver gaan we hier dan in? Men voelt daarbij een ongemakkelijkheid die nog niet eerder – bijvoorbeeld bij etnisch profileren of fraude-analyses van de Belastingdienst (die vanuit dezelfde principes van informatiegestuurd werken opereert) – zo sterk geuit werd. De overeenkomst tussen deze vrij willekeurige reeks van voorbeelden is dat er een discussie op gang komt over de spanning tussen technologische mogelijkheden en de vraag wat voor soort samenleving we nu eigenlijk willen. En daarmee staat ethiek (waarden en normen) weer centraal in het maatschappelijke en politieke debat – wat ook nodig is. Ontwikkelingen via data maken grootschalige veranderingen in onze samenleving mogelijk. En deze transformatie zal ook echt gaan gebeuren. Het wordt hoog tijd dus om na te gaan wat wij een rechtvaardige samenleving vinden in een tijdperk van grote, welhaast onvoorstelbare, technologische mogelijkheden. Jos Maessen is programmamanager datagedreven werken in de gemeente Rotterdam en schrijft deze column op persoonlijke titel 26
27 Online Touch Home