BSN in plaats van mensen Een andere reden waarom mensgericht digitaliseren zo complex is, ligt in de aard van technologie. “Door het toepassen van technologie vindt een proces van ontmenselijking plaats”, stelt Van Veenstra. “Software ‘ziet’ geen mensen, maar enen en nullen. Ambtenaren werken met BSN-nummers en niet met personen. Daarom is de zin ‘computer says no’ zo grappig en pijnlijk tegelijkertijd.” Beslisbomen, de basis van algoritmes, zijn altijd een vereenvoudiging van de werkelijkheid. “Iemand die aan de balie staat, met stress in de ogen en kleine kinderen aan de hand die ze probeert te managen, die mens is niet zichtbaar in de systeemwereld van blauwe enveloppen en BSN-nummers. Daar verliezen we de complexiteit van de werkelijkheid.” Dit doet onmiddellijk denken aan toeslagenschandaal, beaamt Van Veenstra. “Mensen zeggen daarover ‘dat had je toch kunnen weten?’. Achteraf lijken de dingen logisch, maar vooraf is het een ander verhaal. Nu pas zien we de aanwezigheid van het systemisch discrimineren. Nu pas leren we dat de overtuiging van armoede als individuele schuld een bijproduct is van het individualisme.” Daarom is de vraag ‘wat moet het proces doen?’ zo essentieel. Van Veenstra: “Een grote gemeente kwam in het nieuws omdat zij een vorm van profilering inzette voor vroegsignalering van armoede. Stel dat het hen daardoor lukt een groep mensen op te sporen die ze anders niet hadden kunnen vinden. Wat zou dat dan opleveren? Wat als het niet lukt of als mensen niet opgespoord willen worden? Daar moeten we over nadenken.” Wereldtop Ze noemt social media “de ultieme menselijke technologie”, omdat ze de menselijke behoefte tot verbinding faciliteren. “Tegelijkertijd zijn ze gemaakt om geld te verdienen aan die Meer weten Onderzoek van TNO naar AI in overheidsprocessen is te vinden op repository.tno.nl. TNO schreef een publicatie over de risico’s van het gebruik van AI. De titel is ‘Op zoek naar de mens in AI. Betrek de burger en experimenteer op verantwoorde wijze.’ Dit beschrijft de noodzaak van experimenten en het betrekken van burgers bij het gebruik van AI. Daarnaast wordt in het Oversight Lab van TNO onderzoek gedaan naar de toepassing van algoritmes in overheidsprocessen. Lees meer op appl-ai-tno.nl. TNO gaat ook onderzoek doen naar de inrichting van een experimenteeromgeving voor AI, in een zogenaamde regulatory sandbox. Dit is een omgeving waarin systemen gecontroleerd getest kunnen worden. 60 Anne Fleur van Veenstra: “Privacy bij design, ethics bij design: Nederland loopt voorop.” menselijke behoefte. Platforms als Facebook en Instagram zijn wel weer een heel mooi voor politici om hun werk uit te leggen, hun bereik is enorm. Daar worden mensen en technologie weer bij elkaar gebracht.” Van Veenstra ziet veel bedrijven die nu diezelfde algoritmes gebruiken maar dat goed proberen te doen. “Organisaties gebruiken adaptaties of variaties van bestaande technologieën, zoals Facebook, voor hun eigen specifieke processen.” “Privacy by design, ethics by design, Nederland loopt voorop met filosofen en academici die over die technieken nadenken”, zegt Van Veenstra. “We behoren daarin tot de wereldtop. Neem bijvoorbeeld de Utrechtse Data School, die voor gemeenten verschillende hulpmiddelen maakten. De DataWijzer helpt raadsleden om tot een goed afgewogen en onderbouwd besluit te komen bij raadsvoorstellen waarin digitale technologie is ingezet. De Ethische Data Assistent (DEDA) helpt ethische kwesties bij dataprojecten in kaart te brengen. We zitten echt in een fase waarin de overheid, samen met technologieaanbieders, kansen kan pakken om mensvriendelijk te ontwikkelen. TNO heeft in een publicatie uiteengezet wat er hiervoor (nog meer) nodig is (kader).” Samenspel GovTech, nieuwe technologie met als doel het verbeteren van maatschappelijke vraagstukken en publieke dienstverlening, is echt een kans voor de overheid. “Govtech gaat over andere relaties tussen overheid, mkb en start-ups, meer een samenspel. Het wordt heel interessant wanneer die drie partijen samen nadenken over verantwoorde en mensgerichte technologie, vanuit hun drie realiteiten.” Van Veenstra heeft het weleens gekscherend over “die arme overheid,” omdat die moet nadenken over het inkopen, ontwikkelen en toepassen van technologie in een tijdperk waarin we de gevolgen niet allemaal kunnen overzien. “Dan hebben ook nog te maken met economische regels rondom marktmacht en tendering. De overheid is in die storm aan het navigeren en daar komt nu de discussie bij over wat zij zelf moet doen en wat zij aan de markt overlaat.” Het is allemaal niet eenvoudig, geeft Van Veenstra toe. “Maar we mogen het vragen van onze overheid. Dat iets dat goed bedoeld is toch fout gaat, dat kan gebeuren. Maar denk goed over na over waar je mee bezig bent, terwijl je het doet.”
61 Online Touch Home