Podium Voorbeeldvragen uit het DataDebatDenkkader • Worden data en daarmee persoonsgegevens goed beschermd en veilig beheerd? Zijn de nodige beheersystemen op orde? • Zijn de gebruikte data juist en up-to-date, niet verouderd of gemanipuleerd? • Is er geen bias in de gehanteerde datasets met kans op systemische benadeling van bepaalde groepen? • Op welk niveau is verantwoording georganiseerd (landelijk, regionaal, lokaal) en welke partijen zijn daarbij betrokken? • Is er expliciet aangegeven op welke wijze algoritmes worden ingezet in de organisatie? • Welk besluit is genomen door de inzet van algoritmes, op basis van welke argumenten, en door wie? Door de snelle opkomst van sociale media is waarheidsvinding soms moeilijk. Zie je een herwaardering van de wat meer traditionele plekken om het democratische gesprek te voeren? “In vergelijking met Amerika en China is Europa zich aan het profileren op de waardenkant. Heel goed dat Europa deze rol pakt, want dat kunnen we als Nederland niet alleen. Wel maak ik me enige zorgen over de implementatiekant. Er is en komt veel nationale en Europese wet- en regelgeving. Hoe zorgen we dat het geïmplementeerd kan worden? Dat het geen afvinklijstjes worden, maar dat het echt de publieke waardenkant versterkt?” De ROB adviseerde eerder de structuren van publieke verantwoording te versterken. Is daar al sprake van? “Dat zie ik nog veel te weinig. Hiervoor kun je bijvoorbeeld denken aan een datajaarplan waarin staat wat je het komend jaar gaat doen met de data, welke toepassingen je implementeert, welke afspraken je met leveranciers maakt en welke waarborgen je hebt georganiseerd als het gaat om de kwaliteit van de data. En daarbij dan een datajaarverslag waarin je je verantwoord over de plannen en voorgenomen maatregelen. Net als de cyclus van een begroting en jaarrekening.” Bij het advies ‘Sturen of gestuurd worden?’ zegt de ROB dat ethisch bewustzijn over datagestuurd werken verder gaat dan privacy alleen. “Dat klopt, het gaat ook om andere waarden zoals het recht Nummer 48, oktober 2023 op gelijke behandeling en het voorkomen van uitsluiting. Wil de samenleving dat digitale technieken ethisch en maatschappelijk verantwoord worden ingezet, dan is het nodig om heldere kaders te scheppen, bijvoorbeeld met betrekking tot transparantie, het tegengaan van ingebouwde vooroordelen en het voorkomen dat de computer het laatste woord heeft. Als het ergens misgaat in de digitale besluitvorming, bij wie kun je dan als inwoner je recht halen? We moeten voorkomen dat een uitkomst uit een systeem komt rollen en dat niemand het kan uitleggen. Het is belangrijk dat je als inwoner de mogelijkheid hebt om een onjuiste beslissing van een algoritme te weerleggen. En dat gaat ook over digitale inclusie. Je moet je als overheid altijd blijven afvragen: wie mis ik of wie bereik ik niet en wat kan ik doen om dat te veranderen?” “Betrouwbaarheid is ook een belangrijk eigenschap, want als je als overheid ‘slordig’ digitaliseert dan kan dat grote impact hebben op het vertrouwen in de overheid. Inwoners vertrouwen jou hun privacygevoelige informatie toe, bijvoorbeeld in de jeugdzorg. Hier moet je als overheid zeer zorgvuldig mee omgaan. En dat geldt ook voor interventies in de maatschappij. Als je als gemeente fraude met uitkeringen in een bepaalde wijk wilt onderzoeken en tegelijkertijd wilt kijken of mensen recht hebben op bepaalde toeslagen, dan moet je dat goed doordenken - bijvoorbeeld: waarom alleen deze wijk en niet alle wijken in de gemeente? En hoe betrek je inwoners en volksvertegenwoordigers en voorkom je het gevoel bij inwoners van ‘big brother is watching you’?” “Het proces rondom het in gebruik nemen van nieuwe technologieën zou kunnen leren van de manier waarop de zorg een nieuwe medische behandeling implementeert. Eerst wordt uitgebreid onderzoek gedaan en wordt de behandeling besproken in een ethische commissie. Zoiets zou je ook kunnen doen voor de inzet van algoritmes door de overheid. Je kan de digitale ontwikkelingen niet stoppen, dat stadium zijn we al lang gepasseerd. Technologische ontwikkelingen bieden de overheid veel kansen, maar we moeten ons blijven afvragen: is dit wenselijk? En: wat zijn de randvoorwaarden? De vraag is niet ‘willen we hier iets mee’, maar ‘hoe gaan we hier goed mee om’. Technologie is niet goed of slecht, het gaat erom hoe het wordt ingezet door de mens.” [1] Miljoenen adressen en gegevens makkelijk in te zien door fout bij Kadaster (nos.nl). [2] Antwoorden op Kamervragen over onderzoek naar mogelijk discriminerende algoritmes door DUO | Kamerstuk | Rijksoverheid.nl. [3] Zie punt 5 in het 10-puntenplan van de ROB. [4] Zie punt 6 in het 10-puntenplan van de ROB. 59
60 Online Touch Home