Samen scherp op verderfelijke algoritmes In haar Hoofdlijnenbrief waarschuwt staatssecretaris Van Huffelen (Digitalisering) voor de discriminerende effecten van digitale systemen. Het vertrouwen in democratie en publieke instituties neemt mede af door het verkeerd gebruik van algoritmes. De Toeslagenaffaire laat zien hoe verschrikkelijk de gevolgen kunnen zijn. De te stellen vraag is: hebben overheid en bedrijfsleven er niet een gezamenlijke taak in om burgers te behoeden voor discriminerende algoritmes en systemen? “Dit is beslist een nieuw element in het beleid”, vertelt Lourens Visser, “We beseffen dat we goed uit moeten leggen wat we aan het programmeren zijn. We moeten aan kunnen tonen hoe het werkt, wat de risico’s zijn en of grondrechten van burgers wel zijn gewaarborgd, als de software op hun leven ingrijpt. Zoiets valt natuurlijk niet mee als het om het intellectueel eigendom van een leverancier gaat, die daar zo min mogelijk prijs van wil geven vanwege de concurrentie. Het laatste wat we willen is dat we dit soort algoritmes niet meer kunnen gebruiken en dat we alle besluiten weer door ambtenaren moeten laten doen. ICT levert ons ontzettend veel op. We moeten niet de klok twintig jaar terug willen draaien. De Algemene Rekenkamer reikt in een recent onderzoek toetsmechanismen aan die we in kunnen bouwen om vroegtijdig in te kunnen grijpen. Technisch gezien kun je in beperkte tijd, bijvoorbeeld door simulatie, testen of een algoritme goed uitpakt of niet. Je hoeft geen jaren te wachten tot een enquêtecommissie constateert dat er alleen maar ellende is aangericht. Ook het bedrijfsleven ziet in dat er hier een grens is bereikt. Het goede is dat het gesprek nu op gang komt.” NL Digital heeft vorig jaar een ethische gedragscode voor haar leden opgesteld en pleit ervoor in de ontwerpfase al rekening te houden met de impact van software (ethical-by-design). “Dit is een eerste begin”, zegt Dirk de Groot. “Het is van belang dat iedereen zich realiseert hoe bedrijven zich moeten gedragen. Maar ook de overheid moet aan bewustwording doen. We moeten elkaar scherp houden.” en veranderende inzichten. Dat kan alleen als je heel goed van elkaar weet wat je kunt verwachten en dat je ook snel aan de bel kunt trekken als iets niet goed gaat. En dat je niet wacht tot het ontploft en politiek wordt, waarna er doorgaans maar één optie is, namelijk stoppen. Dan staat iedereen met lege handen, ook aan de leverancierskant, en ben je vaak miljoenen euro’s verder. Dat hebben we in het verleden te vaak gezien. Welke minister durft zo’n project dan opnieuw te beginnen? Beleidsdepartementen vinden het sowieso eng om opdrachtgever te zijn van een ICT-project, omdat de historie laat zien dat de faalkans relatief groot is. Ook daarin kunnen we ons laten helpen door de markt.” Aanbesteden Op een cruciaal punt blijft er nog wel wat te wensen over: aanbesteden. “We zijn bij het Rijk heel geroutineerd geraakt in het uitvoeren van traditionele vormen van aanbesteding. Het is de hoogste tijd de aanbestedingsregelgeving meer in balans te brengen met wat de dagelijkse, agile praktijk van beleid maken en uitvoeren van ons vraagt”, licht Visser toe. “Het aanbestedingsproces is sterk gejuridiseerd en vooral gericht op doelmatigheid en proportionaliteit. Al kan er nu meer dan vroeger, vaak wordt er op traditionele procedures teruggegrepen, omdat dat bekend terrein is voor de inkopers van het Rijk. We willen dan ook echt kijken hoe we op dit vlak wat gemakkelijker proeftuinen in kunnen richten. De lat ligt hoog, maar ik ben ook realistisch. Dit is niet iets wat we bij de volgende herziening van de ARBIT (inkoopvoorwaarden van het Rijk) gefikst zullen hebben.” “Het moderniseren van de ARBIT is belangrijk”, zegt ook De Groot, “maar er is vooral een ander perspectief nodig. Wil je een oplossing gefixeerd in tijd aanbesteden en geef je degene die de juiste applicatie aanbiedt het contract, Nummer 43, juli 2022 67 Dirk de Groot: “Panklare oplossingen zijn er niet meer. Het draait nu om samen doen.”
68 Online Touch Home