Overheden maken meer en meer gebruik van artificiële intelligentie (AI), waaronder algoritmes, om processen efficiënter te laten verlopen en de burger beter van dienst te zijn. AI helpt bij het nemen van beslissingen op basis van patronen en voorwaarden. Denk maar aan de automatische rechtentoekenning of de uitbetaling van premies. Maar hoe groter de invloed wordt van slimme computersystemen bij het nemen van besluiten door overheden, hoe belangrijker digitale ethiek wordt. Governance van WV zette onlangs de eerste stappen in de governance van algoritmes. “Er komt meer bij kijken dan alleen een ethiekcommissie”, vertelt Eveline Jacobson, senior projectmanager Data-ethiek en Algoritmeregister bij UWV. “Het gaat erom dat continu de dialoog over data-ethiek binnen de organisatie wordt gevoerd; van het nadenken over de inzet van een algoritme tot de livegang en daarna. Data-ethiek is een randvoorwaarde voor datagedreven werken.” Valkuilen in verantwoorde ethiek-governance Toch baart data-ethiek overheden kopzorgen, legt Dasha Simons, managing trusted AI consultant bij IBM, uit. “De vraag of iets ethisch verantwoord is of niet, komt nu nog te vaak te laat in het proces. Daardoor verzandt de discussie in een uiteenzetting over wat er allemaal níét kan. Ook steunen organisaties meestal wel op ethische principes, maar het is een stuk lastiger om die om te zetten naar concrete praktijken en om AItoepassingen te borgen en te meten.” Uitdagingen die Simons bij klanten ziet: 104 algoritmes is meer dan U • Het toenemende manuele documen tatie werk • Gebrek aan een centraal overzicht van de AI-systemen • Gebrek aan organisatiestructuren die AI-governance verantwoord ondersteunen Marloes Roelands, partner voor Overheid bij IBM, vult aan: “Governance is niet alleen belangrijk bij bestaande toepassingen. Je moet ethiek ook meenemen bij de ontwikkeling van elke nieuwe toepassing, bijvoorbeeld met de hulp van onze cocreatiemethode: de IBM Garage.” Hoe werkt UWV aan data-ethiek? “UWV heeft gegevens van zo’n miljoen mensen”, legt Eveline Jacobson uit. “We gebruiken algoritmes ter ondersteuning van de medewerker die bepaalt of iemand recht heeft op een werkloosheidsuitkering. Of ter ondersteuning van UWVmedewerkers bij het berekenen van het arbeidsongeschiktheidspercentage van iemand die door ziekte of een handicap minder of niet kan werken. Maar de besluitvorming vindt uiteindelijk altijd plaats door medewerkers en niet door het algoritme. Om ervoor te zorgen dat het denken over, ontwikkelen en gebruiken van algoritmes ethisch verantwoord gebeurt, hebben we een ethisch kader uitgewerkt.” Creatie van het Kompas Data Ethiek Eveline Jacobson: “Het ethisch kader start bij ons Kompas Data Ethiek, waarin twaalf uitgangspunten staan waarover wij in samenhang een afweging maken om te komen tot een verantwoord gebruik van data in een algoritme. Die uitgangspunten verzamelden we in een ethisch impact assessment, met vragen als: wat willen we precies oplossen? Welke gegevens hebben we daarvoor nodig? En is daar wel een algoritme voor nodig? Als een algoritme een goede oplossing blijkt, kijken we – naast doelbinding en proportionaliteit – naar hoe we die gegevens verantwoord kunnen gebruiken en vooral: wat het effect is op burgers. Dat ethische impact assessment is geen invuloefening. We bespreken die vragen met een multi disciplinair team.”
105 Online Touch Home