INTERVIEW ken tussen veiligheid en vrijheid. Dat is een belangrijke opdracht, omdat onze legitimiteit hiermee samenhangt. De manier waarop we dingen doen is maatgevend voor het vertrouwen van de burger in ons. Dat geldt ook voor de manier waarop we met data omgaan.” Verzuipen in data De politie ‘verzuipt bijkans’ in de data en is genoodzaakt om daar op een andere manier mee om te gaan dan vijf jaar geleden. “De eisen van de maatschappij en de politiek, maar ook die van onszelf, zijn in een rap tempo omhooggegaan. Ik durf wel te stellen dat we dat in toenemende mate op ons netvlies hebben gekregen en hard aan het werk zijn om dat goed te doen.” Het landelijke algoritmeregister bevat één algoritme van de politie. Het gaat om CAS, het Criminaliteit Anticipatie Systeem, een zeven “Onze maatschappelijke opgave vraagt om ontwikkelruimte, zodat we de veiligheid kunnen blijven borgen” jaar oud systeem dat de verwachting van de hoeveelheid criminaliteit in een buurt weergeeft. De Algemene Rekenkamer waarschuwde in 2022 voor geringe controle op vooringenomenheid (bias) in het systeem. “Omdat onduidelijk is met welke data het model indertijd is getraind, moet je je afvragen of we dat dan nog wel moeten gebruiken,” zegt Van der Plas. Zo voldoen meerdere systemen die de politie hanteert mogelijk niet meer aan de eisen van de tijd. “Als die eisen nog niet zo scherp gesteld zijn, omdat er nog geen wet- en regelgeving is, moet je ook vanuit je eigen organisatie kijken wat er gelet op de taakstelling acceptabel is en wat niet. Daarom houden we ook zelf onze systemen kritisch tegen het licht.” 12 iBestuur 51, juli 2024 Proeftuinen Ondertussen worden de technologische mogelijkheden alleen maar groter. In het Nationaal Politielab AI (zie kader op pagina 14) buigen twintig promovendi zich over de technische, organisatorische, juridische, ethische en sociale aspecten van AI. Samen met wetenschappers en bedrijven wordt geëxperimenteerd in proeftuinen. “Je kunt AI niet van het schap in de supermarkt pakken. Je moet zelf weten hoe het werkt. Onze maatschappelijke opgave als politie vraagt om ontwikkelruimte, zodat we de veiligheid kunnen blijven borgen in een complexe, snel veranderende maatschappij. De vraag is niet of data moeten worden benut, maar hoe je dit op een ethisch verantwoorde manier doet. Het is geen ritselruimte om maar wat aan te rommelen.” Gezichtsherkenning Een beladen onderwerp in dat verband is de inzet van gezichtsherkenningstechnologie. Van der Plas: “We experimenteren met gezichtsherkenning in een laboratoriumomgeving, maar een aantal dingen zullen we ook in de openbare ruimte moeten uitproberen. Dat is die ontwikkelruimte waarover ik het heb. Er is discussie of de huidige Politiewet daartoe wel toereikend is. Dat is spannend. We moeten zorgen voor toezicht, zodat het geen schimmig traject wordt.” De politie heeft een eigen ‘inzetkader gezichtsherkenning’ opgesteld. De kritiek op dit inzetkader luidt onder meer dat het door de politie zelf is ontwikkeld, alsof de politie mag bepalen wat de politie mag doen met technologie. Van der Plas benadrukt dat het een eerste stap is, zodat er íets is in plaats van niets, en het is conform de afspraak met de minister van JenV. “We willen eerst kijken hoe het werkt. Het opschrijven is makkelijker dan het uitvoeren. Daarom gaan we een proefperiode in, zodat de operatie weet wat erbij komt kijken. Het inzetkader moet nog naast de Europese AI Act worden gelegd, wat tot aanpassingen kan leiden.” Er zijn situaties denkbaar waarin hij gezichtsherkenning geoorloofd vindt, zoals voor het opsporen van aanslagplegers of vermiste kinderen. “Een moordenaar waarde rond in
13 Online Touch Home