BINNENLANDS BESTUUR - WEEK 47 | 2021 32 ACHTERGROND EUROPA Staten en China de grote spelers en Rusland is opkomend. De Europese Unie wil een omgeving waarin innovatie mogelijk is, maar waar mensen ook worden beschermd.’ Belangrijk aan de wetgeving is dat die kijkt naar risico. Er is AI met beperkt risico, met hoog risico en met onaanvaardbaar risico. Voor die indeling kijkt de EU naar de impact van de AI-toepassingen op veiligheid, mensenrechten en vrijheden. Bij het gebruik van een chatbot is bijvoorbeeld slechts sprake van beperkt risico. Systemen met een hoog risico zijn biometrische identificatie, rechtshandhaving of systemen ‘die bedoeld zijn om door of namens overheidsinstanties te worden gebruikt om te beoordelen of natuurlijke personen in aanmerking komen voor overheidsuitkeringen en -diensten’. Er is veel maatschappelijke discussie over. ONAANVAARDBAAR Een onaanvaardbaar risico kan ontstaan bij systemen die kwetsbaarheden van mensen uitbuiten, bij systemen die worden gebruikt voor onbeperkte surveillance of bij systemen die worden gebruikt voor social scoring. Denk bij die laatste aan systemen van sociaal krediet zoals China die heeft. En in de Verenigde Staten zijn kredietscores heel belangrijk. Deze wetgeving bepaalt dat dergelijke scores niet mogen worden gebruikt om onderscheid te maken tussen burgers, bijvoorbeeld door te bepalen wie waar mag wonen. Zo probeert de EU Amerikaanse toestanden te voorkomen. De op risico gebaseerde aanpak plaatst de bewijslast bij de ontwikkelaars, gebruikers en toezichthouders. Zij zullen moet onderzoeken en onderbouwen in welke categorieën hun systemen vallen. Dat kan lastig zijn als ze voor meerdere doeleinden kunnen worden gebruikt, zoals bijvoorbeeld de software die SAS ontwikkelt. ‘Onze software is niet ontwikkeld voor een bepaald type gebruik’, zegt Spyridaki. ‘De meeste bedrijven in de b2b-sector opereren zo. Hoe kunnen we aan de voorschriften voldoen als we geen controle hebben over hoe onze software wordt gebruikt?’ Er zijn bedrijven die de voorschriften te complex vinden, weet Spyridaki, maar zo denkt SAS er (nog) niet over. Het succes van de wetgeving zal afhangen van hoe goed de aanjagersrol werkt. Sommigen ervaren Europese wetgeving als een hindernis, maar de EU rekent erop dat de AI-verordening een standaard wordt. Zo ging het ook bij de GDPR (AVG). Een Australisch bedrijf vertelde Spyridaki: als ‘ Wetgeving heeft alleen zin als er toezicht en handhaving is’ je de GDPR aanhoudt, zit je overal ter wereld goed. ‘De wetgeving werd overal overgenomen en daarmee een wereldwijde standaard, ook vanuit een filosofisch en menselijk perspectief. Deze verordening moet dat bewerkstelligen voor AI.’ Toch is er twijfel bij Spyridaki. ‘Het blijft een goed doordachte wet, zonder grote gaten, maar het proces verloopt langzaam. Zolang het Europees Parlement er niet mee aan de slag gaat blijft het bij lijstjes afvinken en komt er geen debat.’ In het hart van het proces, wanneer het parlement het bespreekt en er wellicht nog duizenden amendementen binnenkomen, wordt het makkelijker in te schatten wat de juridische aspecten en praktische toepassingen van de wetgeving zullen zijn. Zodra de regulering wordt aangenomen, zal Nederland de bepalingen in nationale wet- en regelgeving moeten doorvoeren. ‘Wat het voorstel voor een Europese AI-verordening precies inhoudt voor decentrale overheden is nog niet bekend’, schrijft Europa Decentraal. ‘Ook is het nog onduidelijk wat de Nederlandse plannen concreet zijn op het gebied van AI-wetgeving.’ AANJAGERS Overheden zullen als gebruikers en handhavers met de wetgeving te maken krijgen. Overheden zijn belangrijke aanjagers geweest van technologische vernieuwing, zoals toen Rotterdam SyRI in gebruik nam, wat leidde tot het verbod begin 2020. Eerder dit jaar beboette de Autoriteit Persoonsgegevens (AP) Enschede omdat het een wifi-trackingsysteem
33 Online Touch Home