KENNISPARTNER SALESFORCE Veiligheid en vertrouwen cruciaal in het uitdagende maar beloftevolle AI-landschap AI is in opmars en biedt bedrijven tal van kansen om sneller en productiever te werken en sterkere relaties met hun klanten te bouwen. Tegelijkertijd brengt het ook een hoop vragen en zorgen met zich mee. Organisaties zullen een grote verantwoordelijkheid moeten nemen en deze veelbelovende technologie met zorgvuldigheid moeten verkennen en inzetten. ecent onderzoek in opdracht van Salesforce laat zien dat ruim de helft van de Nederlanders niet goed op de hoogte is van de wet- en regelgeving rond AI. Over het gebruik van AI is nog veel discussie gaande en de onwetendheid van gebruikers vormt soms een risico. De output van AI is tenslotte gegenereerd op basis van data en ingevoerde kennis – geen menselijk gevoel of inzicht. Juist dit benadrukt de behoefte aan een aanpak waarbij ethiek, veiligheid en menselijke controle voorop staan. R Waarom menselijke controle bij het gebruik van AI cruciaal is Het behouden van menselijke controle bij AI-ontwikkeling en -gebruik is essentieel. Mensen kunnen ethische afwegingen maken en morele beslissingen nemen, iets wat AI (nog) niet kan. Dit zorgt ervoor dat beslissingen of acties genomen op basis van AI-toepassingen, voldoen aan onze normen en waarden. De menselijke touch is vooral in organisaties zoals in de publieke sector, van zeer groot belang om op de juiste, meest ethische wijze om te kunnen gaan met AI als hulpsysteem. AI zou eerlijk, transparant, privacybewust en verantwoordelijk moeten worden ontworpen en gebruikt, zodat wordt gewaarborgd dat het bijdraagt aan het welzijn van individuen en gemeenschappen, zonder ongewenste negatieve gevolgen. AI als hulpmiddel voor de publieke sector AI speelt op dit moment al een belangrijke rol in de publieke sector door de dienstverlening en efficiëntie van processen te verbeteren. AI kan bijvoorbeeld grote hoeveelheden data analyseren om trends te identificeren die belangrijk zijn voor stadsplanning, zoals verkeersstromen, woningbehoeften of afvalbeheer. Ook kan AI routinetaken binnen burgerzaken automatiseren, zoals het verwerken van vergunningsaanvragen of administratieve procedures. Bij alle processen is menselijke (eind) controle onmisbaar, omdat er met gevoelige informatie wordt gewerkt. Alleen dan kan AI worden ingezet als effectief hulpmiddel voor menselijke vooruitgang en welzijn binnen de taken van de publieke sector. Salesforce’s Einstein Trust Layer ayer rSalesforce's Einstein Trust Layer is ontworpen om vertrouwen op te bouwen in AI-technologieën door een framework dat ethische en menselijke overwegingen centraal stelt. Dit framework is bedoeld om AI-systemen te begeleiden naar een mensen-centrische benadering, waarbij de focus ligt op het verbeteren van menselijke besluitvorming en het waarborgen van ethische en veilige implementaties van AI. Het is een veilige AI-architectuur, volledig geïntegreerd in het Salesforce-platform met optimale toepassing, voor gestroomlijnde privacy- en databescherming. van egreerd voor 52 iBestuur 51, juli 2024
53 Online Touch Home