AI-geletterdheid: Een verplichting voor iedere organisatie die AI gebruikt
De inzet van kunstmatige intelligentie (AI) groeit in razend tempo. Steeds meer organisaties gebruiken AI-systemen om processen te versnellen en besluiten te ondersteunen. Denk aan chatbots, algoritmes voor personeelsselectie, systemen die risico’s voorspellen, of gewoon een LLM zoals ChatGPT vragen om je te helpen bij het schrijven van een brief. Sinds begin dit jaar zijn organisaties die AI-systemen ontwikkelen, aanbieden of gebruiken, op grond van de AI Act verplicht te zorgen voor voldoende AI-geletterdheid binnen hun organisatie. Een verplichting die dus voor vrijwel iedere organisatie geldt, aangezien bijna elke organisatie inmiddels op de een of andere manier AI inzet.
Wat is AI-geletterdheid?
AI-geletterdheid betekent dat medewerkers en andere betrokkenen die met AI werken over de juiste kennis, vaardigheden en inzicht beschikken om AI op verantwoorde wijze toe te passen. Het gaat niet alleen om technische kennis van hoe een AI-systeem werkt. Medewerkers moeten daarnaast de juridische, ethische en maatschappelijke gevolgen van door AI ondersteunde beslissingen kunnen overzien.
De Autoriteit Persoonsgegevens (AP) benadrukt dat AI-geletterdheid medewerkers in staat moet stellen om de uitkomsten van AI kritisch te kunnen beoordelen en de impact ervan (op klanten, burgers of werknemers) te begrijpen. Met andere woorden: AI-geletterdheid is het vermogen om AI te gebruiken zonder daarbij de risico’s uit het oog te verliezen.
Verplichting voor organisaties
De AI Act schrijft geen vaste maatregelen voor die elke organisatie moet nemen om te voldoen aan het vereiste uit de AI Act. Elke organisatie moet zelf bepalen welke stappen nodig zijn om binnen de organisatie te voldoen aan de AI-geletterdheidsverplichting. Dat is logisch, omdat de context waarin AI wordt toegepast per organisatie sterk verschilt en specifieke maatregelen nodig zijn om de bijbehorende risico’s af te dekken.
Met de publicatie van het document ‘Aan de slag met AI-geletterdheid’ biedt de AP organisaties enige houvast. In het document adviseert zij organisaties om een meerjarig plan op te stellen waarin onder andere de volgende onderwerpen aan bod zullen moeten komen:
- Behoeften en uitdagingen in kaart brengen.
Bijvoorbeeld: registreren van AI-systemen en de risico’s; identificeren van het kennisniveau van werknemers. - Concrete en meetbare doelen vaststellen
Bijvoorbeeld: in kaart brengen van de grootste risico’s van de AI-systemen en bepalen van maatregelen die nodig zijn. - Strategieën en acties uitvoeren
Bijvoorbeeld: trainingen aanbieden en interne richtlijnen opstellen. - Resultaten evalueren en beleid verbeteren
Bijvoorbeeld: periodiek analyseren van de AI-geletterdheid en het beoordelen van werknemers.
Wat betekent dit voor uw organisatie?
Worden er binnen uw organisatie AI-systemen gebruikt? Dan is uw organisatie dus verplicht te voldoen aan het AI-geletterdheidsvereiste uit de AI Act. We adviseren om op korte termijn een overzicht te maken van alle AI-toepassingen binnen uw organisatie en aan de hand daarvan beleid op te stellen waarin u bovengenoemde onderwerpen uitwerkt. Dit biedt houvast voor werknemers en het laat zien dat uw organisatie op verantwoorde wijze omgaat met AI.
Heeft u vragen over AI-geletterdheid of ondersteuning nodig bij het opstellen van AI-beleid? We helpen graag!
