Als uw bedrijf werkt met AI-systemen en u heeft geen voorziening getroffen om medewerkers die ermee werken voldoende kennis te geven, dan ontbreekt een verplichting die de AI-verordening aan aanbieders en gebruikers van AI-systemen stelt. De verordening noemt dit AI-geletterdheid: medewerkers moeten voldoende begrijpen wat een AI-systeem doet, waar de grenzen liggen en welke risico's eraan verbonden zijn, passend bij hun functie. Ontbreekt die voorziening, dan loopt een bedrijf het risico dat het niet kan aantonen aan deze verplichting te voldoen op het moment dat een toezichthouder daarnaar vraagt.
Welke gevolgen dat concreet met zich meebrengt, hangt af van de situatie: om welk AI-systeem het gaat, in welke rol het bedrijf optreedt en wat een toezichthouder bij een onderzoek aantreft. Een algemene uitspraak over boetes of een vaste aanpak van toezichthouders is niet te geven, en dat is ook niet de bedoeling van dit artikel. Wel is te beschrijven wat de verplichting inhoudt, wie erop toeziet en welke soorten gevolgen de verordening zelf mogelijk maakt.
Wat houdt de verplichting precies in
De AI-verordening maakt onderscheid tussen verschillende rollen: wie een AI-systeem ontwikkelt of op de markt brengt, en wie het binnen de eigen organisatie gebruikt. Voor beide rollen geldt een vorm van de verplichting om te zorgen voor voldoende kennis bij het personeel dat met het systeem werkt of de resultaten ervan beoordeelt. Dat betekent niet automatisch een cursus voor iedereen; de verordening laat ruimte voor een aanpak die past bij de functie, de ervaring van de medewerker en het risico van het gebruikte systeem. Wat precies voldoende is, staat niet in getallen of uren in de verordening zelf, en daarom is het verstandig om bij twijfel de officiële tekst te raadplegen in plaats van op aannames te varen.
Voor bedrijven die voor het eerst met deze verplichting te maken krijgen, helpt het om eerst te bepalen welke AI-systemen binnen de organisatie worden gebruikt en door wie. Dat overzicht is vaak het ontbrekende startpunt, niet de voorlichting zelf. In de kennisbank per onderwerp staat uitgewerkt hoe deze verplichting zich verhoudt tot andere onderdelen van de verordening, zoals de risicoclassificatie van een systeem.
Wie houdt er toezicht
In Nederland is toezicht op de AI-verordening belegd bij toezichthouders die per sector en per type verplichting kunnen verschillen; welke toezichthouder voor welk onderdeel bevoegd is, is op dit moment nog niet voor elk onderwerp volledig uitgekristalliseerd. Op EU-niveau bestaat daarnaast coördinatie tussen de lidstaten. Voor de actuele stand van zaken verwijzen wij naar de bevoegde toezichthouder zelf, niet naar eigen interpretaties van wie waarover gaat.
Een toezichthouder kan om onderbouwing vragen: welke AI-systemen worden gebruikt, wie ermee werkt en hoe die medewerkers zijn voorbereid. Zonder enige vastlegging is dat lastig aan te tonen, ook als er in de praktijk wel degelijk aandacht aan is besteed. Vastlegging is dus niet alleen een kwestie van verplichting afvinken, maar ook van kunnen uitleggen wat er is gedaan.
Welke gevolgen kunnen volgen
De AI-verordening voorziet in een handhavingsstelsel met mogelijke sancties, maar de hoogte en de vorm daarvan hangen af van de aard en ernst van de overtreding, en van de afweging die een toezichthouder in een concreet geval maakt. Een inschatting van de kans dat een specifiek bedrijf wordt gecontroleerd, of van de hoogte van een eventuele sanctie, kunnen wij niet geven en is ook niet ons werk; dat ligt bij de toezichthouder en, voor de uitleg van de tekst, bij een jurist.
Naast het toezichtstraject zijn er gevolgen die minder zichtbaar zijn maar in de praktijk vaker spelen: een opdrachtgever die in een aanbesteding vraagt hoe AI-geletterdheid is geregeld, een verzekeraar die ernaar vraagt bij een schadeclaim die met een AI-systeem samenhangt, of medewerkers die onzeker zijn over wat een AI-systeem wel en niet mag beslissen. Dat laatste raakt ook aan medezeggenschap: bij de invoering van een nieuw AI-systeem kan de ondernemingsraad een rol hebben, los van de AI-geletterdheidsverplichting zelf.
Wat kunt u wel doen
Een goed startpunt is een overzicht maken van de AI-systemen die binnen het bedrijf worden gebruikt, wie ermee werkt en welk risiconiveau daarbij hoort. Op basis daarvan is te bepalen welke vorm van voorlichting passend is, en dat hoeft niet ingewikkeld te zijn. Met een paar vragen een indicatie krijgen van waar uw bedrijf staat geeft vaak al voldoende richting om de volgende stap te bepalen.
Voor wie wil weten hoe andere ondernemers dit aanpakken, of welke vragen vaak terugkomen, is de verzameling veelgestelde vragen een logisch vertrekpunt. En wie overweegt dit structureel vast te leggen, kan zich met een zakelijk account registreren om per verplichting bij te houden wat al geregeld is en wat nog aandacht vraagt.
Deze beschrijving is bedoeld om de verplichting te duiden, niet om te beoordelen of uw bedrijf eraan voldoet. Voor die beoordeling, en voor de uitleg van de officiële tekst op uw situatie, is een jurist of de bevoegde toezichthouder het juiste aanspreekpunt.
Wilt u eerst zelf een beeld krijgen van waar uw bedrijf staat? De gratis quick-scan geeft een eerste indicatie, en in de kennisbank vindt u de onderwerpen die hierbij vaak samen spelen, van personeel en AI tot de contracten met uw leveranciers.