Wat er dit jaar verandert aan de AI-verordening
De AI-verordening, ook wel de AI Act genoemd, treedt niet in één keer volledig in werking. De regels gelden in fases, verspreid over meerdere jaren, en elk jaar wordt een nieuw deel van de verordening van toepassing. Dit jaar is opnieuw zo'n moment: de verplichtingen rond zogeheten hoogrisico AI-systemen komen dichterbij, en in de lidstaten wordt duidelijker welke toezichthouder de verordening gaat handhaven.
Voor u als ondernemer betekent dit vooral dat de vraag of uw bedrijf een AI-systeem gebruikt dat onder een zwaardere categorie valt, dit jaar actueler wordt dan voorheen. Niet elk bedrijf dat met AI werkt, krijgt met deze fase te maken; dat hangt af van het type systeem en van het doel waarvoor het wordt ingezet.
Waarom de verordening in fases ingaat
De Europese wetgever heeft gekozen voor een gefaseerde invoering, zodat aanbieders, toezichthouders en gebruikers de tijd krijgen om zich op de zwaarste verplichtingen voor te bereiden. De eerste fase, die inmiddels achter de rug is, betrof een verbod op een beperkte groep AI-toepassingen met een onaanvaardbaar risico, en de verplichting om personeel dat met AI werkt voldoende kennis te geven over wat het systeem doet.
Een volgende fase bracht regels voor aanbieders van AI-modellen voor algemene doeleinden, de modellen waarop veel toepassingen zijn gebouwd, en de aanwijzing van nationale toezichthouders per lidstaat. Die twee fases liggen achter ons; de fase die er dit jaar aankomt, gaat over systemen die de verordening als hoogrisico aanmerkt. Wilt u dat per fase op een rijtje zien, dan vindt u dat overzichtelijk terug in de kennisbank waarin elk onderwerp apart is uitgezocht.
Wat er dit jaar concreet speelt
Hoogrisico AI-systemen zijn systemen die worden ingezet in situaties met mogelijk grote gevolgen voor mensen, bijvoorbeeld bij werving en selectie, bij het beoordelen van kredietwaardigheid, of bij toegang tot onderwijs. Voor deze categorie gelden zwaardere eisen: aantoonbaar risicobeheer, menselijk toezicht, en documentatie die de werking van het systeem uitlegt.
Precies welke termijn voor welk type systeem geldt, en welke uitzonderingen daarbij horen, staat in de verordening zelf. Voor systemen die al onder bestaande productveiligheidswetgeving vallen, zoals bepaalde machines of medische hulpmiddelen, geldt doorgaans een langere aanlooptijd dan voor systemen die dat niet doen. Twijfelt u of een systeem dat uw bedrijf gebruikt in deze categorie valt, dan is dat in eerste instantie een vraag voor de leverancier van het systeem, en voor de juridische duiding een vraag voor een jurist. Heeft u nog geen scherp beeld van waar uw bedrijf staat, dan geeft een paar vragen meteen een eerste indicatie.
Voor wie dit relevant is
Een HR-manager die gebruikmaakt van software die sollicitanten voorselecteert of rangschikt, heeft dit jaar een concrete reden om bij de leverancier na te vragen hoe die software is geclassificeerd. Een kantoormanager die alleen een schrijfassistent of een planningstool gebruikt, valt in de meeste gevallen buiten deze zwaarste categorie, maar de verordening kent ook lichtere verplichtingen, zoals het kenbaar maken dat iemand met een AI-systeem in gesprek is in plaats van met een mens.
Een directeur van een installatiebedrijf die AI gebruikt voor offertes of routeplanning, doet er goed aan om per toepassing te bekijken in welke categorie die valt, in plaats van dat in één keer voor de hele organisatie te beoordelen. Vragen die hierbij vaak terugkomen, van toepasbaarheid tot documentatie, zijn te vinden onder de antwoorden op vragen die andere ondernemers ook stellen.
Wat u dit jaar kunt doen
Het is niet nodig om als klein of middelgroot bedrijf zelf de volledige verordening te doorgronden. Het helpt wel om een overzicht te hebben van welke AI-systemen binnen uw organisatie worden gebruikt, door wie, en met welk doel, zodat u die vraag gemakkelijker aan een leverancier of adviseur kunt voorleggen.
Wilt u weten waar de informatie op dit platform vandaan komt en hoe die wordt bijgehouden, dat staat toegelicht op de pagina over de herkomst van onze informatie. Voor de vertaling naar uw eigen situatie blijft de bevoegde toezichthouder, of een jurist, het aangewezen aanspreekpunt.
Tot slot
De AI-verordening verandert dit jaar niet in één keer alles, maar wel in stappen die voor sommige bedrijven meer gewicht hebben dan voor andere. Doe gerust de gratis quick-scan of blader door de kennisbank om te zien of, en zo ja waar, dit jaar voor uw bedrijf van belang is.