Hvad der ændres i år på AI-forordningen
AI-forordningen, også kaldet AI Act, træder ikke fuldt i kraft på én gang. Reglerne gælder i faser, spredt over flere år, og hvert år bliver en ny del af forordningen gældende. I år er det igen sådan et tidspunkt: forpligtelserne omkring såkaldte højrisiko-AI-systemer kommer tættere på, og i medlemsstaterne bliver det tydeligere, hvilken tilsynsmyndighed der skal håndhæve forordningen.
For dig som erhvervsdrivende betyder det især, at spørgsmålet om dit selskab bruger et AI-system, der falder ind under en tungere kategori, i år bliver mere aktuel end før. Ikke alle selskaber, der arbejder med AI, får med denne fase at gøre; det afhænger af systemtypen og det formål, det anvendes til.
Hvorfor forordningen træder i kraft i faser
Den europæiske lovgiver har valgt en trinvis gennemførelse, så leverandører, tilsynsmyndigheder og brugere får tid til at forberede sig på de tungeste forpligtelser. Den første fase, som nu er overstået, handlede om et forbud mod en begrænset gruppe AI-anvendelser med uacceptabel risiko, og forpligtelsen til at give personale, der arbejder med AI, tilstrækkelig viden om, hvad systemet gør.
En næste fase bragte regler for leverandører af AI-modeller til almen brug, de modeller som mange anvendelser er bygget på, og udpegningen af nationale tilsynsmyndigheder pr. medlemsstat. Disse to faser ligger bag os; den fase, der kommer i år, handler om systemer, som forordningen betegner som højrisiko. Hvis du gerne vil se det fase for fase, finder du det overskueligt dokumenteret i videnbanken, hvor hvert emne er undersøgt særskilt.
Hvad der konkret spiller i år
Højrisiko-AI-systemer er systemer, der anvendes i situationer med muligvis store konsekvenser for mennesker, f.eks. ved ansættelse og udvælgelse, ved vurdering af kreditværdighed eller ved adgang til uddannelse. For denne kategori gælder tungere krav: påviselig risikostyring, menneskelig tilsyn og dokumentation, der forklarer systemets funktion.
Præcis, hvilken tidsplan der gælder for hvilken systemtype, og hvilke undtagelser der er, fremgår af selve forordningen. For systemer, der allerede falder under eksisterende produktsikkerhedslovgivning, såsom visse maskiner eller medicinsk udstyr, gælder som regel en længere ansættelsestid end for systemer, der ikke gør. Hvis du er usikker på, om et system, som dit selskab bruger, falder ind under denne kategori, er det først og fremmest et spørgsmål for systemleverandøren, og for juridisk fortolkning et spørgsmål for en advokat. Hvis du endnu ikke har et klart billede af, hvor dit selskab står, giver et par spørgsmål med det samme en første indikation.
For hvem det er relevant
En HR-manager, der bruger software, der forudfiltrer eller rangordner ansøgere, har i år en konkret grund til at spørge leverandøren, hvordan denne software er klassificeret. En kontorleder, der kun bruger en skrivassistent eller et planlægningsværktøj, falder i de fleste tilfælde uden for denne tungeste kategori, men forordningen kender også lettere forpligtelser, såsom at gøre det klart, at nogen taler med et AI-system i stedet for med et menneske.
En direktør for en installatørvirksomhed, der bruger AI til tilbud eller ruteplanering, gør klogt i at se på hver anvendelse, hvilken kategori den falder ind under, i stedet for at vurdere det på én gang for hele organisationen. Spørgsmål, der ofte dukker op i den sammenhæng, fra anvendelighed til dokumentation, kan findes under svarene på spørgsmål, som andre erhvervsdrivende også stiller.
Hvad du kan gøre i år
Det er ikke nødvendigt for små og mellemstore virksomheder at forstå hele forordningen selv. Det hjælper dog at have et overblik over, hvilke AI-systemer der bruges inden for jeres organisation, af hvem, og til hvilket formål, så I lettere kan stille det spørgsmål til en leverandør eller rådgiver.
Vil I vide, hvor informationen på denne platform kommer fra, og hvordan den vedligeholdes, er det forklaret på siden om oprindelsen til vores informationer. For at oversætte det til jeres egen situation er den kompetente tilsynsmyndighed eller en jurist det rette kontaktpunkt.
Endelig
AI-forordningen ændrer ikke alt på én gang i år, men i trin, som betyder mere for nogle virksomheder end for andre. I er velkommen til at foretage den gratis quick-scan eller gennemse videnbanken for at se, om og i så fald hvor, det betyder noget for jeres virksomhed i år.