Hvis din virksomhed arbejder med AI-systemer, og du ikke har truffet foranstaltninger til at give medarbejdere, der arbejder med dem, tilstrækkelig viden, mangler du en forpligtelse, som AI-forordningen pålægger tilbydere og brugere af AI-systemer. Forordningen kalder dette AI-læsefærdighed: medarbejdere skal have tilstrækkelig forståelse for, hvad et AI-system gør, hvor grænserne ligger, og hvilke risici der er forbundet med det, passende til deres funktion. Hvis denne foranstaltning mangler, risikerer en virksomhed ikke at kunne dokumentere, at den opfylder denne forpligtelse, når en tilsynsmyndighed spørger om det.
Hvilke konkrete konsekvenser det medfører, afhænger af situationen: hvilket AI-system det drejer sig om, hvilken rolle virksomheden udfylder, og hvad en tilsynsmyndighed finder ved en undersøgelse. Et generelt udsagn om bøder eller en fast tilgang fra tilsynsmyndigheder kan ikke gives, og det er heller ikke hensigten med denne artikel. Det er dog muligt at beskrive, hvad forpligtelsen indebærer, hvem der fører tilsyn, og hvilke slags konsekvenser forordningen selv gør mulig.
Hvad indebærer forpligtelsen præcis
AI-forordningen skelner mellem forskellige roller: hvem der udvikler eller markedsfører et AI-system, og hvem der bruger det inden for sin egen organisation. For begge roller gælder en form for forpligtelse til at sikre tilstrækkelig viden blandt personalet, der arbejder med systemet eller vurderer dets resultater. Det betyder ikke automatisk et kursus for alle; forordningen giver mulighed for en tilgang, der passer til funktionen, medarbejderens erfaring og risikoen ved det brugte system. Hvad der præcist er tilstrækkeligt, er ikke fastsat i tal eller timer i selve forordningen, og det er derfor klogt at konsultere den officielle tekst, hvis der er tvivl, i stedet for at basere sig på antagelser.
For virksomheder, der for første gang arbejder med denne forpligtelse, hjælper det at først fastslå, hvilke AI-systemer der bruges i organisationen, og af hvem. Dette overblik er ofte det manglende udgangspunkt, ikke vejledningen selv. I vidensbanken efter emne er det beskrevet, hvordan denne forpligtelse forholder sig til andre dele af forordningen, såsom systemets risikoklassificering.
Hvem fører tilsyn
I Holland varetages tilsyn med AI-forordningen af tilsynsmyndigheder, der kan variere efter sektor og efter type forpligtelse; hvilken tilsynsmyndighed der er kompetent for hvilket område, er på nuværende tidspunkt endnu ikke fuldt afklaret for alle emner. På EU-niveau findes der desuden koordination mellem medlemsstaterne. For den aktuelle status henviser vi til selve den kompetente tilsynsmyndighed, ikke til egne fortolkninger af, hvem der har ansvaret for hvad.
En tilsynsmyndighed kan bede om dokumentation: hvilke AI-systemer der bruges, hvem der arbejder med dem, og hvordan disse medarbejdere er forberedt. Uden nogen form for dokumentation er det vanskeligt at demonstrere, selvom der i praksis faktisk er been paid opmærksomhed på det. Dokumentation handler således ikke kun om at afkrydse en forpligtelse, men også om at kunne forklare, hvad der er gjort.
Hvilke konsekvenser kan følge
AI-forordningen indeholder et håndhævelsessystem med mulige sanktioner, men deres højde og form afhænger af karakteren og alvoren af overtrædelsen og af den afvejning, som en tilsynsmyndighed foretager i en konkret sag. Vi kan ikke give et skøn over sandsynligheden for, at en specifik virksomhed bliver kontrolleret, eller over højden af en eventuel sanktion, og det er heller ikke vores opgave; det tilhører tilsynsmyndigheden og, for fortolkningen af teksten, en jurist.
Ud over det tilsynsspor er der konsekvenser, som er mindre synlige, men i praksis oftere gør sig gældende: en arbejdsgiver, der i en udbud spørger, hvordan AI-bogstavefærdighed er reguleret, en forsikringsselskab, der spørger derom ved en skadeerstatningskrav, der er forbundet med et AI-system, eller medarbejdere, der er usikre på, hvad et AI-system må og ikke må beslutte. Det sidste vedrører også medbestemmelse: ved implementering af et nyt AI-system kan arbejdertakstraadet have en rolle, uafhængigt af selve AI-bogstavefærdighedspligten.
Hvad kan De gøre
Et godt udgangspunkt er at udarbejde en oversigt over de AI-systemer, der bruges i virksomheden, hvem der arbejder med dem, og hvilket risikoniveau det medfører. På det grundlag kan det fastslås, hvilken form for information, der er passende, og det behøver ikke at være kompliceret. Med få spørgsmål få en indikation af, hvor jeres virksomhed er gives der ofte tilstrækkelig vejledning til at fastlægge næste skridt.
For dem, der gerne vil vide, hvordan andre virksomhedsejere håndterer dette, eller hvilke spørgsmål der ofte dukker op, er samlingen af ofte stillede spørgsmål et naturligt udgangspunkt. Og for dem, der overvejer at fastlægge dette strukturelt, kan de registrere sig med en forretningskonto for at holde styr på, hvad der allerede er reguleret, og hvad der stadig kræver opmærksomhed.
Denne beskrivelse er beregnet til at præcisere pligten, ikke til at vurdere, om jeres virksomhed opfylder den. For denne vurdering og for forklaringen af den officielle tekst på jeres situation er en jurist eller den kompetente tilsynsmyndighed det rette kontaktpunkt.
Vil De først selv få et billede af, hvor jeres virksomhed er? Den gratis hurtig-scanningen giver en første indikation, og i vidensbanken finder De de emner, der ofte hænger sammen hermed, fra personale og AI til kontrakterne med jeres leverandører.