Om er organisation arbetar med AI-system och ni inte har gjort några åtgärder för att ge anställda som arbetar med dem tillräcklig kunskap, saknar ni en förpliktelse som AI-förordningen ställer på leverantörer och användare av AI-system. Förordningen kallar detta AI-läskunnighet: anställda måste ha tillräcklig förståelse för vad ett AI-system gör, vilka dess gränser är och vilka risker som är förknippade med det, lämpligt för sin roll. Om denna åtgärd saknas riskerar ett företag att det inte kan visa på att det uppfyller denna förpliktelse när en tillsynsmyndighet frågar efter det.
Vilka konkreta konsekvenser detta får beror på situationen: vilket AI-system det gäller, vilken roll företaget har och vad en tillsynsmyndighet upptäcker vid en granskning. En allmän uttalande om sanktioner eller en fast strategi från tillsynsmyndigheter kan inte ges, och det är inte heller syftet med denna artikel. Det är dock möjligt att beskriva vad förpliktelsen innebär, vem som övervakar den och vilka slag av konsekvenser som förordningen själv möjliggör.
Vad innebär förpliktelsen exakt
AI-förordningen gör distinktion mellan olika roller: den som utvecklar eller marknadsför ett AI-system och den som använder det inom sin egen organisation. För båda rollerna gäller en form av förpliktelse att säkerställa tillräcklig kunskap bland personal som arbetar med systemet eller bedömer dess resultat. Detta betyder inte automatiskt en kurs för alla; förordningen ger utrymme för ett tillvägagångssätt som passar funktionen, medarbetarens erfarenhet och risken med det använda systemet. Vad som exakt är tillräckligt anges inte i siffror eller timmar i själva förordningen, och därför är det klokt att rådfråga den officiella texten vid osäkerhet istället för att förlita sig på antaganden.
För företag som möter denna förpliktelse för första gången är det bra att först fastställa vilka AI-system som används inom organisationen och av vem. Denna översikt är ofta den saknade utgångspunkten, inte själva informationen. I kunskapsbanken per ämne är det utformat hur denna förpliktelse förhåller sig till andra delar av förordningen, såsom systemets riskkategorisering.
Vem övervakar detta
I Nederländerna är övervakningen av AI-förordningen delegerad till tillsynsmyndigheter som kan skilja sig per sektor och per typ av förpliktelse; vilken tillsynsmyndighet som är behörig för vilken del är för närvarande ännu inte helt klarlagd för varje område. På EU-nivå finns dessutom samordning mellan medlemsstaterna. För den aktuella statusen hänvisar vi till den behöriga tillsynsmyndigheten själv, inte till våra egna tolkningar av vem som är ansvarig för vad.
En tillsynsmyndighet kan begära motivering: vilka AI-system används, vem arbetar med dem och hur dessa anställda är förberedda. Utan någon dokumentation är det svårt att visa detta, även om det i praktiken verkligen har fokuserats på. Dokumentation är därför inte bara en fråga om att bocka av en förpliktelse, utan också om att kunna förklara vad som har gjorts.
Vilka konsekvenser kan uppstå
AI-förordningen föreskriver ett tillsynssystem med möjliga sanktioner, men höjden och formen på dessa beror på överträdelsens karaktär och allvarlighetsgrad och på den avvägning som en tillsynsmyndighet gör i ett specifikt fall. Vi kan inte ge en uppskattning av sannolikheten för att ett specifikt företag granskas eller höjden på en eventuell sanktion, och det är inte heller vår uppgift; det ligger hos tillsynsmyndigheten och, för förklaringen av texten, hos en jurist.
Utöver tillsynsprocessen finns det konsekvenser som är mindre synliga men som ofta spelar en större roll i praktiken: en beställare som i en anbudsprocess frågar hur AI-kompetens är reglerad, en försäkringsgivare som frågar om det vid en skadereglering som är kopplad till ett AI-system, eller anställda som är osäkra på vad ett AI-system får och inte får besluta om. Det senare berör också sambestämmelse: när ett nytt AI-system implementeras kan arbetstagarnämnden ha en roll, oberoende av själva AI-kompetenskravet.
Vad kan du göra
En bra utgångspunkt är att göra en inventering av de AI-system som används inom företaget, vem som arbetar med dem och vilken risknivå som är kopplad till dem. På basis av det kan du bestämma vilken form av information som är lämplig, och det behöver inte vara komplicerat. Med få frågor få en indikation på var ditt företag befinner sig räcker ofta för att ge tillräcklig vägledning för nästa steg.
För den som vill veta hur andra företagare tacklar detta, eller vilka frågor som ofta återkommer, är samlingen vanliga frågor en logisk utgångspunkt. Och den som överväger att formalisera detta kan registrera sig med ett företagskonto för att per förpliktelse hålla reda på vad som redan är ordnat och vad som kräver ytterligare uppmärksamhet.
Denna beskrivning är avsedd att klargöra förpliktelsen, inte för att bedöma om ditt företag följer den. För denna bedömning, och för förklaring av den officiella texten med tillämpning på din situation, är en jurist eller tillsynsmyndigheten rätt kontaktpunkt.
Vill du först själv få en bild av var ditt företag befinner sig? Den kostnadsfria snabbkontroll ger en första indikation, och i kunskapsbanken hittar du de ämnen som ofta hänger samman här, från personal och AI till avtalen med dina leverantörer.