Ak vaša spoločnosť pracuje s AI-systémami a neurobili ste opatrenia na to, aby zamestnanci pracujúci s nimi mali dostatočné vedomosti, potom chýba povinnosť, ktorú nariadenie o AI stanovuje poskytovateľom a používateľom AI-systémov. Nariadenie to nazýva AI-gramotnosť: zamestnanci musia dostatočne pochopiť, čo AI-systém robí, kde sú jeho hranice a aké riziká sú s ním spojené, primerane svojej funkcii. Ak toto opatrenie chýba, spoločnosť riskuje, že nebude schopná dokázať kontrolnému orgánu, že túto povinnosť spĺňa v čase, keď ju na to požiada.
Konkrétne dôsledky, ktoré z toho vyplývajú, závisia od situácie: o aký AI-systém ide, v akej úlohe spoločnosť pôsobí a čo kontrolný orgán pri kontrole zistí. Všeobecné vyjadrenie o sankcií alebo pevný postup kontrolných orgánov nemožno poskytnúť a ani to nie je účelom tohto článku. Je však možné opísať, čo povinnosť zahŕňa, kto ju kontroluje a aké druhy dôsledkov je možné podľa nariadenia vynútiť.
Čo presne povinnosť znamená
Nariadenie o AI rozlišuje medzi rôznymi úlohami: medzi tými, ktorí AI-systém vyvíjajú alebo uvádzajú na trh, a tými, ktorí ho používajú v rámci vlastnej organizácie. Na obe role sa vzťahuje forma povinnosti zabezpečiť dostatočné vedomosti personálu pracujúceho so systémom alebo posudzujúceho jeho výsledky. To automaticky neznamená školenie pre všetkých; nariadenie ponecháva priestor na prístup, ktorý sa hodí k funkcii, skúsenostiam zamestnanca a riziku používaného systému. Čo je presne dostatočné, nie je v číslach alebo hodinách v samotnom nariadení uvedené, a preto je rozumné v prípade pochybností konzultovať oficiálny text namiesto toho, aby ste sa spoliehali na predpoklady.
Pre spoločnosti, ktoré sa s touto povinnosťou stretávajú po prvý raz, pomôže, ak si najskôr určite, ktoré AI-systémy sa vo vašej organizácii používajú a kto ich používa. Tento prehľad je často chýbajúcim východiskovým bodom, nie samotná informácia. V časti poznatkovej báze podľa témy je vypracované, ako sa táto povinnosť vzťahuje na ďalšie časti nariadenia, ako je klasifikácia rizika systému.
Kto dozerá
V Holandsku je dohľad nad nariadením o AI v gescii kontrolných orgánov, ktorí sa môžu líšiť podľa sektora a podľa typu povinnosti; ktorý kontrolný orgán je príslušný pre ktorú časť, nie je v súčasnosti úplne vyjasniené pre všetky otázky. Na úrovni EÚ existuje okrem toho koordinácia medzi členskými štátmi. Pre aktuálny stav veci vás odkazujeme na samotný príslušný kontrolný orgán, nie na vlastné interpretácie toho, kto má na čom dohľad.
Kontrolný orgán môže požiadať o zdôvodnenie: ktoré AI-systémy sa používajú, kto s nimi pracuje a ako boli títo zamestnanci pripravení. Bez akéhokoľvek záznamu je to ťažké dokázať, aj keď sa v praxi tej veci naozaj venuje pozornosť. Záznam nie je teda iba otázkou odpíľovania povinnosti, ale aj otázkou schopnosti vysvetliť, čo sa urobilo.
Aké následky môžu nastať
Nariadenie o AI stanovuje systém vynucovania s možnými sankciami, ale ich výška a forma závisia od povahy a závažnosti porušenia a od zhodnotenia, ktoré kontrolný orgán v konkrétnom prípade urobí. Odhad pravdepodobnosti, že konkrétna spoločnosť bude skontrolovaná, alebo výšku eventuálnej sankcie nemôžeme poskytnúť a nie je to ani naša úloha; tá leží na kontrolnom orgáne a pre výklad textu na právnikovi.
Okrem dohľadného postupu existujú dôsledky, ktoré sú menej viditeľné, ale v praxi sa vyskytujú častejšie: objednávateľ, ktorý pri verejnom obstarávaní sa pýta, ako je riešená gramotnosť v oblasti AI, poisťovňa, ktorá sa na to pýta pri nároku z poistného vzťahujúcom sa na systém AI, alebo zamestnanci, ktorí si nie sú istí, čo môže a čo nemôže rozhodovať systém AI. Toto posledné sa týka aj spoluriadenia: pri zavedení nového systému AI môže mať správna rada úlohu, nezávisle od samotnej povinnosti ovládania AI.
Čo môžete urobiť
Dobrým východiskom je vytvorenie prehľadu systémov AI používaných v podniku, kto s nimi pracuje a aká úroveň rizika s tým súvisí. Na základe toho je možné určiť, aká forma informovania je vhodná, a nemusí byť komplikovaná. S niekoľkými otázkami získať ukazovateľ toho, kde sa váš podnik nachádza často už poskytuje dostatočnú orientáciu na určenie ďalšieho kroku.
Pre tých, ktorí chcú vedieť, ako to riešia iní podnikatelia, alebo ktoré otázky sa často opakujú, je zbierka často kladených otázok logickým východiskom. A kto zvažuje, že by to zapísať štruktúrne, môže sa zaregistrovať s obchodným účtom aby sledoval, čo je pri každej povinnosti už usporiadané a čo ešte vyžaduje pozornosť.
Tento opis je určený na vysvetlenie povinnosti, nie na posúdenie, či váš podnik spĺňa požiadavky. Pre toto posúdenie a na vysvetlenie oficiálneho textu vo vzťahu k vašej situácii je právnik alebo príslušný dohľadný orgán správny kontaktný bod.
Chcete si najskôr sami urobiť predstavu o tom, kde sa váš podnik nachádza? Bezplatná rýchla analýza poskytuje prvú indiciu a v znalostnej základni nájdete témy, ktoré sa pri tom často spolu vyskytujú, od personálu a AI až po zmluvy s vašimi dodávateľmi.