Pokud vaše společnost pracuje se systémy AI a neučinila opatření k tomu, aby zaměstnanci, kteří s nimi pracují, měli dostatečné znalosti, chybí vám povinnost, kterou nařízení o AI ukládá poskytovatelům a uživatelům systémů AI. Nařízení to nazývá AI-gramotnost: zaměstnanci musí dostatečně pochopit, co systém AI dělá, kde jsou jeho hranice a jaká rizika jsou s ním spojená, přiměřeně jejich funkci. Pokud toto opatření chybí, riskuje společnost, že nebude moci prokázat splnění této povinnosti v okamžiku, kdy si ji bude vyžadovat dohledový orgán.
Jaké konkrétní důsledky to bude mít, závisí na situaci: o který systém AI jde, jakou roli společnost hraje a co dohledový orgán při šetření zjistí. Nelze uvést obecné vyjádření o pokutách nebo pevný přístup dohledových orgánů, a to také není účelem tohoto článku. Je však možné popsat, co povinnost obsahuje, kdo ji kontroluje a jaké druhy důsledků samo nařízení umožňuje.
Co přesně povinnost obsahuje
Nařízení o AI rozlišuje mezi různými rolemi: kdo systém AI vyvíjí nebo uvádí na trh, a kdo ho používá v rámci vlastní organizace. Pro obě role platí určitá forma povinnosti zajistit dostatečné znalosti u personálu, který se systémem pracuje nebo hodnotí jeho výsledky. To nutně neznamenám kurs pro všechny; nařízení ponechává prostor pro přístup, který odpovídá funkci, zkušenostem zaměstnance a riziku používaného systému. Co přesně je dostatečné, není v nařízení samo o sobě uvedeno v číslech nebo hodinách, a proto je rozumné v případě pochybností raději konzultovat oficiální text namísto spoléhání se na předpoklady.
Pro společnosti, které se s touto povinností setkávají poprvé, je užitečné nejprve určit, které systémy AI se v organizaci používají a kdo je používá. Tento přehled je často chybějícím výchozím bodem, ne samotné poučení. V znalostní bázi podle tématu je vypracováno, jak se tato povinnost vztahuje k ostatním částem nařízení, jako je klasifikace rizika systému.
Kdo provádí kontrolu
V Nizozemsku je dohled nad nařízením o AI svěřen dohledovým orgánům, které se mohou lišit podle sektoru a typu povinnosti; který dohledový orgán je příslušný pro kterou oblast, zatím není pro každé téma zcela jasně vymezeno. Na úrovni EU existuje kromě toho koordinace mezi členskými státy. Pro aktuální stav věcí vás odkazujeme na samotný příslušný dohledový orgán, nikoli na naše vlastní interpretace toho, kdo má jakou pravomoc.
Dohledový orgán se může zeptat na zdůvodnění: jaké systémy AI se používají, kdo s nimi pracuje a jak byli tito zaměstnanci připraveni. Bez jakéhokoli záznamu je to obtížné prokázat, i když se v praxi věnuje opravdu pozornost. Záznam tedy není pouze otázkou odškrtnutí povinnosti, ale také schopnosti vysvětlit, co bylo uděláno.
Jaké důsledky mohou nastat
Nařízení o AI předviduje systém vymáhání s možnými sankcemi, ale jejich výše a forma závisí na povaze a závažnosti porušení a na posouzení, které v konkrétním případě učiní dohledový orgán. Odhad pravděpodobnosti, že bude konkrétní společnost kontrolována, nebo výše případné sankce, nemůžeme poskytnout a není to ani naší prací; to leží v kompetenci dohledového orgánu a, pokud jde o výklad textu, právníka.
Vedle kontrolního postupu existují důsledky, které jsou méně viditelné, ale v praxi se vyskytují často: objednávající, který v soutěži zadavatelů ptá na řešení AI-gramotnosti, pojišťovna, která se na ni ptá u pojistného nároku související se systémem AI, nebo zaměstnanci, kteří si nejsou jisti, co může a co nesmí systém AI rozhodovat. Ten poslední se také týká účasti zaměstnanců: při zavedení nového systému AI může mít podnikový vrchní orgán roli, mimo závazku k zajišťování AI-gramotnosti samotného.
Co můžete dělat
Dobrým výchozím bodem je vytvoření přehledu systémů AI, které se v podniku používají, kdo s nimi pracuje a jaká úroveň rizika s tím souvisí. Na základě toho lze určit, jaká forma informování je vhodná, a nemusí to být složité. Se několika otázkami si udělejte představu o tom, kde se váš podnik nachází často poskytuje již dostatečné směrodatné údaje k určení dalšího kroku.
Pro ty, kteří chtějí vědět, jak si to ostatní podnikatelé pohrádají, nebo které otázky se často objevují, je sbírka často kladených otázek logickým výchozím bodem. A kdo zvažuje, aby se to strukturálně zavedlo, může se zaregistrovat s obchodním účtem aby na základě požadavku sledoval, co už je vyřešeno a co ještě vyžaduje pozornost.
Tento popis je určen k výkladu povinnosti, nikoli k posouzení, zda váš podnik podmínky splňuje. Pro toto posouzení a pro výklad oficiálního textu na vaši situaci je právník nebo příslušný dozorčí orgán správným kontaktním místem.
Chcete si nejdřív sami vytvořit představu o tom, kde se váš podnik nachází? Bezplatná rychlá kontrola poskytuje první orientaci, a v databázi znalostí najdete témata, která se zde často vyskytují dohromady, od zaměstnanců a AI až po smlouvy s vašimi dodavateli.