Ano, základní posouzení klasifikace rizika si jako podnik můžete sami provést. Nařízení o AI pracuje s kategoriemi: od systémů, které jsou zakázány, přes systémy s vysokým rizikem a systémy s omezenými povinnostmi transparentnosti, až po systémy, pro které platí téměř žádné požadavky. Pro mnoho aplikací v běžné firmě MSP — chatbot na webových stránkách, filtr přihlášek, plánovací nástroj — je možné určit, do které kategorie věc pravděpodobně patří, a to na základě textu nařízení a trochy vlastního průzkumu.
Hranice se objevuje v okamžiku, kdy toto posouzení zůstává nejisté, nebo když výsledkem je, že systém může mít vysoké riziko. Od tohoto bodu nejde již o prostou otázku čtení textu, ale o posudek, který má důsledky pro povinnosti, dokumentaci a odpovědnost. Tento posudek si sami definitivně neurčujete; k tomu je právní porada nebo koordinace s dohledovacím orgánem tím správným způsobem.
Co přesně znamená klasifikace rizika
Nařízení o AI rozlišuje systémy umělé inteligence ne podle toho, jak pokročilé jsou, ale podle toho, co dělají a kdo je jimi postižen. Systém, který spolurozhoduje o přijetí do zaměstnání, půjčce nebo zkoušce, spadá do jiné kategorie než systém, který pouze shrnuje text. Klasifikace tedy závisí na aplikaci, nikoli na technologii za ní. To také znamená, že stejný typ softwaru je v jedné firmě zařazen jinak než v druhé, v závislosti na tom, k čemu se používá.
Z tohoto důvodu je klasifikace nikdy pouze vlastností produktu. Jde o kombinaci produktu, účelu použití a kontextu, ve kterém se používá. Každý, kdo si systém koupí nebo objedná od dodavatele, by měl dobrou praxi vyzkoušet tím, že se dodavatele zeptá, jak sám klasifikaci posuzuje, a právě tato konverzace je místem, kde mnoho firem dělá první krok. důležité pojmy z nařízení o AI si v klidu přečíst pomáhá vědět, jaké otázky k nim patří.
Co si rozumně sami můžete dovolit
Zhotovit si první, dočasné posouzení je pro většinu firem dobře zvládnutelné. Začíná to přehledem: které systémy umělé inteligence se ve vaší firmě používají, k čemu a kdo na jejich základě rozhoduje — člověk nebo sám systém? U systémů, které se jasně neblíží vysokému riziku, jako jsou interní nástroje pro opravu textu nebo plánování bez důsledků pro jednotlivce, je toto první posouzení často dostatečnou základnou pro další práci.
Pomáhá tento přehled napsat na papír, i když je dočasný. Krátký dokument obsahující pro každý systém aplikaci, dodavatele a dočasné posouzení poskytuje oporu pro následující rozhovor s poradcem nebo pro otázku dohledovacího orgánu. v několika otázkách vidíte, kde se váš systém patrně nachází dává indikaci, se kterou můžete svůj přehled začít, aniž by to byl konečný závěr.
Kdy je vhodné vyhledat pomoc
Jakmile se systém dotýká rozhodnutí o lidech — přijetí do zaměstnání, propuštění, úvěr, přístup ke službě — nebo když existuje pochybnost, zda systém spadá do kategorie vysokého rizika, je čas jít dál než vlastní posouzení. To platí také v případě, kdy sám dodavatel neposkytne jasnost ohledně klasifikace systému, který si vezmete, nebo když se systém používá ve více zemích s mírně odlišnou aplikací pravidel.
Právník nebo specializovaný poradce se pak nedívá pouze na text nařízení, ale také na to, jak byly podobné případy dosud hodnoceny, a na přesný kontext vaší společnosti. To je něco jiného než obecná indicace, a právě tento rozdíl je důvodem, proč je vlastní posouzení počátečním bodem a nikoli konečným bodem.
Zaznamenání toho, co jste si ověřili
Bez ohledu na to, zda to děláte sami nebo si najmete pomoc, je rozumné zaznamenat kroky, které jste podnikli: které systémy byly zkoumány, na základě jakých informací a kdy. To není jen příjemné pro vás samotné, je to také to, co kontrolující orgán požaduje, pokud kdy vznikne nejasnost. Odpovědi na často kladené otázky týkající se tohoto typu tvorby dokumentace naleznete na stránce s nejčastěji kladenými otázkami o nařízení o AI.
Chcete vědět, odkud tento druh informací pochází a jak jsme je na elektropas.com uchovávají? Přečtete si to na stránce, která vysvětluje, jak naše informace vznikají. Vlastní posouzení je dobrým začátkem, ale nenahrazuje poradenství, jakmile se výsledek orientuje na vysoké riziko nebo zůstane nejistý.
Zvědaví jste, jak na tom přibližně stojí vaše vlastní systémy? Proveďte bezplatný rychlý scan nebo si prohlédněte témata v naší znalostní bázi a podívejte se, které otázky se hodí k vaší situaci.