Ако вашата компания работи с AI системи и не сте предприели мерки за осигуряване на достатъчни знания на сътрудниците, които работят с тях, това означава, че нарушавате задължение, което наредбата за AI налага на доставчиците и потребителите на AI системи. Наредбата нарича това AI грамотност: сътрудниците трябва да разберат достатъчно какво прави AI системата, какви са границите и какви рискове са свързани с нея, в съответствие с техните функции. Ако липсва такава мярка, компанията рискува да не може да докаже на надзорни органи, че отговаря на това задължение в момента, когато те го поискат.
Какви конкретни последствия ще имате, зависи от ситуацията: за коя AI система се касае, каква роля има компанията и какво ще намери надзорният орган при проверка. Невъзможно е да се даде обобщена преценка за глоби или фиксиран подход на надзорните органи, и това също не е целта на тази статия. Възможно е да се опише какво означава задължението, кой го надзирава и какви видове последствия самата наредба допуска.
Какво означава задължението
Наредбата за AI правит разлика между различни роли: кой разработва или пуска на пазара AI система и кой я използва в своята организация. За двете роли важи форма на задължението да се осигури достатъчна подготовка на персонала, който работи със системата или оценява резултатите. Това не означава автоматично обучение за всички; наредбата оставя пространство за подход, който се съответства на функцията, опита на сътрудника и риска на използваната система. Какво точно е достатъчно, не е изложено в цифри или часове в самата наредба, и поради това е разумно при съмнение да консултирате официалния текст, вместо да разчитате на предположения.
За компании, които се сблъскват със това задължение за първи път, помага първо да определят кои AI системи се използват в организацията и от кого. Това преглед е често липсващата отправна точка, не самото обучение. В базата знания по предмет е подробно описано как това задължение се отнася към други части на наредбата, като например класификацията на риска на система.
Кой осъществява надзор
В Нидерландия надзорът над наредбата за AI е възложен на надзорни органи, които могат да варират по сектор и по вид задължение; кой надзорен орган е компетентен за кой раздел, в момента все още не е напълно дефиниран за всяка тема. На ниво ЕС има координация между държавите членки. За актуална информация препращаме към самия компетентен надзорен орган, не към собствени тълкувания на това кой за какво отговаря.
Надзорният орган може да поиска обосновка: кои AI системи се използват, кой работи с тях и как тези сътрудници са подготвени. Без никакъв записан докумен е трудно да се докаже, дори ако в практиката наистина се е обърнало внимание. Документацията не е само въпрос на галочка за изпълнено задължение, но и въпрос на възможност да обясните какво е направено.
Какви последствия могат да възникнат
Наредбата за AI предвижда система за контрол с възможни санкции, но степента и формата им зависят от характера и тежестта на нарушението и от преценката, която надзорният орган прави в конкретния случай. Не можем да дадем оценка на вероятността конкретна компания да бъде проверена или на размера на възможна санкция, и това също не е наша работа; това е работата на надзорния орган и при тълкуване на текста – на правник.
Освен надзорния маршрут, има последствия, които са по-малко видими, но на практика са по-чести: възложител, който при обществена поръчка пита как е уредена грамотността по AI, застраховател, който я пита при претенция за обезщетение, свързана със система AI, или служители, които са несигурни какво може и не може да решава една система AI. Последното се отнася и до участието на служителите: при внедряването на нова система AI служебният съвет може да има роля, независимо от самото задължение за грамотност по AI.
Какво можете да направите
Добрата начална точка е да направите преглед на системите AI, които се използват в компанията, кой с тях работи и какво ниво на риск е свързано с това. На тази основа е възможно да се определи каква форма на информиране е подходяща, и това не трябва да бъде сложно. С няколко въпроса получите указание за това в какво състояние е вашата компания често вече е достатъчно, за да определите следващата стъпка.
За тези, които искат да знаят как други предприемачи подхождат на това, или какви въпроси често се повтарят, сборник от често задавани въпроси е логична начална точка. А тези, които обмислят да документират това структурирано, могат да се регистрират с търговски акаунт за да следят за всяко задължение какво е вече уредено и какво все още изисква внимание.
Това описание е предназначено да уточни задължението, не да преценява дали вашата компания го изпълнява. За тази преценка и за обяснението на официалния текст на вашата ситуация, юристът или компетентният надзорен орган е правилния контакт.
Желаете ли първо сами да получите представа за състоянието на вашата компания? Безплатното бързо сканиране дава първоначално указание, а в базата от знания намирате темите, които обикновено се играят заедно, от персонала и AI до договорите с вашите доставчици.