Jeśli Wasza firma korzysta z systemów sztucznej inteligencji i nie podjęliście żadnych kroków, aby pracownicy pracujący z nimi posiadali wystarczającą wiedzę, brakuje Wam zobowiązania nałożonego przez rozporządzenie w sprawie sztucznej inteligencji na dostawców i użytkowników systemów sztucznej inteligencji. Rozporządzenie określa to mianem umiejętności w zakresie sztucznej inteligencji: pracownicy muszą wystarczająco rozumieć, co robi system sztucznej inteligencji, jakie są jego ograniczenia i jakie ryzyko z nim wiąże, odpowiednio do ich funkcji. Jeśli tych kroków nie podejmiecie, firma ryzykuje, że nie będzie w stanie wykazać, że wypełnia to zobowiązanie w momencie, gdy organ nadzoru to zbada.
Jakie konkretnie konsekwencje to za sobą niesie, zależy od sytuacji: o jaki system sztucznej inteligencji chodzi, jaką rolę pełni firma i co organ nadzoru stwierdzi podczas kontroli. Nie można udzielić ogólnej wypowiedzi na temat kar pieniężnych ani ustalić stałego podejścia organów nadzoru, i to nie jest celem niniejszego artykułu. Możliwe jest jednak opisanie, na czym zobowiązanie polega, kto nad nim czuwa i jakie rodzaje konsekwencji sam rozporządzenie umożliwia.
Na czym dokładnie polega zobowiązanie
Rozporządzenie w sprawie sztucznej inteligencji rozróżnia różne role: kto opracowuje lub wprowadza na rynek system sztucznej inteligencji oraz kto go wykorzystuje w ramach własnej organizacji. W obu rolach obowiązuje forma zobowiązania do zapewnienia wystarczającej wiedzy pracownikom pracującym z systemem lub oceniającym jego wyniki. Nie oznacza to automatycznie szkolenia dla wszystkich; rozporządzenie pozostawia miejsce na podejście dostosowane do funkcji, doświadczenia pracownika i ryzyka związanego z używanym systemem. To, co jest dokładnie wystarczające, nie jest wyrażone w liczbach ani godzinach w samym rozporządzeniu, dlatego rozsądne jest, w przypadku wątpliwości, zapoznanie się z oficjalnym tekstem zamiast polegania na założeniach.
Dla firm, które po raz pierwszy mają do czynienia z tym zobowiązaniem, pomocne jest najpierw określenie, które systemy sztucznej inteligencji są wykorzystywane w organizacji i przez kogo. To zestawienie jest często brakującym punktem wyjścia, a nie sama informacja. W bazie wiedzy per temat opisano, jak zobowiązanie to kształtuje się w stosunku do innych części rozporządzenia, takich jak klasyfikacja ryzyka systemu.
Kto sprawuje nadzór
W Holandii nadzór nad rozporządzeniem w sprawie sztucznej inteligencji powierzono organom nadzoru, które mogą się różnić w zależności od sektora i rodzaju zobowiązania; które organy nadzoru są uprawnione do jakich kwestii, w chwili obecnej nie zostało jeszcze całkowicie ustalone dla każdego tematu. Na poziomie UE istnieje ponadto koordynacja między państwami członkowskimi. Aby uzyskać aktualne informacje, odsyłamy do właściwego organu nadzoru, a nie do naszych własnych interpretacji, kto za co odpowiada.
Organ nadzoru może żądać uzasadnienia: jakie systemy sztucznej inteligencji są używane, kto z nimi pracuje i w jaki sposób pracownicy ci zostali przygotowani. Bez jakiejkolwiek dokumentacji trudno to wykazać, nawet jeśli w praktyce faktycznie poświęcono temu uwagę. Dokumentacja nie jest zatem jedynie kwestią zaznaczenia wypełnionego zobowiązania, ale również możliwością wyjaśnienia, co zostało zrobione.
Jakie konsekwencje mogą wyniknąć
Rozporządzenie w sprawie sztucznej inteligencji przewiduje system egzekwowania z możliwymi sankcjami, jednak ich wysokość i forma zależą od charakteru i powagi naruszenia oraz od oceny dokonanej przez organ nadzoru w konkretnym przypadku. Nie możemy oszacować prawdopodobieństwa, że konkretna firma będzie kontrolowana, ani wysokości ewentualnej sankcji, i to również nie jest naszym zadaniem; należy to do organu nadzoru i, jeśli chodzi o interpretację tekstu, do pracownika prawnego.
Poza ścieżką nadzoru istnieją konsekwencje, które są mniej widoczne, ale w praktyce zdarzają się częściej: zamawiający, który w postępowaniu przetargowym pyta, jak regulowana jest umiejętność obsługi sztucznej inteligencji, ubezpieczyciel pytający o to w przypadku roszczenia z tytułu szkody związanej z systemem sztucznej inteligencji, lub pracownicy, którzy nie mają pewności, co system sztucznej inteligencji może i nie może decydować. To ostatnie dotyczy również współdecydowania: podczas wdrażania nowego systemu sztucznej inteligencji rada pracowników może odgrywać rolę, niezależnie od samego obowiązku umiejętności obsługi sztucznej inteligencji.
Co możesz zrobić
Dobrym punktem wyjścia jest sporządzenie przeglądu systemów sztucznej inteligencji używanych w firmie, kto z nimi pracuje i jaki poziom ryzyka się z tym wiąże. Na tej podstawie można określić, jaka forma informacji jest właściwa, i niekoniecznie musi to być skomplikowane. Wraz z kilka pytań, aby uzyskać wskazanie, gdzie stoi Twoja firma często już wystarczy, aby określić następny krok.
Dla tych, którzy chcą wiedzieć, jak inni przedsiębiorcy to podchodzą, lub jakie pytania się często powtarzają, zestawienie часто zadawanych pytań jest logicznym punktem wyjścia. A ci, którzy rozważają ustalenie tego strukturalnie, mogą zarejestrować się za pomocą konta biznesowego aby śledzić dla każdego obowiązku, co już zostało rozwiązane, a co wymaga jeszcze uwagi.
Opis ten ma na celu wyjaśnienie obowiązku, a nie ocenę, czy Twoja firma mu zadość czyni. W celu tej oceny oraz wyjaśnienia tekstu oficjalnego do Twojej sytuacji właściwym punktem kontaktowym jest prawnik lub właściwy organ nadzoru.
Czy chcesz najpierw sam uzyskać orientację, gdzie stoi Twoja firma? Bezpłatna szybka ocena daje wstępną wskazówkę, a w bazie wiedzy znajdziesz tematy, które tutaj często się przeplatają, od personelu i sztucznej inteligencji po umowy z dostawcami.