Jaki błąd najczęściej popełniają firmy w umowach zakupowych dotyczących systemów AI
Najczęstszy błąd polega na tym, że firma kupuje system AI bez określenia w umowie, kto pełni jaką rolę: dostawca czy odbiorca. Wiele umów zakupowych dotyczących oprogramowania zostało sporządzonych lata temu, przed rozporządzeniem w sprawie AI, i dotyczą licencji, aktualizacji i wsparcia. Nic w nich nie mówi o klasyfikacji ryzyka, o tym kto dostarcza instrukcje użytkownika, ani o tym co się dzieje, jeśli dostawca sam modyfikuje oprogramowanie, dodając nowe funkcje AI.
Konsekwencją jest to, że firma przy zakupie systemu zakłada, że dostawca "już to wszystko załatwił", podczas gdy rozporządzenie w sprawie AI rozróżnia między dostawcą systemu AI a odpowiedzialnym za użytkowanie, który wdraża system w ramach własnej organizacji. Te dwie role mogą się pokrywać, ale nie muszą. Bez wyraźnej umowy w umowie pozostaje niejasne, kto ponosi jakie zobowiązania w momencie, gdy to naprawdę się liczenie.
Dlaczego to dzieje się częściej niż się spodziewamy
Działy zakupów i menedżerowie IT tradycyjnie patrzą na funkcjonalność, cenę i bezpieczeństwo. To również logiczne: do niedawna były to najważniejsze kwestie przy zakupie oprogramowania. Rozporządzenie w sprawie AI dodaje do tego warstwę, która nie trafia naturalnie do istniejących procesów zakupowych, po prostu dlatego, że nikt w zespole zakupów nie jest przyzwyczajony do zadawania tego pytania. Dostawca, od którego nie pyta się wyraźnie o jego rolę, rzadko dostarczy tę informację z własnej inicjatywy.
Drugi powód to fakt, że wiele funkcjonalności AI trafia teraz w oprogramowanie poprzez aktualizacje, bez zawierania nowej umowy. Program księgowy otrzymuje asystenta AI, narzędzie planowania otrzymuje automatyczne propozycje rozkładów jazdy. Umowa pierwotna nie obejmuje tej funkcji, a nikt nie sprawdza wstecz, czy warunki są jeszcze zgodne z tym, co system teraz robi.
Co się dzieje w praktyce
Błąd zwykle ujawnia się dopiero w momencie, gdy firma musi coś wykazać: gdy pyta o to organ nadzorczy, podczas audytu klienta, lub po prostu dlatego, że rada pracowników pyta, jak powstała aplikacja AI. Okazuje się wtedy, że nie ma dokumentacji dotyczącej klasyfikacji systemu, nie ma osoby kontaktowej u dostawcy w tym temacie, i nie ma umownej umowy o tym, kto dostarcza jakie informacje, gdy oprogramowanie się zmienia.
Ponadto kwestia danych osobowych jest często traktowana oddzielnie od kwestii AI, podczas gdy w praktyce często się pokrywają. Umowa przetwarzania danych w ramach RODO reguluje coś innego niż kwestia jaką rolę ma strona zgodnie z rozporządzeniem w sprawie AI; jedna nie zastępuje drugiej.
Jak uniknąć tego w nowej umowie
Najbardziej praktycznym krokiem jest przeprowadzenie rozmowy z dostawcą wcześnie w procesie zakupowym, a nie później. Wyraźnie zapytaj, jaką rolę przypisuje sobie dostawca, jaka dokumentacja towarzyszy systemowi, i co jest umownie ustalone dotyczące zmian funkcjonalności AI w trakcie trwania umowy. Dokumentuj te odpowiedzi, nawet jeśli odpowiedź na razie jest niekompletna: dostawca, który nie może podać jasności, jest również warte udokumentowania.
Pomaga to oddzielić to pytanie od zwykłej listy kontrolnej zakupowej dotyczącej ceny i funkcjonalności, właśnie dlatego, że te dwa tematy oceniają różne osoby w organizacji. Kto traktuje to jako odrębny punkt uwagi, unika sytuacji, gdy coś wypada między dwie krzesła. W bazie wiedzy dla każdego tematu znajduje się przegląd pytań, które często pojawiają się w takich rozmowach, pogrupowane według fazy, w której znajduje się firma.
Przegląd istniejących umów
W przypadku umów bieżących zaleca się ponownie zadać te same pytania przy następnej zmianie umowy, przedłużeniu lub powiadomieniu o aktualizacji. Umowę nie trzeba od razu otwierać, ale notatka przy następnym kontakcie z dostawcą zapobiega temu, że temat będzie leżał przez lata. Przedsiębiorstwa, które nie wiedzą, gdzie się aktualnie znajdują, mogą w kilku pytaniach otrzymać pierwsze wskazanie jakie tematy są istotne dla ich sytuacji.
To, czy i jak konkretną umowę należy zmienić oraz jaka odpowiedzialność się z tym wiąże, to pytanie dla prawnika lub, w przypadku pytań dotyczących nadzoru, właściwego organu nadzoru. Ten artykuł opisuje jedynie to, gdzie błąd zwykle powstaje, a nie jakie dostosowanie jest właściwe dla Twojej własnej umowy.
Często zadawane pytania dotyczące tego rodzaju kwestii zakupowych, w tym pytania, które już zadali inni czytelnicy, są zbierane na stronie z najczęściej zadawanymi pytaniamiJeśli chcesz najpierw sam uzyskać wgląd w to, gdzie stoi Twoja organizacja, wykonaj bezpłatną szybką skanowanie lub przejrzyj tematy w bazie wiedzy; oba są dostępne bez zobowiązań.