Najczęstszy błąd w rozmowie z dostawcą oprogramowania na temat sztucznej inteligencji polega na tym, że firmy zadowalają się krótką odpowiedzią na błędnie postawione pytanie. Pada pytanie "czy wasz system korzysta ze sztucznej inteligencji?", dostawca odpowiada "nie" lub "trochę, ale to nieszkodliwe", i na tym koniec. Nikt nie dokumentuje, jakie dokładnie pytanie zostało zadane, co znaczyła odpowiedź, i czy ta odpowiedź miała jakąś podstawę.
Tego błędu można uniknąć, zmieniając sposób przeprowadzenia rozmowy: zamiast pytania zamkniętego (tak lub nie), zadawaj pytania o uzasadnienie. Co dokładnie robi system, jakie decyzje podejmuje lub wspomaga, i na jakiej podstawie dostawca twierdzi, że to wchodzi lub nie wchodzi w zakres rozporządzenia dotyczącego sztucznej inteligencji. Tę odpowiedź dokumentujesz na piśmie, nie dla zabawy, lecz dlatego, że w późniejszym terminie musisz być w stanie wykazać, jakie pytanie zadałeś i jaką odpowiedź otrzymałeś.
Dlaczego ta rozmowa często nie powiada się dobrze
Rozmowa z dostawcą oprogramowania zwykle odbywa się za pośrednictwem menedżera konta lub helpdesku, a nie osoby znającej rozporządzenie dotyczące sztucznej inteligencji. Ta osoba chce Ci dać spokój, a krótkie zapewnienie daje się szybciej niż precyzyjna odpowiedź. Ponadto wiele oprogramowania zawiera funkcje sztucznej inteligencji wbudowane przez dostawcę pośredniego, na przykład model językowy zakupiony jako oddzielny komponent. Osoba, z którą się komunikujesz, często sama nie wie dokładnie, co się dzieje pod maską.
W rezultacie firmy otrzymują odpowiedź, która faktycznie jest prawidłowa dla osoby, która ją udziela, ale nie jest kompletna dla sytuacji, w której produkt jest używany. przeszukaj bazę wiedzy pod kątem Twojego typu oprogramowania pokazuje, że rozporządzenie różnicuje pomiędzy różnymi rolami i kategoriami ryzyka, i że odpowiedź na pytanie "czy to sztuczna inteligencja" rzadko można dać jednym słowem.
Jak ten błąd wygląda w praktyce
Firma instalacyjna nabywa pakiet planowania z funkcją, która automatycznie przydziela przeglądy konserwacyjne. Pytanie do dostawcy brzmi "czy jest tu sztuczna inteligencja", odpowiedź to "nie, to po prostu inteligentne planowanie". Sześć miesięcy później okazuje się, że funkcja planowania została rozszerzona o model predykcyjny, bez dodatkowej rozmowy na ten temat. Nikt w firmie instalacyjnej tego nie zauważył, ponieważ pierwotne zapewnienie zostało uznane za ostateczne.
Ta sytuacja jest ilustracyjna, ale nie wyjątkowa: oprogramowanie się zmienia, dostawcy dodają funkcje przez aktualizacje, a odpowiedź, która była prawidłowa w momencie pierwszym, nie musi nią być w momencie drugim. Kto przeprowadza rozmowę jako pytanie jednorazowe zamiast tematu powracającego, ryzykuje, że będzie nadal polegać na przestarzałej odpowiedzi.
Co urzędy regulacyjne uważają za ważne w tego rodzaju rozmowach
Urzędy regulacyjne zazwyczaj patrzą na możliwość śledzenia: czy firma może wykazać, jakie pytanie zadała, komu, kiedy i na jakiej podstawie została udzielona odpowiedź. Ustna obietnica bez dokumentacji jest dla urzędu regulacyjnego trudna do oceny, po prostu dlatego, że nie ma nic do oceny. To nie jest ocena treści odpowiedzi, ale brak dokumentacji.
Tym samym błąd nie musi polegać na tym, że firma otrzyma błędną odpowiedź, lecz na tym, że nie może wykazać, że pytanie zadała i jaka była odpowiedź. W kwestii własnej sytuacji i pytania, jaka dokumentacja dokładnie jest potrzebna, kierujemy Cię do prawnika lub właściwego urzędu regulacyjnego.
Jak tego uniknąć
Pierwszym krokiem jest sformułowanie pytania bardziej konkretnie: nie "czy to AI", ale "które części tego systemu podejmują lub wpływają na decyzję i na jakiej technice to jest oparte". Drugim krokiem jest uzyskanie pisemnego potwierdzenia odpowiedzi, na przykład za pośrednictwem poczty elektronicznej lub samej umowy. Trzecim krokiem jest powtórzenie rozmowy przy każdej większej aktualizacji, nie tylko przy pierwszym zakupie.
Wiele firm niedocenia ile czasu to zajmuje, gdy tylko zostanie prawidłowo skonfigurowane: kilka stałych pytań, stały moment w procesie aktualizacji i miejsce do przechowywania odpowiedzi. Kto tego nie ma, może na podstawie za pomocą kilku pytań uzyskać pierwsze wskazanie informacji o tym, gdzie znajduje się jego własne oprogramowanie, oraz z najczęściej zadawanych pytań na ten temat uzyskać obraz tego, co napotykają inne firmy w podobnej sytuacji.
Na koniec warto wcześniej określić, kto w Twojej firmie przeprowadza i śledzi tę rozmowę. W przedsiębiorstwie zajmującym się instalacją jest to często sam dyrektor, w większym biurze odpowiedzialny za IT lub zakupy. Dopóki ta rola nie zostanie przydzielona, rozmowa z dostawcą oprogramowania pozostaje zależna od przypadku, a to dokładnie skąd pochodzi najczęściej popełniany błąd.
Chcesz wiedzieć, gdzie znajduje się Twoje oprogramowanie i które pytania są istotne dla Twojej sytuacji? Wykonaj bezpłatny quick-scan lub przeczytaj tematy, które są najbliższe Twojej sytuacji poprzez wyjaśnienie sposobu, w jaki zbieramy te informacje.