A szoftvárszállítóval folytatott beszélgetésben leggyakrabban elkövetett hiba az AI-ról az, hogy a vállalatok megelégednek egy rövid választ egy helytelen kérdésre. A kérdés így hangzik: 'használ-e AI az Ön rendszere?', a szállító válasza 'nem' vagy 'egy kicsit, de az ártalmatlan', és ennyi. Senki nem rögzíti, hogy pontosan mi volt a kérdés, mit tartalmazott a válasz, és van-e erre valamilyen alapja.
Ez a hiba elkerülhető, ha másképpen szervezi meg a beszélgetést: nem igen-vagy-nem kérdésként, hanem az indoklásra irányuló kérdésként. Mit csinál pontosan a rendszer, milyen döntéseket hoz vagy támogat, és milyen alapon állítja a szállító, hogy ez bem vagy igen tartozik az AI-rendelet hatálya alá. Ez a választ írásban rögzíti, nem azért, mert szórakozásból teszi, hanem azért, mert később bizonyítania kell, hogy milyen kérdést intézett fel és milyen választ kapott.
Miért gyakran félremegy ez a beszélgetés
A szoftvárszállítóval folytatott beszélgetés általában egy fiókmenedzser vagy ügyfélszolgálat közvetítésével zajlik, nem azzal, aki ismeri az AI-rendeletet. Ez a személy szívesen megnyugtat, és egy rövid megnyugtatás gyorsabban megadható, mint egy pontos válasz. Emellett sok szoftver olyan AI-funkciókat tartalmaz, amelyeket egy mögöttes szállító épített be, például egy nyelvi modellt, amely külön részeként vásárolták meg. Az a fél, akivel beszél, gyakran nem tudja pontosan, hogy mi történik a motorháztető alatt.
Az eredmény az, hogy a vállalatok olyan választ kapnak, amely faktikusan igaz az azt adó személy számára, de nem teljes a termék felhasználásának helyzetében. a tudásbázisban keresni az Ön szoftvertípusára azt mutatja, hogy a rendelet különbséget tesz különböző szerepek és kockázatikategóriák között, és a 'ez AI' kérdésre adott válasz ritkán adható meg egyetlen szóval.
Hogyan néz ki a hiba a gyakorlatban
Egy telepítőcég egy olyan ütemezési csomagot szerez be, amely automatikusan ütemezi a karbantartási bejárásokat. A szállítónak feltett kérdés: 'van-e ebben AI', a válasz: 'nem, ez csak okos ütemezés'. Hat hónappal később kiderül, hogy az ütemezési funkciót egy előrejelző modellel bővítették, külön megbeszélés nélkül. A telepítőcég senki nem vette észre, mert az eredeti megnyugtatás véglegesnek tekintendő volt.
Ez a helyzet szemléltető, de nem kivételes: a szoftver változik, a szállítók frissítéseken keresztül adnak hozzá funkciókat, és az a válasz, amely az első pillanatban helyesnek bizonyult, a második pillanatban nem feltétlenül helyes már. Aki a beszélgetést egyszeri kérdésként folytat vissza térő témakör helyett, annak kockázata, hogy elavult választ használ továbbra is.
Mit tartanak fontosnak a felügyeleti szervek az ilyen beszélgetésekben
A felügyeleti szervek az ilyen kérdésekben általában az azonosíthatóságra néznek: bizonyítani tud-e egy vállalat, hogy milyen kérdést intézett fel, kihez, mikor, és milyen információ alapján adtak választ. Írott rögzítés nélküli szóbeli ígéret a felügyeleti szervezet számára nehéz megítélni, egyszerűen azért, mert nincs mit megítélni. Ez nem a válasz tartalmáról szóló ítélet, hanem a nyomvonal hiányáról.
Ezzel a hiba nem feltétlenül az, hogy a vállalat helytelen választ kap, hanem az, hogy a vállalat nem tudja bizonyítani, hogy feltette a kérdést és mit válaszoltak. A saját helyzetéhez és a pontosan szükséges dokumentáció kérdéséhez jogászhoz vagy a megfelelő felügyeleti szervezethez fordulunk.
Hogyan kerülheti el
Az első lépés a kérdés konkrétabbá tétele: nem az, hogy 'van-e AI', hanem az, hogy 'a rendszer mely részei hoznak vagy befolyásolnak egy döntést, és milyen technológián alapul ez'. A második lépés a válasz írásban történő megerősítése, például e-mailben vagy magában a szerződésben. A harmadik lépés a beszélgetés megismétlése minden nagyobb frissítéskor, nem csak az első beszerzéskor.
Számos cég alulbecsüli, hogy mennyi időt vesz igénybe ez, ha megfelelően beállítottak a dolgok: néhány fix kérdés, egy fix időpontja a frissítési folyamatban, és egy hely a válaszok tárolásához. Akinek nincs meg ez, egy első jelzéshez abból, ahol a saját szoftvere körülbelül tart, és az a legtöbbet ismételt kérdések ebben a témában képet kaphat arról, hogy mások ugyanebben a helyzetben mivel találkoznak.
Végül segít, ha előre meghatározza, hogy cége mely tagja végzi és követi nyomon ezt a beszélgetést. Egy telepítőcégnél gyakran maga a vezető, egy nagyobb irodában az IT- vagy beszerzésért felelős személy. Amíg ezt a szerepet nem töltik be, a szoftverszállítóval folytatott beszélgetés a véletlentől függ, és ez pont az elleső hiba forrása.
Szeretné tudni, hogy a saját szoftvere körülbelül hol tart, és mely kérdések relevánsak az Ön helyzetében? Végezzen el egy ingyenes gyorvizsgálatot, vagy olvasson az azon témákról, amelyek legközelebb vannak az Ön helyzetéhez a egy magyarázat arra, hogy hogyan állítjuk össze ezt az információt.