Milyen hibát követnek el leggyakrabban a vállalatok az AI-rendszerekre vonatkozó beszerzési szerződésekben
A leggyakoribb hiba az, hogy egy vállalat AI-rendszert vásárol anélkül, hogy a szerződésben rögzítené, hogy ki milyen szerepet játszik: a szállító vagy a megrendelő. Sok szoftverre vonatkozó beszerzési szerződés évekkel ezelőtt készült, jóval az AI-rendelet előtt, és licencekről, frissítésekről és támogatásról szólnak. Nem tartalmaznak információt a kockázatbesorolásról, arról, hogy ki szolgáltatja a használati utasításokat, vagy arról, hogy mi történik, ha a szállító saját maga módosítja a szoftvert új AI-funkciókat adva hozzá.
Ennek eredménye, hogy egy vállalat a beszerzéskor abból indul ki, hogy a szállító "már intézkedett", miközben a rendelet különbséget tesz az AI-rendszer szolgáltatója és a használati felelős között, aki az adott szervezetben alkalmazza a rendszert. Ez a két szerep összeeshet, de nem szükséges. Anélkül, hogy a szerződésben explicit megállapodás lenne, homályos marad, hogy kire milyen kötelezettség hárul abban a pillanatban, amikor ez valóban számít.
Miért fordulnak elő ezek a problémák gyakrabban, mint várható lenne
A beszerzési osztályok és az IT-menedzserek hagyományosan a funkcionalitásra, az árra és a biztonságra koncentrálnak. Ez érthető is: az utóbbi időig ezek voltak a szoftverbeszerzés legfontosabb kérdésai. Az AI-rendelet egy olyan réteget ad hozzá, amely nem kerül automatikusan a meglévő beszerzési folyamatokba, egyszerűen azért, mert a beszerzési csapatban senki sem szokott ezt a kérdést feltenni. Az a szállító, akit nem kérnek meg kifejezetten a saját szerepére, ritkán nyújt be ilyen információt saját kezdeményezésből.
A második ok az, hogy sok AI-funkció ma már a meglévő szoftverekbe kerül frissítéseken keresztül, anélkül, hogy új szerződés lenne létrehozva. Egy könyvelési csomag kap egy AI-asszisztenst, egy tervezési eszköz automatikus műszakjavaslatokat kap. Az eredeti szerződés nem vonatkozik erre a funkcióra, és senki sem ellenőrzi utólag, hogy a feltételek még megfelelőek-e ahhoz, amit a rendszer mostanra tesz.
Mi megy félre a gyakorlatban
A hiba általában csak akkor mutatkozik meg, amikor egy vállalkozásnak magának kell valamit igazolnia: egy felügyeleti hatóság kérdésére válaszolva, egy ügyfél auditjában, vagy egyszerűen csak azért, mert a vállalatvezetési tanács azt kérdezi, hogyan jött létre egy mesterséges intelligencia-alkalmazás. Ekkor kiderül, hogy nincs dokumentáció a rendszer osztályozásáról, nincs kapcsolattartó a szállítónál erről a témáról, és nincs szerződéses megállapodás arról, hogy ki milyen információkat szállít, amikor a szoftver megváltozik.
Ráadásul a személyes adatokra vonatkozó kérdést gyakran a mesterséges intelligenciával kapcsolatos kérdéstől függetlenül kezelik, pedig a gyakorlatban gyakran egybevágnak. Az GDPR keretében létrejövő adatfeldolgozási megállapodás másról szól, mint az, hogy egy fél milyen szerepet játszik a mesterséges intelligenciáról szóló rendelet értelmében; az egyik nem helyettesíti a másikat.
Hogyan kerülje el ezt egy új szerződéskor
A legpraktikusabb lépés az, hogy a szállítóval való beszélgetést korán, a beszerzési folyamat során folytatják, nem utólag. Kérdezze meg egyértelműen, milyen szerepet tulajdonít magának a szállító, milyen dokumentáció tartozik a rendszerhez, és mit rögzítettek szerződésben az AI-funkcionalitás módosításairól a szerződés futamideje alatt. Rögzítse ezeket a válaszokat, még ha a válasz jelenleg még hiányos is: egy olyan szállító, aki még nem tud egyértelműséget adni, szintén érdemesnek bizonyul dokumentálásra.
Segít, ha ezt a kérdést elkülönítik a szokásos beszerzési ellenőrzőlistáról az ár és a funkcionalitás tekintetében, éppen azért, mert ezt a két témát a szervezet különböző tagjai értékelik. Aki ezt külön figyelempontként kezeli, megelőzi, hogy az elbukjon. A a témaonkénti tudásbázisban megtalálható az olyan kérdések áttekintése, amelyek ilyen beszélgetésekben gyakran előfordulnak, a szervezet fejlődési szakaszához sorrendbe rendezve.
Meglévő szerződések áttekintése
A folyamatban lévő szerződések esetében ajánlott az első szerződésmódosítás, meghosszabbítás vagy frissítésértesítés alkalmával ismét feltenni ugyanezeket a kérdéseket. A szerződést nem kell azonnal megbontani, de egy feljegyzés a szállítóval való következő kapcsolattartási alkalmával megelőzi, hogy a téma még évekig függőben maradjon. Azok a vállalatok, amelyek nem tudják, jelenleg hol állnak, néhány kérdésben kezdeti jelzést kaphat mely témakörök relevánsak a helyzetükre.
Az, hogy egy adott szerződést módosítani kell-e, és milyen felelősség társul hozzá, egy jogász vagy a felügyelettel kapcsolatos kérdések esetén a hatáskörrel rendelkező felügyelet feladata. Ez a cikk csak azt írja le, ahol a hiba általában keletkezik, nem pedig azt, hogy az Ön saját szerződésében milyen a helyes módosítás.
Az ehhez hasonló beszerzési kérdésekre vonatkozó gyakran ismételt kérdések, beleértve azokat a kérdéseket is, amelyeket más olvasók már feltettek, az a gyakran ismételt kérdésekről szóló oldalonhelyen vannak összegyűjtve. Ha először saját képen szeretne képet kapni arról, hol áll szervezete, végezze el az ingyenes gyorsértékelést, vagy lapozza át a tudásbázisban szereplő témákat; mindkettő ingyenesen és kötelezettségmentesen elérhető.