Akú chybu podniky najčastejšie robia v zmluvách na nákup systémov umelej inteligencie
Najčastejšou chybou je, že podnik si kúpi systém AI bez toho, aby v zmluve stanovil, kto má ktorú úlohu: dodávateľ alebo kupujúci. Mnoho zmlúv na nákup softvéru bolo vypracovaných pred rokmi, oveľa skôr ako nariadenie o AI, a zaoberajú sa licenciami, aktualizáciami a podporou. Hovoria nič o klasifikácii rizika, o tom, kto dodáva návody na použitie, alebo o tom, čo sa stane, ak dodávateľ sám upraví softvér s novými funkciami AI.
Výsledkom je, že podnik pri nákupe predpokladá, že dodávateľ "to má už vyriešené", zatiaľ čo nariadenie rozlišuje medzi poskytovateľom systému AI a používateľom, ktorý nesie zodpovednosť a nasadzuje systém v rámci svojej vlastnej organizácie. Tieto dve úlohy sa môžu zhodovať, ale nemusia. Bez explicitnej dohody v zmluve zostáva nejasné, na kom leží ktorá povinnosť v momente, keď je to naozaj dôležité.
Prečo sa to stáva často ako sa očakáva
Nákupné oddelenia a IT manažéri sa historicky pozerajú na funkčnosť, cenu a bezpečnosť. To je tiež logické: až do nedávna to boli najdôležitejšie otázky pri nákupe softvéru. Nariadenie o AI pridáva vrstvu, ktorá sa automaticky nedostane do existujúcich nákupných procesov, jednoducho preto, že nikto v nákupnom tíme nie je zvyknutý túto otázku položiť. Dodávateľ, ktorý nie je explicitne požiadaný o svoju úlohu, zriedka poskytne tieto informácie bez výzvy.
Druhým dôvodom je, že veľa funkcií AI sa dnes dostáva prostredníctvom aktualizácií do existujúceho softvéru bez uzavretia novej zmluvy. Účtovný softvér dostane AI asistenta, plánovací nástroj dostane automatické návrhy rozvrhu. Pôvodná zmluva túto funkciu nepokrýva a nikto následne nepreverí, či sú podmienky stále vhodné pre to, čo systém medzitým robí.
Čo sa v praxi pokazí
Chyba sa zvyčajne prejavi až v momente, keď si musí podnik niečo sám dokázať: pri otázke dohľadného orgánu, pri audite zákazníka, alebo jednoducho preto, že odborný zástupcovia zamestnancov pýtajú, ako vznikla aplikácia umelej inteligencie. Potom sa ukáže, že neexistuje žiadna dokumentácia o klasifikácii systému, žiadna kontaktná osoba u dodávateľa na túto tému a žiadna zmluvná dohoda o tom, kto dodá aké informácie v prípade zmeny softvéru.
Okrem toho sa otázka týkajúca sa osobných údajov často riešia oddelene od otázky týkajúcej sa umelej inteligencie, hoci sa v praxi často prekrývajú. Spracovateľská zmluva v rámci GDPR upravuje niečo iné ako otázka, aká úloha má strana podľa nariadenia o umelej inteligencii; jedna nezastupuje druhú.
Ako tomu zabránite pri novej zmluve
Najčastejšie praktickým krokom je viesť rozhovor s dodávateľom skoro v procese nákupu, nie dodatočne. Výslovne sa opýtajte, akú úlohu si dodávateľ sám pripisuje, aká dokumentácia patrí k systému a čo je zmluvne dohodnuté o zmenách funkčnosti umelej inteligencie počas trvania zmluvy. Tieto odpovede si zapíšte, aj keď je odpoveď v tomto momente ešte neúplná: dodávateľ, ktorý zatiaľ nemôže poskytnúť jasnosť, je tiež údaj, ktorý sa oplatí zdokumentovať.
Pomáha oddeliť túto otázku od obvyklého nákupného zoznamu položiek týkajúcich sa ceny a funkčnosti, práve preto, že tieto dve témy posudzujú rôzní ľudia v organizácii. Kto to považuje za osobitný bod pozornosti, zabráni tomu, aby sa to stratilo. V poznatkovej základni podľa témy je zoznam otázok, ktoré sa pri takýchto rozhovoroch často objavujú, usporiadaný podľa fázy, v ktorej sa podnik nachádza.
Prehodnotenie existujúcich zmlúv
Pre existujúce zmluvy je vhodné klásť rovnaké otázky pri ďalšej zmluvnej zmene, predĺžení alebo notifikácii aktualizácie. Zmluvu nie je potrebné hneď otvárať, ale poznámka pri ďalšom kontakte s dodávateľom zabezpečí, aby sa tento problém nezdržal ďalšie roky. Podniky, ktoré si v súčasnosti neuvedomujú svoju situáciu, sa môžu v niekoľkých otázkach získať prvú indikáciu na ktorých témach je relevantné pre ich situáciu.
To, či a ako sa musí špecifická zmluva upraviť, a akú zodpovednosť to so sebou prináša, je otázka pre právnika alebo, na otázky týkajúce sa dohľadu, príslušnú dozorovnú autoritu. Tento článok opisuje iba to, kde sa chyba zvyčajne vyskytuje, a nie, aká je správna úprava pre vašu vlastnú zmluvu.
Často kladené otázky o takýchto nákupných problémoch vrátane otázok, ktoré už položili iní čitatelia, sú zhromaždené na stránke s časťou Často kladené otázky. Ak si chcete najskôr vytvoriť predstavu o tom, kde sa vaša organizácia nachádza, urobte si bezplatné rýchle skenovaní alebo si przelistujte témy v znalostnej banke; obe sú bez záväznosti dostupné.