Nejčastěji dělená chyba při konverzaci s vaším poskytovatelem softwaru o AI spočívá v tom, že se společnosti spokojí s krátkou odpovědí na špatnou otázku. Ptá se 'používá váš systém AI?', poskytovatel odpoví 'ne' nebo 'trochu, ale to je nevinné', a tím to skončí. Nikdo si nepoznamenává, jaká přesně byla otázka položena, co odpověď znamenala, a zda je odpověď někde podložena.
Této chybě se vyhnete tím, že konverzaci zorganizujete jinak: ne jako otázku ano či ne, ale jako otázku na odůvodnění. Co systém přesně dělá, jaká rozhodnutí přijímá nebo podporuje, a na jakém základě tvrdí poskytovatel, že se jedná nebo nejedná o aplikaci nařízení o AI. Tuto odpověď si poznamenáte písemně, ne proto, že byste to dělali pro zábavu, ale protože budete později muset být schopni prokázat, jakou otázku jste položili a jakou odpověď jste obdrželi.
Proč tato konverzace často selhává
Konverzace s poskytovatelem softwaru probíhá obvykle prostřednictvím správce účtu nebo helpdesku, ne prostřednictvím osoby, která zná nařízení o AI. Tato osoba vás ráda ujistí, a krátké ujištění se dá dát rychleji než přesná odpověď. Navíc mnoho software obsahuje funkce umělé inteligence, které jsou zabudovány podkladovým poskytovatelem, například jazykový model nakoupený jako samostatný prvek. Strana, s níž komunikujete, pak často neví přesně, co se děje pod kapotou.
Výsledkem je, že společnosti obdrží odpověď, která je fakticky správná pro osobu, která ji dává, ale není úplná pro situaci, v níž se produkt používá. prohledejte znalostní bázi pro váš typ software ukazuje, že nařízení rozlišuje mezi různými rolemi a kategoriemi rizik, a že odpověď na otázku 'je to AI' se jen zřídka dá dát jedním slovem.
Jak chyba vypadá v praxi
Instalační společnost si pořídí plánovací balík s funkcí, která automaticky plánuje údržbářské prohlídky. Otázka na poskytovatele zní 'je v tom AI', odpověď je 'ne, to je jen chytrá plánování'. Šest měsíců později se ukáže, že plánovací funkce byla rozšířena o prediktivní model, aniž by se o tom vedla samostatná diskuse. Nikdo v instalační společnosti si toho nevšiml, protože se původní ujištění považovalo za definitivní.
Tato situace je ilustrativní, nikoli výjimečná: software se mění, poskytovatelé přidávají funkce prostřednictvím aktualizací, a odpověď, která byla správná v čase jedna, nemusí být správná v čase dva. Kdo vede konverzaci jako jednorázovou otázku místo aby se k ní vracel, riskuje, že bude používat zastaralou odpověď.
Co si dohledavatelé v těchto konverzacích cení
Dohledavatelé si v těchto otázkách obvykle dělají poznámky o sledovatelnosti: může společnost prokázat, jakou otázku položila, komu, kdy, a na základě jakých informací byla odpověď dána. Ústní přislíbení bez zaznamenání je pro dohledavatele obtížné posoudit, jednoduše proto, že není nic k posouzení. To není úsudek na obsahu odpovědi, ale na absenci stopy.
Chyba tedy nemusí spočívat nutně v tom, že by společnost obdržela špatnou odpověď, ale v tom, že společnost nemůže prokázat, ŽE položila otázku a jaká odpověď byla dána. Ohledně vlastní situace a otázky, jaká dokumentace je přesně potřebná, vás odkazujeme na právníka nebo příslušný dohledavací orgán.
Jak tomu předejdete
Prvním krokem je konkrétněji formulovat otázku: ne 'je to AI', ale 'které části tohoto systému přijímají nebo ovlivňují rozhodnutí a na jaké technice je to založeno'. Druhým krokem je nechat odpověď potvrdit písemně, například e-mailem nebo v samotné smlouvě. Třetím krokem je konverzaci opakovat při každé větší aktualizaci, nikoli pouze při prvním nákupu.
Mnoho podniků podceňuje, kolik času to zabere, jakmile je to správně nastaveno: několik stálých otázek, stálý moment v procesu aktualizace a místo pro uložení odpovědí. Kdo to nemá, může s pomocí několika otázek si lze udělat první představu odkud se vlastní software zhruba nachází, a s nejčastěji kladené otázky k tomuto tématu získat si představu o tom, co se vyskytuje u jiných v podobné situaci.
Nakonec je užitečné dopředu určit, kdo ve vaší společnosti vede a vede evidenci tohoto rozhovoru. V instalační společnosti je to často sám ředitel, v větší kanceláři pak IT nebo nákupní odpovědný. Dokud není tato role přidělena, zůstane rozhovor se softwarovým dodavatelem závislý na náhodě, a to je přesně to, odkud pochází nejčastěji dělená chyba.
Chcete vědět, kde se váš vlastní software zhruba nachází a které otázky jsou relevantní pro vaši situaci? Proveďte bezplatnou rychlou kontrolu nebo si přečtěte témata, která se nejblíže blíží vaší situaci prostřednictvím vysvětlení toho, jak tyto informace sestavujeme.