Najpogostejša napaka pri pogovoru z vašim ponudnikom programske opreme o umetni inteligenci je, da se podjetja zadovoljijo s kratkim odgovorom na napačno vprašanje. Vpraša se »ali vaš sistem uporablja umetno inteligenco?«, ponudnik odgovori »ne« ali »malo, vendar je to neškodljivo«, in tam se konča. Nihče ne dokumentira, kaj je bilo točno vprašano, kaj je odgovor pomenil, in ali je bil ta odgovor sploh osnovan na čem.
To napako preprečite tako, da drugače strukturirate pogovor: ne kot vprašanje da ali ne, temveč kot vprašanje o utemeljitvi. Kaj točno počne sistem, katere odločitve sprejema ali jih podpira, in na kakšni osnovi ponudnik trdi, da to sodi ali ne sodi pod uredbo o umetni inteligenci. Ta odgovor si dokumentirate v pisni obliki, ne zato, ker bi to počeli za zabavo, ampak ker morate v kasnejšem času moći pokazati, katero vprašanje ste postavili in kakšen odgovor ste prejeli.
Zakaj ta pogovor pogosto ne uspe
Pogovor s ponudnikom programske opreme poteka navadno preko vodje računa ali pomoči, ne preko osebe, ki pozna uredbo o umetni inteligenci. Ta oseba vas želi z veseljem pomilovati, in kratko pomilovati je hitreje nego dati natančen odgovor. Poleg tega vsebuje veliko programske opreme funkcije umetne inteligence, ki jih je vgradil osnovni ponudnik, na primer jezikovni model, ki je kupljen kot ločeni del. Oseba, ki se vam pogovarja, sama pogosto ne ve točno, kaj se dogaja pod pokrovom motorja.
Posledica je, da podjetja dobijo odgovor, ki je dejansko pravilen za osebo, ki ga daje, vendar ni popoln za situacijo, v kateri se proizvod uporablja. iskati v bazi znanja za vašo vrsto programske opreme kaže, da uredba pravi razlikovanje med različnimi vlogami in kategorijami tveganja, in da je odgovoru na vprašanje »je to umetna inteligenca« redko mogoče podati z enim samim besedo.
Kako napaka izgleda v praksi
Inštalacijska podjetja nabavijo paket za planiranje s funkcijo, ki samodejno razvršča vzdrževalna dela. Vprašanje na naslov ponudnika je »je tu umetna inteligenca«, odgovor je »ne, to je samo pametno planiranje«. Šest mesecev pozneje se izkaže, da je bila funkcija planiranja razširjena s prednostnim modelom, brez da bi se o tem vodil posebej pogovor. V inštalacijskem podjetju tega nihče ni opazil, ker je bila prvotna pomilovka obravnavana kot končna.
Ta situacija je ilustrativna, ne izjemna: programska oprema se spreminja, ponudniki dodajajo funkcije preko posodobitev, in odgovor, ki je bil pravi v trenutku ena, mora biti pravi tudi v trenutku dva. Kdor vodi pogovor kot enkratno vprašanje namesto kot stalno se ponovno obravnavajočo temo, tvega, da še naprej uporablja zastareli odgovor.
Kaj imajo nadzorni organi v takšnih pogovorih za pomembno
Nadzorni organi v tovrstnih vprašanjih običajno pogledajo sledljivost: ali lahko podjetje pokaže, katero vprašanje je postavilo, komu, kdaj, in na osnovi katerih informacij je bil odgovor dan. Ustna zagotovila brez dokumentacije so za nadzorni organ težko ocenljiva, preprosto zato, ker ni ničesar za oceno. To ni sodba o vsebini odgovora, ampak o odsotnosti sledi.
Napaka torej ne bi nujno bila, da je podjetje dobilo napačen odgovor, ampak da podjetje ne more dokazati, da je postavilo vprašanje in kaj je bilo odgovorjeno. Za vašo lastno situacijo in vprašanje, katero dokumentacijo je potrebna, vas napotimo na pravnika ali pristojni nadzorni organ.
Kako to preprečite
Prvi korak je konkretizacija vprašanja: ne 'ali je to AI', temveč 'kateri deli tega sistema sprejemajo ali vplivajo na odločitev in na kateri tehnologiji je to osnovano'. Drugi korak je, da se odgovor pisno potrdi, na primer po e-pošti ali v samem sporazumu. Tretji korak je ponovitev pogovora ob vsaki večji posodobitvi, ne le ob prvem nakupu.
Številna podjetja podcenjujejo, koliko časa to stane, ko je enkrat pravilno vzpostavljeno: nekaj stalnih vprašanj, stalen trenutek v procesu posodabljanja in mesto za shranjevanje odgovorov. Tisti, ki tega nima, si lahko ustvari predstavo nekaj vprašanj dobi prvo indikacijo od tega, kje je lastna programska oprema približno postavljena, in z najpogostejšimi vprašanji o tem predmetu predstavo o tem, kaj se srečujejo drugi v enaki situaciji.
Nazadnje je koristno, da se vnaprej določi, kdo v vašem podjetju vodi in sproti vodi ta pogovor. Pri instalacijskem podjetju je to pogosto sam direktor, pri večjem uradu pa oseba, odgovorna za IT ali nabavo. Dokler ta vloga ni dodeljena, ostaja pogovor s ponudnikom programske opreme odvisen od naključja, in to je ravno tisto, od koder izhaja najpogosteje storjena napaka.
Želite vedeti, kje je vaša lastna programska oprema približno postavljena in katera vprašanja so relevantna za vašo situacijo? Opravite brezplačen hitri pregled ali preberite teme, ki so si najbližje vašim razmeram prek razlage o tem, kako sestavljamo to informacijo.