Dažniausiai daroma klaida pokalbyje su jūsų programinės įrangos tiekėju apie AI yra ta, kad įmonės tenkinasi trumpu atsakymu į neteisingą klausimą. Klausiama "ar jūsų sistema naudoja AI?", tiekėjas atsako "ne" arba "šiek tiek, bet tai nekaltai", ir tuo visi baigia. Niekas nefiksuoja, kokį tiksliai klausimą buvo užduota, ką reiškė atsakymas ir ar tas atsakymas kažkuo pagrįstas.
Šią klaidą galite išvengti kitaip organizuodami pokalbį: ne kaip taip-ar-ne-klausimą, o kaip klausimą apie pagrindimą. Ką tiksliai daro sistema, kokius sprendimus ji priima ar palaikoma priimti, ir kokiu pagrindu tiekėjas tvirtina, kad tai yra ar nėra susijęs su AI reguliavimu. Šį atsakymą dokumentuojate raštu, ne todėl, kad tai darytumėte pasilinksminimui, bet todėl, kad vėliau turėtumėte galimybę parodyti, kokį klausimą užduodavote ir kokį atsakymą gavote.
Kodėl šis pokalbis dažnai nepavyksta
Pokalbis su programinės įrangos tiekėju paprastai vyksta per sąskaitų vadybininką arba pagalbos skyrių, o ne per asmenį, kuris žino AI reguliavimą. Tas asmuo nori jus nuraminti, o trumpas nuraminimas suteikiamas greičiau nei tikslus atsakymas. Be to, daugybė programinės įrangos turi AI funkcijas, kurias įdėjo pagrindinis tiekėjas, pavyzdžiui, kalbos modelis, nupirktas kaip atskira dalis. Asmenį, su kuriuo kalbinate, dažnai nežino, kas tiksliai vyksta po kupolu.
Dėl to įmonės gauna atsakymą, kuris faktiškai yra teisingas asmeniui, kuris jį davė, bet nėra visapusiškas situacijai, kurioje produktas naudojamas. ieškoti žinių banke pagal jūsų programinės įrangos tipą parodyti, kad reguliavimas daro skirtį tarp skirtingų vaidmenų ir rizikos kategorijų, ir kad atsakymas į klausimą "ar tai AI" retai gali būti suteiktas vienu žodžiu.
Kaip klaida atrodo praktikoje
Instaliacijos įmonė įsigyja planavimo paketą su funkcija, kuri automatiškai paskirstyti priežiūros vizitus. Klausimas tiekėjui yra "ar čia yra AI", atsakymas yra "ne, tai tiesiog išmanus planavimas". Po šešių mėnesių paaiškėja, kad planavimo funkcija buvo išplėsta nuspėjamuoju modeliu, nepravedi atskiro šio klausimu pokalbio. Nuo instaliacijos įmonės niekas to nepastebėjo, nes originalus nuraminimas buvo laikomas galutinu.
Ši situacija yra iliustratyvi, o ne išimtis: programinė įranga keičiasi, tiekėjai įdeda funkcijas per atnaujinimus, o atsakymas, kuris buvo teisingas pirmąjį kartą, gali nebūti teisingas antrąjį kartą. Kas veda pokalbį kaip vienkartinį klausimą, o ne pasikartojantį klausimą, rizikuoja toliau naudoti pasenusį atsakymą.
Ką priežiūros institucijos laiko svarbiu šiuose pokalbiuose
Priežiūros institucijos paprastai žiūri į šiuos klausimus pagal suaktyvintumą: ar įmonė gali parodyti, kokį klausimą ji užduodavo, kam, kada ir remiantis kokia informacija atsakymas buvo suteiktas. Žodinis patvirtinimas be dokumentavimo yra priežiūros institucijai sunkus įvertinti, tiesiog todėl, kad nėra ko įvertinti. Tai nėra atsakymo turinio nuomone, bet dėl pėdsako nebuvimo.
Dėl to klaida ne būtinai yra ta, kad įmonė gauna neteisingą atsakymą, bet ta, kad įmonė negali parodyti, JOG ji užduodavo klausimą ir kas buvo atsakyta. Dėl savo situacijos ir klausimo, kokia dokumentacija tiksliai reikalinga, nurodome į juristą arba atitinkamą priežiūros instituciją.
Kaip to išvengti
Pirmasis žingsnis – paaiškinti klausimą: ne „ar tai AI
Daugelis įmonių nepakankamai įvertina laiko sąnaudas, kai šis procesas yra tinkamai sukurtas: keletas nuolatinių klausimų, nustatytas atnaujinimo proceso momentas ir vieta atsakymams saugoti. Tie, kurie to neturi, gali pradėti nuo pirmą indikaciją per kelis klausimus kur jų pati programinė įranga maždaug yra, ir su dažniausiai užduodami klausimai apie šią temą suprasti, su kokiais iššūkiais susiduria kiti panašioje padėtyje.
Galiausiai pravartu iš anksto nustatyti, kas jūsų įmonėje veda ir veda šias diskusijas. Įrengimo įmonėje tai dažnai buna pats direktorius, didesnėje įstaigoje – IT arba pirkimų atsakingas asmuo. Kol šis vaidmuo nėra paskirtas, pokalbis su programinės įrangos tiekėju lieka atsitiktinis, ir tai yra tiksliai tai, iš kur kyla dažniausiai daroma klaida.
Norite sužinoti, kaip jūsų pačių programinė įranga maždaug stovi ir kokie klausimai yra svarbūs jūsų situacijai? Atlikite nemokamą greitą skenavimą arba perskaitykite temas, kurios labiausiai atitinka jūsų situaciją per paaiškinimai apie tai, kaip mes šią informaciją surenkami.