Kõige sagedamini tehtud viga vestluses oma tarkvaraleverandöriga AI-st on see, et ettevõtted rahulduvad lühikese vastusega vale küsimusele. Küsitakse 'kas teie süsteem kasutab AI-d?', leverandör vastab 'ei' või 'natukene, aga see on süütu', ja selleks jääb. Keegi ei dokumenteeri, mida täpselt küsiti, mida vastus tähendas ja kas see vastus on millegi alusel põhjendatud.
Seda viga väldate, kui korraldada vestlus teisiti: mitte jah-või-ei-küsimusena, vaid küsimusena aluse kohta. Mida süsteem täpselt teeb, millised otsused ta teeb või toetab ja millisel alusel väidab leverandör, et see jääb AI-määruse rakendamisala sisse või välja. Dokumenteerite selle vastuse kirjalikult, mitte sellepärast, et te seda lõbu pärast teete, vaid sellepärast, et te peate hiljem suutma näidata, milline küsimus te esitasite ja milline vastus teil oli.
Miks see vestlus sageli valesti käib
Vestlus tarkvaraleverandöriga käib tavaliselt kontohalduril või abiteenistusel, mitte kellegi juures, kes AI-määrust tunneb. See isik tahab teid hea meelega rahustada ja lühike rahuitus on kergemini antud kui täpne vastus. Lisaks sisaldab paljud tarkvara AI-funktsioone, mis on sisseehitanud mingi teine leverandör, näiteks keelemudel, mis on eraldi ostetud. Pool, kellega te räägite, ei tea sageli ise täpselt, mis mootori all toimub.
Tulemuseks on see, et ettevõtted saavad vastuse, mis on faktiline õige inimese jaoks, kes selle andis, kuid ebatäielik selle situatsiooni jaoks, kus toodet kasutatakse. otsige teadusportaalist oma tarkvaratüüpi näitab, et määrus teeb vahet erinevate rollide ja riskikategooriate vahel ja et vastus küsimusele 'kas see on AI' on harva ühega andav.
Kuidas see viga praktikas välja näeb
Installatsioonifirma hangi planeerimispakett funktsiooniga, mis jaotab hoolduskäike automaatselt. Küsimus leverandöri poole on 'kas siin on AI', vastus on 'ei, see on lihtsalt nutikas planeerimine'. Kuus kuud hiljem selgub, et planeerimisfunktsiooni on laiendatud ennustusmudeli abil ilma eraldiseisvate vestluseta. Keegi installatsioonifirmas seda märkasin, sest algne rahuitus võeti lõplikuks.
See olukord on illustreeriv, mitte erandlik: tarkvara muutub, leverandörid lisavad funktsioone uuenduste kaudu ja vastus, mis ajahetkel üks oli, ei pea ajahetkel kaks olema. Kes selle vestluse ühekordse küsimuse asemel läbi viib, riskib jätkama vananenud vastuse kasutamisega.
Mida järelevalveasutused sellise vestluse puhul oluliseks peavad
Järelevalveasutused vaatavad selliseid küsimusi tavaliselt jälgitavuse seisukohast: kas ettevõte suudab näidata, milline küsimus ta esitas, kellele, millal ja millise teabe alusel vastus anti. Suuline lubadus ilma dokumenteerimiseta on järelevalveasutusel raske hinnata, lihtsalt sellepärast, et pole midagi, mida hinnata. See pole hinne vastuse sisule, vaid jälje puudumisele.
Sellega ei ole viga tingimata see, et ettevõte saab vale vastuse, vaid see, et ettevõte ei suuda tõendada, et ta küsimuse esitas ja mida vastati. Enda olukorra kohta ja küsimuse jaoks, milline dokumentatsioon täpselt vajalik on, soovitame pöörduda jurist või pädev järelevalveasutuse poole.
Kuidas te seda vältida saate
Esimene samm on küsimuse konkreetsemaks tegemine: mitte 'kas see on AI', vaid 'millised selle süsteemi osad teevad otsuse või mõjutavad seda, ja millel see tehnika põhineb'. Teine samm on vastus kirjalikult kinnitada, näiteks e-posti teel või lepingus endas. Kolmas samm on vestluse kordamine iga suurema värskendusega, mitte ainult esmakordsel ostul.
Paljud ettevõtted alahindavad, kui palju aega see nõuab, kui see kord korralikult sisseseadistatud on: paar fikseeritud küsimust, kindel ajahetk värskendusprotsessis ja koht vastuste säilitamiseks. Kellel seda pole, võib kasutada saab mõne küsimuse abil algse näitaja saada andmeid, kus nende enda tarkvara ligikaudu on, ja rõhul kõige sagedamini esitatud küsimusi selles aiheainetes saada pildi sellest, millega teised sarnases olukorras silmitsi seisavad.
Lõpuks aitab sellele kaasa, kui määrata eelnevalt, kes teie ettevõttes selle vestluse viib ja jälgib. Paigaldusettevõttes on see sageli direktor ise, suuremas kontoris IT- või hankevastutuline isik. Kuni see roll pole määratud, jääb vestlus tarkvaravarustajaga juhuslikkusest sõltuvaks, ja see on täpselt see, kust kõige sagedamini tehtav viga pärineb.
Kas soovite teada, kus teie enda tarkvara ligikaudu on ja millised küsimused teie olukorra jaoks asjakohased on? Tehke tasuta kiirskann või lugege teemasid, mis on teie olukorraga kõige lähedasemad läbi selgitus, kuidas me seda teavet koostame.