Najčešća greška u razgovoru s vašim pružateljem softvera o AI-u je što poduzeća prihvaćaju kratak odgovor na pogrešno postavljeno pitanje. Postavlja se pitanje 'koristi li vaš sustav AI?', pružatelj odgovara 'ne' ili 'malo, ali to je nevin', i time je gotovo. Nitko ne dokumentira što je precizno bilo pitano, što je odgovor značio i je li taj odgovor negdje utemeljen.
Tu grešku izbjegavate tako što drugačije strukturirate razgovor: ne kao pitanje da ili ne, nego kao pitanje za opravdanje. Što sustav točno radi, koje odluke donosi ili podržava, i na kojoj osnovi pružatelj tvrdi da to jeste ili nije obuhvaćeno AI uredbom. Taj odgovor dokumentirate pisanim putem, ne zato što to činite zbog zabave, nego zato što kasnije trebate moći dokazati koje ste pitanje postavili i koji ste odgovor dobili.
Zašto ovaj razgovor često ide po zlu
Razgovor s pružateljem softvera obično se odvija preko rukovoditelja računa ili helpdeska, ne preko osobe koja poznaje AI uredbu. Ta osoba želi vas mirno siguriti, a kratka sigurnost se daje brže nego točan odgovor. Osim toga, mnogi softver sadrži AI funkcije koje su ugrađene od strane temeljnog pružatelja, na primjer jezični model koji je kupljen kao odvojena komponenta. Stranka s kojom razgovarate često sama ne zna što se točno događa ispod haube.
Rezultat je da poduzeća dobiju odgovor koji je faktički točan za osobu koja ga daje, ali nije potpun za situaciju u kojoj se proizvod koristi. Pretražite bazu znanja za vašu vrstu softvera pokazuje da uredba pravi razliku između različitih uloga i kategorija rizika, i da se na pitanje 'je li ovo AI' rijetko može odgovoriti jednom riječi.
Kako greška izgleda u praksi
Instalacijska poduzeća kupuju paket za planiranje s funkcijom koja automatski raspodjeljuje servise održavanja. Pitanje upućeno pružatelju je 'je li tu AI', odgovor je 'ne, to je samo pametno planiranje'. Šest mjeseci kasnije ispostavlja se da je funkcija planiranja proširena s modelom predviđanja, bez da je o tome bilo posebnog razgovora. Nitko u instalacijskoj poduzeći to nije primijetio, jer je originalna sigurnost bila smatrana definitivnom.
Ta situacija je ilustrativna, ne iznimna: softver se mijenja, pružatelji dodaju funkcije kroz ažuriranja, i odgovor koji je bio točan u trenutku jedan, ne mora biti točan u trenutku dva. Tko vodi razgovor kao jednokratno pitanje umjesto povratne teme, riskira da nastavi koristiti zastarjeli odgovor.
Što nadzorni organi smatraju važnim u takvim razgovorima
Nadzorni organi u takvim pitanjima obično gledaju na mogućnost praćenja: može li poduzeće dokazati koje je pitanje postavilo, kome, kada i na osnovi kojih informacija je odgovor dan. Usmena obaveza bez dokumentacije je za nadzorni organ teško procjenjiva, jednostavno jer nema ničega što se može procjenjivati. To nije sud o sadržaju odgovora, nego o nedostatku zapisanog traga.
Dakle, greška nije nužno što poduzeće dobije pogrešan odgovor, nego što poduzeće ne može dokazati da je postavilo pitanje i što je odgovoreno. Za vašu posebnu situaciju i pitanje o kojoj je dokumentaciji točno potrebna, usmjeravamo vas na pravnika ili nadležni nadzorni organ.
Kako to izbjeći
Prvi korak je učiniti pitanje specifičnijim: ne 'koristi li ovo AI', već 'koji dijelovi ovog sustava donose ili utječu na odluku, i na kojoj je tehnologiji to temeljeno'. Drugi korak je zatražiti da se odgovor potvrdi pisanim putem, primjerice putem e-maila ili u samom ugovoru. Treći korak je ponoviti razgovor pri svakoj većoj ažuriranju, ne samo pri prvoj nabavi.
Mnoga poduzeća podcjenjuju koliko vremena to troši kada je jednom pravilno uspostavljeno: nekoliko stalnih pitanja, stalan trenutak u procesu ažuriranja i mjesto za čuvanje odgovora. Ona koja to nemaju mogu s nekoliko pitanja dobiti prvu indikaciju od kuda njihov vlastiti softver otprilike stoji, te s najčešće postavljanim pitanjima na ovu temu dobiti sliku onoga što drugi u istoj situaciji nailaze.
Konačno, pomaže unaprijed odrediti tko unutar vašeg poduzeća vodi i prati ovaj razgovor. U instalacijskom poduzeću to je često sam direktor, u većem uredu osoba zadužena za IT ili nabavu. Dotle dok ta uloga nije dodijeljena, razgovor sa dobavljačem softvera ostaje ovisan o slučajnosti, i to je upravo odakle dolazi najčešće griješka.
Želite li znati gdje se vaš vlastiti softver otprilike nalazi i koja su pitanja relevantna za vašu situaciju? Napravite besplatnu quick-scan ili pročitajte teme koje se najviše poklapaju s vašom situacijom putem objašnjenja kako sastavljamo ove informacije.