Cea mai frecventă greșeală în conversația cu furnizorul dvs. de software despre AI este că companiile se mulțumesc cu un răspuns scurt la o întrebare greșită. Se întreabă 'sistemul dvs. folosește AI?', furnizorul răspunde 'nu' sau 'puțin, dar e nevinovat', și acolo se oprește. Nimeni nu consemnează exact ce s-a întrebat, ce a însemnat răspunsul și dacă acel răspuns se bazează pe ceva.
Evitați această greșeală prin reorganizarea conversației: nu ca o întrebare da-sau-nu, ci ca o întrebare privind fundamentarea. Ce face exact sistemul, ce decizii ia sau susține, și pe baza căruia furnizorul susține că aceasta se încadrează sau nu în cadrul regulamentului privind IA. Documentați acest răspuns în scris, nu pentru plăcere, ci pentru că la un moment ulterior trebuie să puteți demonstra ce întrebare ați pus și ce răspuns ați primit.
De ce această conversație merge adeseori prost
Conversația cu un furnizor de software se desfășoară de obicei printr-un manager de cont sau o linie de asistență, nu prin cineva care cunoaște regulamentul privind IA. Această persoană vrea să vă liniștească, iar o liniștire scurtă se dă mai rapid decât un răspuns precis. În plus, mult software conține funcții de IA încorporate de către un furnizor de bază, de exemplu un model lingvistic care a fost achiziționat ca o componentă separată. Partea cu care vorbești nu știe întotdeauna cu exactitate ce se întâmplă sub capotă.
Rezultatul este că companiile primesc un răspuns care este de fapt corect pentru persoana care îl dă, dar nu este complet pentru situația în care produsul este folosit. căutați în baza de cunoștințe tipul dvs. de software arată că regulamentul face distincție între roluri și categorii de risc diferite, și că răspunsul la întrebarea 'este aceasta IA' rareori poate fi dat cu un singur cuvânt.
Cum arată greșeala în practică
O companie de instalații achiziționează un pachet de planificare cu o funcție care atribuie automat revizii de întreținere. Întrebarea adresată furnizorului este 'conține IA', răspunsul este 'nu, aceasta este doar planificare inteligentă'. Șase luni mai târziu, se dovedește că funcția de planificare a fost extinsă cu un model predictiv, fără a se purta o conversație separată pe această temă. Nimeni din compania de instalații nu a observat aceasta, deoarece liniștirea inițială a fost considerată definitivă.
Această situație este ilustrativă, nu excepțională: software-ul se schimbă, furnizorii adaugă funcții prin actualizări, iar un răspuns care era corect în momentul unu poate să nu fie în momentul doi. Cine desfășoară conversația ca o întrebare unică în loc de subiect recurent, riscă să continue să folosească un răspuns depășit.
Ce consideră autoritățile de supraveghere ca importanț în aceste conversații
Autoritățile de supraveghere se uită de obicei la trasabilitate în aceste întrebări: poate o companie să demonstreze ce întrebare a pus, cui, când și pe baza cărei informații s-a dat răspunsul. O promisiune orală fără documentare este dificil de evaluat pentru o autoritate de supraveghere, pur și simplu pentru că nu există nimic de evaluat. Aceasta nu este o judecată asupra conținutului răspunsului, ci asupra absenței unei urme.
Prin urmare, greșeala nu este neapărat că o companie primește un răspuns greșit, ci că compania nu poate demonstra că a pus întrebarea și ce s-a răspuns. Pentru propria situație și întrebarea privind documentația exactă necesară, vă trimitem la un jurist sau la autoritatea de supraveghere competentă.
Cum o preveniți
Primul pas este să clarificați mai bine întrebarea: nu 'este aceasta AI', ci 'care sunt componentele acestui sistem care iau sau influențează o decizie, și pe ce tehnică se bazează aceasta'. Al doilea pas este să faceți confirmarea răspunsului în scris, de exemplu prin e-mail sau chiar în contract. Al treilea pas este să repetați conversația la fiecare actualizare majoră, nu doar la prima achiziție.
Multe companii subestimează cât timp ia aceasta atunci când este o dată bine configurată: câteva întrebări fixe, un moment fix în procesul de actualizare, și un loc pentru a păstra răspunsurile. Cine nu are aceasta, poate cu poate obține o primă indicație cu o serie de întrebări de la locul în care propriul software se află aproximativ, și cu întrebările puse cel mai frecvent pe această temă să se facă o imagine asupra a ceea ce întâlnesc alții în aceeași poziție.
În cele din urmă, ajută dacă decideți dinainte cine din cadrul companiei dumneavoastră conduce și menține această conversație. La o întreprindere de instalare, aceasta este adesea directorul însuși, la un birou mai mare, responsabilul IT sau de achiziții. Atâta timp cât acel rol nu este atribuit, conversația cu furnizorul de software rămâne dependentă de întâmplare, și aceasta este exact de unde provine cea mai frecventă greșeală.
Doriți să știți unde se află aproximativ software-ul dumneavoastră și care sunt întrebările relevante pentru situația dumneavoastră? Efectuați scanarea rapidă gratuită sau citiți subiectele care se apropie cel mai mult de situația dumneavoastră prin o explicație a modului în care compilăm aceste informații.