Ce greșeală fac cel mai des companiile în contractele de achiziție pentru sisteme de IA
Cea mai frecventă greșeală este că o companie achiziționează un sistem de IA fără a stabili în contract cine are care rol: furnizorul sau cumpărătorul. Multe contracte de achiziție de software au fost redactate în urmă cu mulți ani, cu mult înainte de Regulamentul privind IA, și se ocupă de licențe, actualizări și suport. Nu spun nimic despre clasificarea riscurilor, despre cine furnizează instrucțiuni de utilizare, sau despre ce se întâmplă dacă furnizorul modifică el însuși software-ul cu noi funcții de IA.
Drept urmare, o companie presupune la achiziție că furnizorul "a rezolvat totul", în timp ce Regulamentul privind IA face distincție între furnizorul unui sistem de IA și utilizatorul responsabil care implementează sistemul în cadrul propriei organizații. Aceste două roluri pot coincide, dar nu trebuie neapărat. Fără un acord explicit în contract, rămâne neclar cine are care obligație în momentul în care chiar contează.
De ce se întâmplă mai des decât se așteaptă
Departamentele de achiziții și managerii IT se uită în mod tradițional la funcționalitate, preț și securitate. Asta e și logic: până de curând acelea erau întrebările cele mai importante la achizițiile de software. Regulamentul privind IA adaugă un nivel care nu ajunge de la sine în procesele de achiziție existente, pur și simplu pentru că nimeni din echipa de achiziții nu e obișnuit să pună această întrebare. Un furnizor care nu este întrebat în mod explicit care este rolul lui, rar va furniza acea informație de bună voie.
Un al doilea motiv este că o mare parte a funcționalității de IA ajunge acum în software-ul existent prin actualizări, fără a se încheia un nou contract. Un pachet de contabilitate primește un asistent de IA, un instrument de planificare primește propuneri automate de planificare. Contractul inițial nu acoperă acea funcție, și nimeni nu verifică ulterior dacă condițiile sunt încă corecte pentru ceea ce sistemul face între timp.
Ce se întâmplă greșit în practică
Greșeala se manifestă de obicei abia în momentul în care o companie trebuie să dovedească ceva: la o întrebare dintr-o autoritate de supraveghere, la un audit al unui client, sau pur și simplu pentru că consiliul de administrație întreabă cum a apărut o aplicație de IA. Atunci se dovedește că nu există documentație despre clasificarea sistemului, nicio persoană de contact la furnizor pentru acest subiect, și nicio înțelegere contractuală despre cine furnizează ce informații când software-ul se schimbă.
Pe lângă aceasta, întrebarea privind datele personale este adesea tratată separat de întrebarea privind IA, deși în practică se suprapun adesea. Un acord de prelucrare în contextul GDPR reglementează altceva decât întrebarea care rol are o parte sub Regulamentul privind IA; unul nu înlocuiește pe celălalt.
Cum evitați asta într-un contract nou
Cel mai practic pas este să purtați discuția cu furnizorul devreme în procesul de achiziție, nu după. Întrebați în mod explicit ce rol și-o atribuie furnizorul, ce documentație însoțește sistemul, și ce este stabilit contractual cu privire la modificările funcționalității de IA pe parcursul valabilității contractului. Consemnați acele răspunsuri, chiar dacă răspunsul în acest moment este încă incomplet: un furnizor care nu poate oferi claritate, merită și el să fie documentat.
Ajută să separați această întrebare de lista obișnuită de verificare a achizițiilor privind prețul și funcționalitatea, tocmai pentru că acele două subiecte sunt evaluate de persoane diferite în organizație. Cine tratează asta ca punct de atenție separat, evită să se piardă între mal și apă. În baza de cunoștințe per subiect se găsește o privire de ansamblu asupra întrebărilor care apar frecvent în conversații de acest fel, aranjate după faza în care se află o companie.
Verificarea contractelor existente
Pentru contractele în curs, este recomandabil să puneți din nou aceleași întrebări la următoarea modificare contractuală, prelungire sau notificare de actualizare. Un contract nu trebuie să fie deschis imediat, dar o notă la următorul contact cu furnizorul previne ca subiectul să rămână nerezolvat ani de zile. Întreprinderile care nu știu în ce situație se află în acest moment, pot obține o primă indicație în câteva întrebări din ce subiecte sunt relevante pentru situația lor.
Dacă și cum trebuie adaptat un anumit contract, și ce răspundere se asociază acestuia, este o întrebare pentru un jurist sau, pentru întrebări cu privire la supraveghere, autoritatea de supraveghere competentă. Acest articol descrie doar locul în care eroarea apare de obicei, nu care este ajustarea corectă pentru propriul dvs. contract.
Întrebări frecvent puse cu privire la aceste probleme de achiziții, inclusiv întrebări pe care alți cititori le-au deja pus, sunt colectate pe pagina cu întrebări frecvente. Dacă doriți mai întâi să vă faceți o imagine a situației în care se află organizația dumneavoastră, efectuați scanarea rapidă gratuită sau răsfoiți subiectele din baza de cunoștințe; ambele sunt accesibile fără obligație.