Quale errore commettono più spesso le aziende nei contratti di acquisto per i sistemi di IA
L'errore più comune è che un'azienda acquista un sistema di IA senza stabilire nel contratto chi ha quale ruolo: il fornitore o l'acquirente. Molti contratti di acquisto per software sono stati redatti anni fa, ben prima del regolamento sull'IA, e riguardano licenze, aggiornamenti e supporto. Non dicono nulla sulla classificazione dei rischi, su chi fornisce le istruzioni per l'uso, o su cosa accade se il fornitore stesso modifica il software con nuove funzioni di IA.
La conseguenza è che al momento dell'acquisto un'azienda presume che il fornitore "avrà provveduto", mentre il regolamento fa una distinzione tra il fornitore di un sistema di IA e l'utente responsabile che impiega il sistema all'interno della propria organizzazione. Questi due ruoli possono coincidere, ma non è necessario. Senza un accordo esplicito nel contratto rimane poco chiaro chi ha quale obbligo nel momento in cui questo è veramente importante.
Perché questo accade più spesso del previsto
I dipartimenti di acquisto e i responsabili IT tradizionalmente guardano alla funzionalità, al prezzo e alla sicurezza. È anche logico: fino a poco tempo fa queste erano le domande più importanti negli acquisti di software. Il regolamento sull'IA aggiunge un livello che non entra automaticamente nei processi di acquisto esistenti, semplicemente perché nessuno nel team di acquisto è abituato a porre quella domanda. Un fornitore a cui non viene esplicitamente chiesto quale sia il suo ruolo, raramente fornirà spontaneamente quell'informazione.
Una seconda ragione è che molte funzionalità di IA nel frattempo giungono tramite aggiornamenti nel software esistente, senza che venga concluso un nuovo contratto. Un software di contabilità riceve un assistente di IA, uno strumento di pianificazione riceve proposte automatiche di pianificazione. Il contratto originale non copre quella funzione e nessuno verifica successivamente se le condizioni rimangono valide per quello che il sistema nel frattempo fa.
Come vanno le cose nella pratica
L'errore di solito si manifesta solo nel momento in cui un'azienda stessa deve provare qualcosa: in caso di richiesta da un'autorità di vigilanza, durante un audit di un cliente, o semplicemente perché il consiglio aziendale chiede come è stato sviluppato un'applicazione di IA. Allora risulta che non c'è documentazione sulla classificazione del sistema, nessun contatto presso il fornitore per questo argomento, e nessun accordo contrattuale su chi fornisce quale informazione quando il software cambia.
Inoltre, la questione sui dati personali è spesso affrontata separatamente dalla questione sull'IA, mentre nella pratica spesso coincidono. Un accordo di elaborazione nel quadro del GDPR regola qualcosa di diverso dalla questione di quale ruolo una parte ha secondo il regolamento sull'IA; l'una non sostituisce l'altra.
Come evitare questo in un nuovo contratto
Il passo più pratico è condurre la conversazione con il fornitore in una fase precoce del processo di acquisto, non dopo. Chiedete esplicitamente quale ruolo il fornitore attribuisce a se stesso, quale documentazione accompagna il sistema e cosa è contrattualmente stabilito sui cambiamenti della funzionalità di IA durante la durata del contratto. Documentate queste risposte, anche se la risposta al momento è ancora incompleta: un fornitore che non può ancora fornire chiarezza è anche una scoperta degna di essere documentata.
Aiuta a separare questa domanda dalla solita lista di controllo degli acquisti su prezzo e funzionalità, proprio perché questi due argomenti vengono valutati da persone diverse nell'organizzazione. Chi lo affronta come un punto di attenzione separato, evita che vada perso. In la knowledge base per argomento si trova una panoramica delle domande che spesso ricorrono in questo tipo di conversazioni, ordinate in base alla fase in cui si trova un'azienda.
Revisione dei contratti esistenti
Per i contratti in corso, è consigliabile porre le stesse domande nuovamente in occasione della prossima modifica contrattuale, proroga o notifica di aggiornamento. Non è necessario modificare immediatamente il contratto, ma un appunto al prossimo contatto con il fornitore evita che l'argomento rimanga irrisolto per anni. Le aziende che non sanno dove si trovano attualmente possono ottenere una prima indicazione in poche domande quali argomenti sono rilevanti per la loro situazione.
Se e come un contratto specifico deve essere adattato, e quale responsabilità vi è associata, è una questione per un giurista o, per domande relative alla vigilanza, all'autorità di vigilanza competente. Questo articolo descrive solo dove l'errore di solito si verifica, non quale sia l'adattamento corretto per il vostro contratto.
Le domande frequenti su questo tipo di questioni di approvvigionamento, incluse le domande che altri lettori hanno già posto, sono raccolte su la pagina delle domande frequenti. Se desiderate prima farvi un quadro della situazione della vostra organizzazione, eseguite la scansione rapida gratuita o sfogliate gli argomenti nella knowledge base; entrambi sono accessibili senza impegno.