L'errore più comune nella conversazione con il vostro fornitore di software su l'AI è che le aziende si accontentano di una breve risposta a una domanda sbagliata. Viene chiesto 'il vostro sistema utilizza l'AI?', il fornitore risponde 'no' o 'un po', ma è innocuo', e tutto finisce lì. Nessuno documenta esattamente quale domanda è stata posta, cosa significava la risposta, e se quella risposta si basa su qualcosa.
Potete evitare questo errore organizzando la conversazione diversamente: non come una domanda sì o no, ma come una richiesta di giustificazione. Cosa fa esattamente il sistema, quali decisioni prende o supporta, e su quale base il fornitore sostiene che questo rientri o meno nel regolamento sull'AI. Documentate questa risposta per iscritto, non perché lo facciate per sport, ma perché in un secondo momento dovrete poter dimostrare quale domanda avete posto e quale risposta avete ricevuto.
Perché questa conversazione spesso va male
La conversazione con un fornitore di software di solito avviene tramite un account manager o un helpdesk, non tramite qualcuno che conosce il regolamento sull'AI. Questa persona vuole rassicurarvi, e una breve rassicurazione è più veloce da dare di una risposta precisa. Inoltre, molti software contengono funzioni di AI integrate da un fornitore sottostante, ad esempio un modello linguistico acquistato come componente separato. La parte con cui parli spesso non sa esattamente cosa succede sotto il cofano.
Il risultato è che le aziende ricevono una risposta che è fattualmente corretta per la persona che la dà, ma non completa per la situazione in cui il prodotto viene utilizzato. cercare nella banca dati il vostro tipo di software dimostra che il regolamento fa distinzione tra diversi ruoli e categorie di rischio, e che la risposta alla domanda 'è questo AI' difficilmente si può dare con una sola parola.
Come l'errore appare nella pratica
Un'azienda di installazione acquista un pacchetto di pianificazione con una funzione che assegna automaticamente gli interventi di manutenzione. La domanda al fornitore è 'c'è AI dentro', la risposta è 'no, è solo una pianificazione intelligente'. Sei mesi dopo risulta che la funzione di pianificazione è stata ampliata con un modello predittivo, senza che se ne sia discusso separatamente. Nessuno presso l'azienda di installazione se n'è accorto, perché la rassicurazione originale era considerata definitiva.
Questa situazione è illustrativa, non eccezionale: il software cambia, i fornitori aggiungono funzioni tramite aggiornamenti, e una risposta che era corretta al momento uno, potrebbe non esserlo più al momento due. Chi conduce la conversazione come una domanda una tantum invece di un argomento ricorrente, rischia di continuare a utilizzare una risposta obsoleta.
Cosa i controllori ritengono importante in questo tipo di conversazioni
I controllori in questo tipo di domande di solito guardano la tracciabilità: un'azienda può dimostrare quale domanda ha posto, a chi, quando, e sulla base di quali informazioni è stata data la risposta. Una promessa verbale senza documentazione è difficile da valutare per un controllore, semplicemente perché non c'è nulla da valutare. Non è un giudizio sul contenuto della risposta, ma sull'assenza di una traccia.
Con questo, l'errore non è necessariamente che un'azienda riceva una risposta sbagliata, ma che l'azienda non possa dimostrare che ha posto la domanda e quale risposta ha ricevuto. Per la vostra situazione specifica e la domanda su quale documentazione sia esattamente necessaria, vi rinviamo a un giurista o all'autorità di vigilanza competente.
Come evitarlo
Il primo passo è formulare la domanda in modo più concreto: non 'è questo AI', ma 'quali parti di questo sistema prendono o influenzano una decisione, e su quale tecnologia si basa'. Il secondo passo è farsi confermere la risposta per iscritto, ad esempio via e-mail o nel contratto stesso. Il terzo passo è ripetere la conversazione a ogni aggiornamento importante, non solo al primo acquisto.
Molte aziende sottovalutano quanto tempo ciò richiede una volta ben organizzato: alcune domande fisse, un momento fisso nel processo di aggiornamento e un luogo dove conservare le risposte. Chi non ce l'ha, può con una prima indicazione con poche domande di dove si trova circa il proprio software e con le domande più frequenti su questo argomento farsi un'idea di quello che altri nella stessa situazione incontrano.
Infine, aiuta determinare in anticipo chi all'interno della vostra azienda conduce e aggiorna questa conversazione. Per un'azienda di installazione, spesso è lo stesso direttore, per un ufficio più grande il responsabile IT o acquisti. Finché questo ruolo non è assegnato, la conversazione con il fornitore di software rimane dipendente dal caso, ed è esattamente da dove viene l'errore più frequente.
Volete sapere dove si trova circa il vostro software e quali domande sono rilevanti per la vostra situazione? Fate la scansione rapida gratuita o leggete gli argomenti più vicini alla vostra situazione attraverso una spiegazione di come raccogliamo queste informazioni.