O erro mais comum na conversa com seu fornecedor de software sobre IA é que as empresas se contentam com uma resposta breve a uma pergunta errada. É feita a pergunta 'seu sistema usa IA?', o fornecedor responde 'não' ou 'um pouco, mas é inofensivo', e fica por isso. Ninguém registra exatamente o que foi perguntado, o que a resposta significava e se essa resposta se baseava em algo.
Você evita este erro reorganizando a conversa: não como uma pergunta de sim ou não, mas como uma pergunta sobre fundamentação. O que exatamente o sistema faz, que decisões toma ou apoia, e com base em quê o fornecedor afirma que isso se enquadra ou não no regulamento de IA. Você registra essa resposta por escrito, não porque o faz por diversão, mas porque em um momento posterior deve ser capaz de demonstrar qual pergunta fez e qual resposta recebeu.
Por que essa conversa frequentemente dá errado
A conversa com um fornecedor de software geralmente ocorre por meio de um gerente de conta ou helpdesk, não por alguém que conhece o regulamento de IA. Essa pessoa quer tranquilizá-lo, e uma breve tranquilização é dada mais rapidamente do que uma resposta precisa. Além disso, muito software contém funcionalidades de IA que foram incorporadas por um fornecedor subjacente, por exemplo, um modelo de linguagem que foi adquirido como componente separado. A parte com quem você fala nem sempre sabe exatamente o que acontece sob o capô.
O resultado é que as empresas recebem uma resposta que é factualmente correta para a pessoa que a dá, mas não é completa para a situação em que o produto é usado. pesquise a base de conhecimento sobre seu tipo de software mostra que o regulamento faz distinção entre diferentes funções e categorias de risco, e que a resposta à pergunta 'isso é IA' raramente pode ser dada com uma palavra.
Como o erro se parece na prática
Uma empresa de instalação adquire um pacote de planejamento com uma função que distribui automaticamente as visitas de manutenção. A pergunta ao fornecedor é 'tem IA nisso', a resposta é 'não, é apenas planejamento inteligente'. Seis meses depois, descobre-se que a função de planejamento foi expandida com um modelo preditivo, sem que uma conversa separada tenha ocorrido sobre isso. Ninguém na empresa de instalação notou, porque a tranquilização original foi considerada definitiva.
Essa situação é ilustrativa, não excepcional: o software muda, fornecedores adicionam funcionalidades por meio de atualizações, e uma resposta que estava correta no momento um pode não estar mais correta no momento dois. Quem conduz a conversa como uma pergunta única em vez de um tema recorrente corre o risco de continuar usando uma resposta desatualizada.
O que os supervisores consideram importante nessas conversas
Ao avaliar essas questões, os supervisores geralmente procuram rastreabilidade: uma empresa pode demonstrar qual pergunta fez, a quem, quando e com base em quais informações a resposta foi fornecida. Uma promessa verbal sem registro é difícil para um supervisor avaliar, simplesmente porque não há nada para avaliar. Isso não é um julgamento sobre o conteúdo da resposta, mas sobre a falta de documentação.
Com isso, o erro não é necessariamente que uma empresa receba uma resposta incorreta, mas que a empresa não possa demonstrar que fez a pergunta e qual foi a resposta. Para sua situação específica e a questão de qual documentação exatamente é necessária, o encaminhamos para um jurista ou para a autoridade supervisora competente.
Como o evitar
O primeiro passo é tornar a pergunta mais concreta: não 'isto é IA', mas 'quais partes deste sistema tomam ou influenciam uma decisão, e em que técnica se baseia'. O segundo passo é fazer com que a resposta seja confirmada por escrito, por exemplo por e-mail ou no próprio contrato. O terceiro passo é repetir a conversa a cada grande atualização, não apenas na primeira compra.
Muitas empresas subestimam quanto tempo isto custa uma vez que está devidamente configurado: algumas perguntas fixas, um momento fixo no processo de atualização, e um local para guardar as respostas. Quem não o tem, pode com algumas perguntas obter uma primeira indicação de onde o seu próprio software se situa aproximadamente, e com as perguntas mais frequentes sobre este assunto ter uma ideia do que outros na mesma posição enfrentam.
Por fim, ajuda determinar antecipadamente quem dentro da sua empresa conduz e acompanha esta conversa. Numa empresa de instalação, é muitas vezes o próprio diretor, num escritório maior o responsável de TI ou de compras. Enquanto esse papel não for atribuído, a conversa com o fornecedor de software permanece dependente do acaso, e é precisamente de onde vem o erro mais comum.
Pretende saber onde o seu próprio software se situa aproximadamente e que perguntas são relevantes para a sua situação? Faça a verificação rápida gratuita ou leia os tópicos que se aproximam mais da sua situação através de uma explicação de como compilamos esta informação.