Qual erro as empresas cometem com mais frequência em contratos de compra para sistemas de IA
O erro mais comum é que uma empresa compra um sistema de IA sem estabelecer no contrato quem tem qual papel: o fornecedor ou o cliente. Muitos contratos de compra de software foram elaborados anos atrás, muito antes do regulamento de IA, e tratam de licenças, atualizações e suporte. Eles não dizem nada sobre classificação de risco, sobre quem fornece as instruções de uso, ou sobre o que acontece se o fornecedor adaptar o software com novas funções de IA.
A consequência é que uma empresa assume na aquisição que o fornecedor "resolveu tudo", enquanto o regulamento faz distinção entre o fornecedor de um sistema de IA e o utilizador responsável que implementa o sistema dentro da sua própria organização. Esses dois papéis podem coincidir, mas não precisam. Sem um acordo explícito no contrato, permanece obscuro em quem recai qual obrigação no momento em que isso realmente importa.
Por que isso falha com mais frequência do que o esperado
Os departamentos de compras e gerentes de TI historicamente olham para funcionalidade, preço e segurança. Isso também faz sentido: essas eram até pouco tempo as questões mais importantes na compra de software. O regulamento de IA acrescenta uma camada que não entra naturalmente nos processos de compra existentes, simplesmente porque ninguém no departamento de compras está acostumado a fazer essa pergunta. Um fornecedor que não é explicitamente questionado sobre seu papel raramente fornecerá essa informação espontaneamente.
Uma segunda razão é que muita funcionalidade de IA chega via atualizações em software existente, sem que um novo contrato seja celebrado. Um programa contábil recebe um assistente de IA, uma ferramenta de planejamento recebe sugestões automáticas de agendamento. O contrato original não cobre essa função, e ninguém verifica posteriormente se os termos ainda se aplicam ao que o sistema agora faz.
O que dá errado na prática
O erro geralmente só se manifesta quando uma empresa precisa demonstrar algo: quando questionada por uma autoridade de supervisão, durante uma auditoria de um cliente, ou simplesmente porque o conselho de administração pergunta como uma aplicação de IA foi desenvolvida. Então fica claro que não há documentação sobre a classificação do sistema, nenhuma pessoa de contato no fornecedor para este assunto, e nenhum acordo contratual sobre quem fornece qual informação quando o software muda.
Além disso, a questão sobre dados pessoais é frequentemente tratada separadamente da questão sobre IA, embora na prática frequentemente se sobreponham. Um acordo de processamento no contexto do RGPD regula algo diferente da questão sobre qual papel uma parte tem sob o regulamento de IA; um não substitui o outro.
Como evitar isso em um novo contrato
O passo mais prático é ter a conversa com o fornecedor no início do processo de compra, não depois. Pergunte explicitamente qual papel o fornecedor se atribui, qual documentação acompanha o sistema, e o que está contratualmente acordado sobre alterações na funcionalidade de IA durante o período do contrato. Documente essas respostas, mesmo que a resposta neste momento ainda esteja incompleta: um fornecedor que ainda não consegue fornecer clareza também é uma informação que vale a pena documentar.
Ajuda separar essa questão da lista de verificação de compra habitual sobre preço e funcionalidade, precisamente porque esses dois assuntos são avaliados por pessoas diferentes na organização. Quem tratar isso como um ponto de atenção separado evita que caia entre as cadeiras. Em a base de conhecimentos por tema está uma visão geral das perguntas que frequentemente surgem em tais conversas, organizadas de acordo com a fase em que uma empresa se encontra.
Revisar contratos existentes
Para contratos em vigor, recomenda-se colocar as mesmas questões novamente na próxima alteração contratual, extensão ou notificação de atualização. Um contrato não precisa ser aberto imediatamente, mas uma anotação no próximo contacto com o fornecedor evita que o assunto fique em suspenso por mais anos. Empresas que não sabem em que ponto se encontram neste momento, podem obter uma indicação inicial em algumas perguntas de quais temas são relevantes para a sua situação.
Se e como um contrato específico deve ser ajustado, e qual responsabilidade daí decorre, é uma questão para um jurista ou, para questões sobre supervisão, à autoridade supervisora competente. Este artigo descreve apenas onde o erro geralmente ocorre, não qual é o ajuste correto para o seu próprio contrato.
Perguntas frequentes sobre este tipo de questões de compras, incluindo perguntas que outros leitores já colocaram, estão compiladas em a página de perguntas frequentes. Se pretende primeiro ter uma visão geral de onde a sua organização se encontra, faça a quick-scan gratuita ou navegue pelos temas no banco de conhecimento; ambos estão acessíveis sem qualquer obrigação.