Se a sua empresa trabalha com sistemas de IA e não tomou medidas para fornecer conhecimentos suficientes aos colaboradores que trabalham com eles, então falta uma obrigação que o Regulamento de IA estabelece para fornecedores e utilizadores de sistemas de IA. O Regulamento chama a isto literacia em IA: os colaboradores devem compreender suficientemente o que um sistema de IA faz, onde estão os seus limites e que riscos lhe estão associados, de acordo com a sua função. Na falta desta medida, uma empresa corre o risco de não conseguir demonstrar que cumpre esta obrigação no momento em que uma autoridade de supervisão o questionar.
As consequências concretas que isso acarreta dependem da situação: que sistema de IA está em questão, que papel a empresa desempenha e o que uma autoridade de supervisão descobre durante uma investigação. Não é possível fazer uma declaração geral sobre multas ou uma abordagem fixa por parte das autoridades de supervisão, e isso também não é o objetivo deste artigo. O que é possível descrever é o que a obrigação implica, quem a supervisiona e que tipos de consequências o próprio Regulamento permite.
O que exatamente implica a obrigação
O Regulamento de IA distingue entre diferentes papéis: quem desenvolve ou coloca um sistema de IA no mercado, e quem o utiliza dentro da própria organização. Para ambos os papéis, existe uma forma de obrigação de garantir conhecimentos suficientes do pessoal que trabalha com o sistema ou que avalia os seus resultados. Isso não significa automaticamente um curso para todos; o Regulamento deixa espaço para uma abordagem que se ajuste à função, à experiência do colaborador e ao risco do sistema utilizado. O que exatamente é suficiente não está expresso em números ou horas no próprio Regulamento, e por isso é sensato consultar o texto oficial em caso de dúvida, em vez de se basear em pressupostos.
Para empresas que enfrentam esta obrigação pela primeira vez, é útil primeiro determinar que sistemas de IA são utilizados dentro da organização e por quem. Esse inventário é frequentemente o ponto de partida em falta, não a própria informação. O base de conhecimento por tema estabelece como esta obrigação se relaciona com outras partes do Regulamento, como a classificação de risco de um sistema.
Quem supervisiona
Nos Países Baixos, a supervisão do Regulamento de IA é da responsabilidade de autoridades de supervisão que podem variar por setor e por tipo de obrigação; qual autoridade de supervisão é competente para qual aspecto ainda não está completamente definido para cada assunto neste momento. A nível da UE, existe ainda coordenação entre os Estados-Membros. Para a situação atual, remetemos para a própria autoridade de supervisão competente, não para interpretações próprias sobre quem é responsável por quê.
Uma autoridade de supervisão pode pedir justificação: que sistemas de IA são utilizados, quem trabalha com eles e como esses colaboradores foram preparados. Sem qualquer documentação, é difícil demonstrar isso, mesmo se na prática realmente foi dedicada atenção ao assunto. A documentação não é apenas uma questão de cumprir uma obrigação, mas também de poder explicar o que foi feito.
Que consequências podem resultar
O Regulamento de IA prevê um sistema de aplicação com possíveis sanções, mas a sua altura e forma dependem da natureza e gravidade da infração, e da avaliação que uma autoridade de supervisão faz em cada caso concreto. Não podemos fornecer uma estimativa da probabilidade de uma empresa específica ser controlada, nem da altura de uma eventual sanção, e isso também não é da nossa responsabilidade; isso compete à autoridade de supervisão e, para a interpretação do texto, a um jurista.
Além da trajetória de supervisão, há consequências menos visíveis, mas que ocorrem com mais frequência na prática: um contratante que, numa concorrência pública, pergunta como a literacia em IA está regulada, uma seguradora que questiona isso numa reclamação de sinistro relacionada com um sistema de IA, ou colaboradores que têm dúvidas sobre o que um sistema de IA pode ou não decidir. Este último aspecto também afeta a codeterminação: na implementação de um novo sistema de IA, o conselho de empresa pode ter um papel, independentemente da própria obrigação de literacia em IA.
O que pode fazer
Um bom ponto de partida é fazer um levantamento dos sistemas de IA utilizados dentro da empresa, quem trabalha com eles e qual é o nível de risco associado. Com base nisso, é possível determinar que forma de informação é apropriada, e não precisa ser complicado. Com algumas perguntas, obter uma indicação de onde a sua empresa se encontra geralmente já fornece orientação suficiente para determinar o próximo passo.
Para quem quiser saber como outros empresários abordam isto, ou que perguntas surgem frequentemente, a coleção de perguntas frequentes é um ponto de partida lógico. E quem considera documentar isto estruturalmente pode registar-se com uma conta profissional para acompanhar, por obrigação, o que já foi regulado e o que ainda precisa de atenção.
Esta descrição tem por objetivo esclarecer a obrigação, não avaliar se a sua empresa a cumpre. Para essa avaliação e para a explicação do texto oficial à sua situação, um advogado ou a autoridade de supervisão competente é o interlocutor apropriado.
Quer primeiro ter uma noção do local onde se encontra a sua empresa? A verificação rápida gratuita fornece uma primeira indicação, e na base de conhecimentos encontra os temas que frequentemente se relacionam, desde pessoal e IA até aos contratos com os seus fornecedores.