Sim, você pode fazer uma avaliação inicial da classificação de risco como empresa. O Regulamento da IA funciona com categorias: desde sistemas proibidos, passando por sistemas de alto risco e sistemas com obrigações de transparência limitadas, até sistemas com poucos requisitos. Para muitas aplicações em uma empresa de PME típica — um chatbot no site, um filtro de candidatos, uma ferramenta de planejamento — é possível determinar em qual categoria algo provavelmente se enquadra com o texto do regulamento e um pouco de pesquisa.
O ponto em que a linha se estabelece é quando essa avaliação permanece incerta ou quando o resultado é que o sistema pode ser de alto risco. A partir desse ponto, não se trata mais apenas de ler o texto, mas de um julgamento que tem consequências para obrigações, documentação e responsabilidade. Você não estabelece esse julgamento definitivamente por conta própria; para isso, o aconselhamento jurídico ou coordenação com a autoridade supervisora é o caminho apropriado.
O que exatamente uma classificação de risco significa
O Regulamento não distingue sistemas de IA por quão avançados são, mas pelo que fazem e quem é afetado. Um sistema que coadjuva na decisão sobre uma candidatura, um empréstimo ou um exame se enquadra em uma categoria diferente de um sistema que apenas resume texto. A classificação depende portanto da aplicação, não da técnica por trás. Isso também significa que o mesmo tipo de software é classificado diferentemente em uma empresa em comparação com outra, dependendo do seu uso.
Por essa razão, uma classificação nunca é uma característica apenas do produto. É uma combinação do produto, do uso pretendido e do contexto em que é implementado. Quem compra ou adquire um sistema de um fornecedor faz bem em perguntar como esse fornecedor avalia a classificação por conta própria, e essa conversa é exatamente onde muitas empresas dão o primeiro passo. ler com calma os conceitos do Regulamento da IA ajuda a saber quais perguntas estão envolvidas.
O que você pode fazer razoavelmente por conta própria
Fazer uma avaliação inicial e provisória é viável para a maioria das empresas. Isso começa com um panorama: quais sistemas de IA são usados em sua empresa, para quê, e quem toma decisões com base nisso — uma pessoa ou o próprio sistema? Para sistemas que claramente não se aproximam do alto risco, como ferramentas internas para correção de texto ou planejamento sem consequências para indivíduos, essa avaliação inicial geralmente é suficiente como base para continuar.
Ajuda colocar esse panorama no papel, mesmo que provisório. Um documento breve com, para cada sistema, a aplicação, o fornecedor e a avaliação provisória fornece orientação em uma conversa posterior com um consultor ou em resposta a uma pergunta de uma autoridade supervisora. em algumas perguntas ver onde seu sistema provavelmente se situa fornece uma indicação com a qual você pode começar esse panorama, sem que se trate de um julgamento definitivo.
Quando é aconselhável solicitar ajuda
Assim que um sistema afeta decisões sobre pessoas — contratação, demissão, crédito, acesso a um serviço — ou assim que existe dúvida sobre se um sistema se enquadra na categoria de alto risco, é hora de ir além de uma avaliação própria. Isso também se aplica quando um fornecedor não fornece clareza sobre a classificação do sistema que você adquire, ou quando o sistema é implementado em vários países com uma aplicação dos regulamentos ligeiramente diferente.
Um jurista ou consultor especializado não apenas analisa o texto do regulamento, mas também observa como casos semelhantes foram avaliados até agora e o contexto preciso da sua empresa. Isso é diferente de uma indicação geral, e essa distinção é precisamente por que uma avaliação própria é um ponto de partida e não um ponto final.
Registar o que investigou
Independentemente de o fazer por conta própria ou de recorrer a ajuda, é sensato registar as medidas que adotou: quais os sistemas analisados, com base em que informações e quando. Isso não é apenas conveniente para si, é também o que uma autoridade de supervisão solicita se alguma vez surgir falta de clareza. As respostas a perguntas frequentes sobre este tipo de constituição de processos podem ser encontradas em a página de perguntas frequentes sobre o Regulamento da IA.
Pretende saber de onde vêm este tipo de informações e como as mantemos atualizadas em elektropas.com? Pode consultar a página que explica como as nossas informações são elaboradas. Uma avaliação própria é um bom começo, mas não substitui aconselhamento assim que o resultado aponta para um risco elevado ou permanece incerto.
Curioso de saber aproximadamente onde estão os seus próprios sistemas? Faça a verificação rápida gratuita ou consulte os tópicos no banco de conhecimento para ver que questões se aplicam à sua situação.