A IA Regulação não se aplica a um setor inteiro ou apenas a grandes empresas. Aplica-se a quem desempenha um papel específico em relação a um sistema de IA: se o desenvolve, coloca no mercado, ou o utiliza dentro da sua própria organização. Uma empresa de instalação com dez funcionários pode estar abrangida tal como uma multinacional, assim que um sistema de IA for implementado que se insira no âmbito de aplicação da Regulação.
Para a maioria das empresas de PME a questão não se coloca porque elas mesmas desenvolvem IA, mas porque utilizam software com uma função de IA incorporada: uma ferramenta de seleção de CVs, um chatbot no sítio web, um sistema de planeamento que sugere automaticamente escalas. Nessa situação, normalmente não é o fornecedor do sistema de IA, mas o denominado utilizador responsável. Trata-se de um papel menos exigente do que o da parte que desenvolveu o sistema, mas não sem obrigações: a Regulação distingue diferentes categorias de risco, e qual a categoria aplicável determina que obrigações estão associadas a esse papel.
O papel determina a obrigação, não o setor
A Regulação funciona com uma classificação baseada no risco. Algumas aplicações são consideradas de risco inaceitável e são proibidas, outras de alto risco com obrigações associadas, e muitas aplicações ficam fora dessas categorias mais gravosas. Um chatbot que responde a questões de clientes, na prática, frequentemente fica numa categoria diferente de um sistema que cofunciona na decisão sobre quem é contratado ou despedido. Esta última categoria, seleção e avaliação de pessoal, é mencionada na Regulação como exemplo de uma aplicação que exige atenção especial, precisamente porque o resultado tem consequências diretas para indivíduos.
Isto significa que duas empresas no mesmo setor podem ser afetadas de forma diferente. Uma organização administrativa que utiliza apenas uma ferramenta de planeamento fica numa posição diferente de uma organização que utiliza IA no recrutamento e seleção de pessoal. A questão não é portanto "faço IA", mas "que tipo de sistema de IA utilizo, e em que papel".
Exemplos práticos de uma empresa de PME
Um gestor de recursos humanos que adquire uma ferramenta de candidaturas com funcionalidade de IA torna-se assim utilizador responsável desse sistema. O fornecedor da ferramenta é normalmente o fornecedor e assume uma parte diferente das obrigações, mas isso não exonera automaticamente o utilizador de toda a responsabilidade. Um gestor administrativo que utiliza um gerador de texto para redigir textos de anúncio de emprego situa-se, normalmente, numa categoria menos exigente do que quando esse gerador também participa na decisão sobre quem é convidado para uma conversa.
Um diretor de uma empresa de instalação que utiliza software de planeamento orientado por IA para alocar técnicos encontra-se numa situação diferente de quando esse mesmo software é também utilizado para fundamentar avaliações de desempenho. A técnica pode ser idêntica; a aplicação e o efeito nas pessoas determinam a classificação. É precisamente por isso que uma afirmação geral como "isto não se aplica a pequenas empresas" não é exata: o tamanho da empresa não tem qualquer papel na própria Regulação ao determinar a categoria de risco.
E se utilizar apenas uma ferramenta pronta a usar
Muitas empresas adquirem software e não fazem qualquer ajuste. Mesmo assim, a Regulação pode ser aplicável, embora normalmente com um conjunto menos exigente de obrigações do que para a parte que desenvolveu o sistema. A questão prática que se coloca não é apenas jurídica: que informação fornece o seu fornecedor sobre a natureza do sistema, e essa informação é suficiente para poder determinar por si próprio em que categoria se insere. passar com calma pelos conceitos e categorias fornece um ponto de partida, sem que precise imediatamente de um jurista.
Isto também afecta a conversa que, enquanto parte contratante, tem com um fornecedor de software: não apenas sobre preço e funcionalidade, mas também sobre o que o sistema faz exatamente com os dados dos seus colaboradores ou clientes, e se o fornecedor já trabalhou com a classificação. Quem tiver essa conversa apenas depois de o sistema já estar em uso perde o momento em que isto é mais fácil de regular.
Onde pode verificar isto para a sua situação pessoal
Uma vez que a classificação depende do sistema específico e da aplicação específica na sua organização, uma resposta geral é sempre um ponto de partida, não um ponto final. Para a sua situação pessoal, é aconselhável consultar o texto oficial ou contactar a autoridade supervisora competente; uma plataforma como a nossa pode ajudá-lo a ver rapidamente que questões são relevantes. Com algumas perguntas que lhe dão imediatamente uma indicação obtém sem compromisso uma primeira ideia de onde a sua situação pode estar.
Tem curiosidade em saber como obtemos as nossas informações e porque deliberadamente não fazemos afirmações definitivas sobre casos individuais? Explicamo-lo em a página sobre como a nossa informação é criada. E se se deparar com uma questão que não é respondida aqui, consulte a colecção de perguntas frequentes ou faça a verificação rápida gratuita para ver que tópicos são relevantes para a sua empresa.