Sí, como empresa puede hacer una evaluación inicial de la clasificación de riesgo. La Regulación de IA funciona con categorías: desde sistemas que están prohibidos, pasando por sistemas de alto riesgo y sistemas con obligaciones de transparencia limitadas, hasta sistemas para los que apenas hay requisitos. Para muchas aplicaciones en una empresa pyme común —un chatbot en el sitio web, un filtro de solicitudes, una herramienta de planificación— es posible determinar con el texto de la regulación y un poco de investigación en qué categoría probablemente encaja algo.
El punto en el que se difumina el límite es cuando esa evaluación sigue siendo incierta o cuando el resultado es que el sistema posiblemente sea de alto riesgo. A partir de ese punto, ya no se trata de una cuestión de leer el texto, sino de un juicio que tiene consecuencias para las obligaciones, la documentación y la responsabilidad. Ese juicio no lo fija usted mismo de forma definitiva; para eso, el asesoramiento jurídico o la coordinación con la autoridad supervisora es el camino indicado.
Qué significa exactamente una clasificación de riesgo
La Regulación de IA no distingue entre sistemas de IA en función de lo avanzados que sean, sino en función de lo que hacen y a quién le afecta. Un sistema que ayuda a decidir sobre una solicitud de empleo, un préstamo o un examen cae en una categoría diferente a la de un sistema que solo resume texto. La clasificación depende, pues, de la aplicación, no de la técnica subyacente. Esto también significa que el mismo tipo de software se clasifica de manera diferente en una empresa que en otra, dependiendo de para qué se utilice.
Por esta razón, una clasificación nunca es una característica del producto únicamente. Es una combinación del producto, el propósito de uso y el contexto en el que se implementa. Quien compra o adquiere un sistema de un proveedor hace bien en preguntar cómo evalúa ese proveedor la clasificación él mismo, y esa conversación es precisamente donde muchas empresas dan el primer paso. leer con tranquilidad los conceptos de la Regulación de IA ayuda a saber qué preguntas corresponden.
Lo que puede hacer razonablemente usted mismo
Hacer una evaluación inicial y provisional es algo que la mayoría de las empresas pueden hacer bien. Eso comienza con un resumen: qué sistemas de IA se utilizan dentro de su empresa, para qué, y quién toma decisiones sobre la base de ello —¿una persona, o el propio sistema? Para sistemas que claramente no se acercan al alto riesgo, como herramientas internas para corrección de textos o planificación sin consecuencias para individuos, esa evaluación inicial suele ser suficiente como base para seguir adelante.
Ayuda poner este resumen por escrito, aunque sea provisional. Un breve documento con, para cada sistema, la aplicación, el proveedor y la evaluación provisional proporciona un punto de apoyo para una siguiente conversación con un asesor o una pregunta de una autoridad supervisora. en unas pocas preguntas ver dónde probablemente se encuentra su sistema proporciona una indicación con la que puede comenzar ese resumen, sin que esto sea un juicio definitivo.
Cuándo es aconsejable recurrir a ayuda
Tan pronto como un sistema afecte a decisiones sobre personas —contratación, despido, crédito, acceso a un servicio— o cuando exista duda sobre si un sistema entra en la categoría de alto riesgo, es el momento de ir más allá de una evaluación propia. Esto también se aplica cuando un proveedor en sí mismo no proporciona claridad sobre la clasificación del sistema que usted adquiere, o cuando el sistema se implementa en varios países con una aplicación ligeramente diferente de las normas.
Un jurista o asesor especializado no solo mira el texto del reglamento, sino también cómo se han evaluado casos similares hasta ahora y el contexto preciso de su empresa. Eso es algo diferente de una indicación general, y esa distinción es precisamente por qué una evaluación propia es un punto de partida y no un punto final.
Documentar lo que ha investigado
Independientemente de si lo hace usted mismo o contrata ayuda, es recomendable documentar los pasos que ha dado: qué sistemas se han examinado, sobre la base de qué información y cuándo. Eso no solo es útil para usted, también es lo que una autoridad de vigilancia le preguntará si alguna vez surge alguna incertidumbre. Las respuestas a las preguntas frecuentes sobre este tipo de formación de expedientes se pueden encontrar en la página de preguntas frecuentes sobre la Regulación de IA.
¿Desea saber de dónde procede este tipo de información y cómo la mantenemos en elektropas.com? Lo puede leer en la página que explica cómo se elabora nuestra información. Una evaluación propia es un buen comienzo, pero no reemplaza el asesoramiento una vez que el resultado apunta hacia alto riesgo o sigue siendo incierto.
¿Quiere saber aproximadamente dónde se encuentran sus propios sistemas? Realice el análisis rápido gratuito u hojee los temas en la base de conocimientos para ver qué preguntas se ajustan a su situación.