Qué cambia este año en la Regulación de IA
La Regulación de IA, también conocida como AI Act, no entra completamente en vigor de una sola vez. Las normas se aplican en fases, distribuidas a lo largo de varios años, y cada año entra en aplicación una nueva parte de la regulación. Este año es nuevamente uno de esos momentos: las obligaciones relativas a los sistemas de IA de alto riesgo se acercan, y en los Estados miembros queda cada vez más claro qué autoridad supervisora hará cumplir la regulación.
Para usted como empresario, esto significa sobre todo que la cuestión de si su empresa utiliza un sistema de IA que cae en una categoría más pesada se vuelve más actual que antes. No toda empresa que trabaja con IA se enfrenta a esta fase; depende del tipo de sistema y del propósito para el que se utilice.
Por qué la regulación entra en vigor en fases
El legislador europeo ha optado por una implantación gradual, para que los proveedores, autoridades supervisoras y usuarios tengan tiempo para prepararse para las obligaciones más pesadas. La primera fase, que ya ha terminado, afectaba a una prohibición de un grupo limitado de aplicaciones de IA con riesgo inaceptable, y la obligación de proporcionar al personal que trabaja con IA conocimientos suficientes sobre lo que hace el sistema.
Una siguiente fase trajo normas para los proveedores de modelos de IA para propósitos generales, los modelos en los que se basan muchas aplicaciones, y la designación de autoridades supervisoras nacionales por Estado miembro. Esas dos fases están atrás; la fase que llega este año se trata de sistemas que la regulación designa como de alto riesgo. Si desea verlo por fase en una lista, lo encontrará de forma clara en el banco de conocimientos en el que cada tema ha sido investigado por separado.
Qué es concreto este año
Los sistemas de IA de alto riesgo son sistemas que se utilizan en situaciones con posibles grandes consecuencias para las personas, por ejemplo en la selección de personal, en la evaluación de la solvencia crediticia, o en el acceso a la educación. Para esta categoría se aplican requisitos más estrictos: gestión del riesgo demostrable, supervisión humana y documentación que explique el funcionamiento del sistema.
Exactamente qué plazo se aplica a qué tipo de sistema, y qué excepciones hay al respecto, está establecido en la regulación misma. Para sistemas que ya están cubiertos por la legislación de seguridad de productos existente, como ciertos equipos o dispositivos médicos, generalmente se aplica un período de transición más largo que para sistemas que no lo están. Si duda si un sistema que su empresa utiliza cae en esta categoría, esa es en primera instancia una pregunta para el proveedor del sistema, y para la interpretación legal una pregunta para un abogado. Si aún no tiene una imagen clara de dónde se encuentra su empresa, entonces un par de preguntas dan inmediatamente una primera indicación.
Para quién es relevante
Un responsable de recursos humanos que utiliza software que preselecciona u ordena candidatos tiene este año una razón concreta para preguntarle al proveedor cómo se ha clasificado ese software. Un responsable de oficina que solo utiliza un asistente de escritura o una herramienta de planificación, en la mayoría de los casos queda fuera de esta categoría más pesada, pero la regulación también conoce obligaciones más ligeras, como indicar que alguien está en conversación con un sistema de IA en lugar de con una persona.
Un director de una empresa de instalación que utiliza IA para presupuestos o planificación de rutas haría bien en revisar por aplicación en qué categoría cae, en lugar de evaluarlo de una sola vez para toda la organización. Las preguntas que a menudo surgen aquí, desde aplicabilidad hasta documentación, se pueden encontrar bajo las respuestas a preguntas que otros empresarios también hacen.
Qué puede hacer este año
No es necesario que, como pequeña o mediana empresa, comprenda por sí misma la totalidad de la verordening. Sí ayuda tener un panorama de qué sistemas de IA se utilizan dentro de su organización, quién los utiliza y con qué propósito, para que pueda plantear esa pregunta más fácilmente a un proveedor o asesor.
¿Desea saber de dónde procede la información en esta plataforma y cómo se mantiene? Eso está explicado en la página sobre el origen de nuestra información. Para la aplicación a su situación específica, la autoridad competente de supervisión, o un jurista, sigue siendo el interlocutor indicado.
Finalmente
La verordening sobre IA no lo cambia todo de una vez este año, sino en pasos que tienen más peso para algunas empresas que para otras. No dude en realizar el análisis rápido gratuito u hojear la base de conocimientos para ver si, y en qué caso, este año es relevante para su empresa.