Si su empresa trabaja con sistemas de IA y no ha adoptado medidas para proporcionar a los trabajadores que los utilizan los conocimientos suficientes, incumple una obligación que el Reglamento de IA impone a los proveedores y usuarios de sistemas de IA. El Reglamento denomina esto alfabetización en IA: los trabajadores deben comprender suficientemente qué hace un sistema de IA, dónde están sus límites y qué riesgos conlleva, en función de su función. Si falta esa medida, la empresa corre el riesgo de no poder demostrar ante una autoridad supervisora que cumple con esta obligación cuando esta la cuestione al respecto.
Las consecuencias concretas dependerán de la situación: del sistema de IA de que se trate, de la función que desempeñe la empresa y de lo que encuentre una autoridad supervisora en una inspección. No es posible hacer una declaración general sobre sanciones pecuniarias o un enfoque fijo de las autoridades supervisoras, ni es la intención de este artículo hacerlo. Sin embargo, es posible describir qué implica la obligación, quién la supervisa y qué tipos de consecuencias permite el propio Reglamento.
Qué implica exactamente la obligación
El Reglamento de IA distingue entre diferentes funciones: quién desarrolla o comercializa un sistema de IA, y quién lo utiliza dentro de su propia organización. Ambas funciones están sujetas a una forma de obligación de garantizar conocimientos suficientes entre el personal que trabaja con el sistema o evalúa sus resultados. Esto no significa automáticamente un curso para todos; el Reglamento deja margen para un enfoque que se adapte a la función, la experiencia del trabajador y el riesgo del sistema utilizado. Lo que es exactamente suficiente no viene expresado en números u horas en el propio Reglamento, por lo que es prudente consultar el texto oficial en caso de duda en lugar de basarse en suposiciones.
Para las empresas que se enfrentan a esta obligación por primera vez, es útil determinar primero qué sistemas de IA se utilizan dentro de la organización y por quién. Ese inventario es a menudo el punto de partida que falta, no la información en sí. En el base de conocimientos por tema se explica cómo esta obligación se relaciona con otros aspectos del Reglamento, como la clasificación de riesgo de un sistema.
Quién supervisa
En los Países Bajos, la supervisión del Reglamento de IA corresponde a autoridades supervisoras que pueden variar según el sector y el tipo de obligación; qué autoridad supervisora es competente para cada aspecto no se ha definido completamente en todos los temas en este momento. A nivel de la UE, existe además coordinación entre los Estados miembros. Para la situación actualizada, nos remitimos a la propia autoridad supervisora competente, no a interpretaciones propias sobre quién es responsable de qué.
Una autoridad supervisora puede solicitar documentación: qué sistemas de IA se utilizan, quién trabaja con ellos y cómo se ha preparado a esos trabajadores. Sin ningún registro, es difícil demostrarlo, incluso si en la práctica se ha prestado atención. El registro no es solo una cuestión de cumplir una obligación, sino también de poder explicar qué se ha hecho.
Qué consecuencias pueden derivarse
El Reglamento de IA prevé un sistema de ejecución con posibles sanciones, pero la cuantía y la forma dependen de la naturaleza y gravedad del incumplimiento, y de la evaluación que realice una autoridad supervisora en un caso concreto. No podemos estimar la probabilidad de que una empresa específica sea inspeccionada, ni la cuantía de una posible sanción, y tampoco es nuestra función; eso corresponde a la autoridad supervisora y, para la interpretación del texto, a un jurista.
Además de la trayectoria de supervisión, hay consecuencias que son menos visibles pero que en la práctica ocurren con más frecuencia: un contratante que en una licitación pregunta cómo se ha regulado la alfabetización en IA, un asegurador que pregunta al respecto en una reclamación de seguros relacionada con un sistema de IA, o empleados que tienen dudas sobre lo que un sistema de IA puede o no puede decidir. Lo último también afecta a la participación de los empleados: cuando se implementa un nuevo sistema de IA, el comité de empresa puede tener un papel, independientemente de la propia obligación de alfabetización en IA.
Qué puede hacer
Un buen punto de partida es hacer un inventario de los sistemas de IA que se utilizan en la empresa, quién trabaja con ellos y qué nivel de riesgo conlleva. Sobre esa base, se puede determinar qué forma de información es apropiada, y no tiene que ser complicada. Con algunas preguntas para obtener una indicación de dónde se encuentra su empresa a menudo ya proporciona suficiente orientación para determinar el siguiente paso.
Para quienes quieran saber cómo otros empresarios lo hacen, o qué preguntas surgen con frecuencia, la recopilación de preguntas frecuentes es un punto de partida lógico. Y quien considere documentar esto de manera estructurada, puede registrarse con una cuenta comercial para registrar por obligación qué ya está regulado y qué aún requiere atención.
Esta descripción tiene la intención de aclarar la obligación, no de evaluar si su empresa la cumple. Para esa evaluación, y para la explicación del texto oficial a su situación, un abogado o la autoridad de supervisión competente es el punto de contacto correcto.
¿Desea obtener primero una idea clara de dónde se encuentra su empresa? El análisis rápido gratuito proporciona una indicación inicial, y en el banco de conocimientos encontrará los temas que a menudo van juntos, desde el personal y la IA hasta los contratos con sus proveedores.