Cuál es el error más frecuente que cometen las empresas en los contratos de compra de sistemas de IA
El error más común es que una empresa compre un sistema de IA sin establecer en el contrato quién tiene qué rol: el proveedor o el comprador. Muchos contratos de compra de software se redactaron hace años, mucho antes de la Reglamentación de IA, y tratan sobre licencias, actualizaciones y soporte. No dicen nada sobre clasificación de riesgos, sobre quién proporciona las instrucciones de uso, o sobre qué sucede si el proveedor adapta el software con nuevas funciones de IA.
La consecuencia es que una empresa asume en el momento de la compra que el proveedor "ya lo ha arreglado", mientras que la Reglamentación distingue entre el proveedor de un sistema de IA y el responsable del uso que despliega el sistema dentro de su propia organización. Estos dos roles pueden coincidir, pero no tienen por qué. Sin un acuerdo explícito en el contrato, queda poco claro en quién recae cada obligación en el momento en que realmente importa.
Por qué esto falla más a menudo de lo esperado
Los departamentos de compras y los gestores de TI tradicionalmente han buscado funcionalidad, precio y seguridad. Eso también tiene sentido: hasta hace poco estas eran las preguntas más importantes en la compra de software. La Reglamentación de IA añade una capa que no encaja naturalmente en los procesos de compra existentes, simplemente porque nadie en el equipo de compras está acostumbrado a hacer esa pregunta. Un proveedor que no es explícitamente preguntado por su rol rara vez proporcionará esa información sin que se le solicite.
Una segunda razón es que mucha funcionalidad de IA ahora llega a través de actualizaciones en software existente, sin que se celebre un nuevo contrato. Un paquete de contabilidad obtiene un asistente de IA, una herramienta de planificación obtiene propuestas de turnos automáticas. El contrato original no cubre esa función, y nadie verifica posteriormente si las condiciones siguen siendo válidas para lo que el sistema hace ahora.
Qué falla en la práctica
El error generalmente solo se manifiesta cuando una empresa tiene que demostrar algo: ante una pregunta de un supervisor, en una auditoría de un cliente, o simplemente porque el consejo de empresa pregunta cómo se desarrolló una aplicación de IA. Entonces resulta que no hay documentación sobre la clasificación del sistema, no hay una persona de contacto en el proveedor para este tema, y no hay un acuerdo contractual sobre quién proporciona qué información cuando el software cambia.
Además, la cuestión de los datos personales a menudo se trata por separado de la cuestión de la IA, aunque en la práctica a menudo coincidan. Un acuerdo de procesamiento en el marco del RGPD aborda algo diferente que la cuestión de qué rol tiene una parte bajo la Reglamentación de IA; uno no reemplaza al otro.
Cómo evitar esto en un nuevo contrato
El paso más práctico es tener la conversación con el proveedor temprano en el proceso de compra, no después. Pregunte explícitamente qué rol se atribuye a sí mismo el proveedor, qué documentación acompaña al sistema, y qué se ha establecido contractualmente sobre cambios en la funcionalidad de IA durante el período de contrato. Registre esas respuestas, incluso si la respuesta en este momento aún es incompleta: un proveedor que aún no puede dar claridad también es un hallazgo que vale la pena documentar.
Ayuda separar esta pregunta de la lista de verificación de compra habitual sobre precio y funcionalidad, precisamente porque estos dos temas son evaluados por diferentes personas en la organización. Quien trata esto como un punto de atención separado evita que se pierda en el camino. En la base de conocimientos por tema hay una descripción de las preguntas que suelen surgir en este tipo de conversaciones, organizadas según la fase en que se encuentra una empresa.
Revisar los contratos existentes
Para contratos en curso, se recomienda plantear nuevamente las mismas preguntas en la próxima modificación contractual, prórroga o notificación de actualización. No es necesario reabrir un contrato de inmediato, pero una nota en el siguiente contacto con el proveedor evita que el tema siga pendiente durante años. Las empresas que no saben dónde se encuentran en este momento pueden obtener una primera indicación en un par de preguntas de qué temas son relevantes para su situación.
Si un contrato específico debe modificarse y cómo, así como qué responsabilidad conlleva, es una pregunta para un abogado o, para cuestiones sobre supervisión, la autoridad de supervisión competente. Este artículo solo describe dónde suele originarse el error, no cuál es el ajuste correcto para su propio contrato.
Las preguntas frecuentes sobre este tipo de cuestiones de compra, incluidas las preguntas que otros lectores ya han formulado, se encuentran recopiladas en la página de preguntas frecuentes. Si desea obtener primero una visión general de dónde se encuentra su organización, realice el escaneo rápido gratuito u hojee los temas en la base de conocimientos; ambos son accesibles sin obligación.