El error más común en la conversación con su proveedor de software sobre IA es que las empresas se conforman con una respuesta breve a una pregunta incorrecta. Se pregunta '¿utiliza su sistema IA?', el proveedor responde 'no' o 'un poco, pero eso es inocuo', y ahí termina. Nadie registra qué se preguntó exactamente, qué implicaba la respuesta, ni si esa respuesta se basaba en algo.
Evita este error reorganizando la conversación: no como una pregunta de sí o no, sino como una solicitud de fundamentación. Qué hace exactamente el sistema, qué decisiones toma o apoya, y en qué base sostiene el proveedor que esto entra o no en el ámbito de aplicación del Reglamento de IA. Registra esta respuesta por escrito, no porque lo hagas por mera formalidad, sino porque en un momento posterior debes poder demostrar qué pregunta formulaste y qué respuesta recibiste.
Por qué esta conversación a menudo fracasa
La conversación con un proveedor de software normalmente se produce a través de un gestor de cuentas o un servicio de asistencia, no a través de alguien que conozca el Reglamento de IA. Esa persona quiere tranquilizarte, y una breve tranquilización se da más rápido que una respuesta precisa. Además, muchos programas contienen funciones de IA integradas por un proveedor subyacente, por ejemplo un modelo de lenguaje adquirido como componente separado. La parte con la que hablas a menudo no sabe exactamente qué sucede bajo el capó.
El resultado es que las empresas reciben una respuesta que es factualmente correcta para la persona que la da, pero no es completa para la situación en la que se utiliza el producto. consulta el banco de conocimientos sobre tu tipo de software demuestra que el Reglamento hace distinciones entre diferentes funciones y categorías de riesgo, y que la respuesta a la pregunta 'es esto IA' rara vez se puede dar con una sola palabra.
Cómo se ve el error en la práctica
Una empresa de instalación adquiere un paquete de planificación con una función que asigna automáticamente citas de mantenimiento. La pregunta al proveedor es '¿contiene esto IA', la respuesta es 'no, eso es solo planificación inteligente'. Seis meses después, resulta que la función de planificación se ha ampliado con un modelo predictivo, sin que se haya llevado a cabo una conversación separada sobre esto. Nadie en la empresa de instalación se percató de ello, porque la tranquilización original se consideró definitiva.
Esta situación es ilustrativa, no excepcional: el software cambia, los proveedores agregan funciones a través de actualizaciones, y una respuesta que era correcta en el momento uno puede dejar de serlo en el momento dos. Quien lleva a cabo la conversación como una pregunta única en lugar de un tema recurrente, corre el riesgo de seguir utilizando una respuesta obsoleta.
Lo que los supervisores consideran importante en este tipo de conversaciones
Los supervisores suelen fijarse en la rastreabilidad cuando se trata de este tipo de preguntas: ¿puede una empresa demostrar qué pregunta formuló, a quién, cuándo, y en qué base se proporcionó la respuesta? Una promesa verbal sin registro es difícil de evaluar para un supervisor, simplemente porque no hay nada que evaluar. Esto no es un juicio sobre el contenido de la respuesta, sino sobre la ausencia de un rastro.
Por lo tanto, el error no es necesariamente que una empresa reciba una respuesta incorrecta, sino que la empresa no puede demostrar que formuló la pregunta y cuál fue la respuesta. Para tu situación específica y la pregunta sobre qué documentación exactamente es necesaria, te remitimos a un abogado o a la autoridad supervisora competente.
Cómo evitarlo
El primer paso es formular la pregunta de forma más concreta: no 'utiliza esto inteligencia artificial', sino 'qué componentes de este sistema adoptan o influyen en una decisión, y en qué técnica se basa esto'. El segundo paso es hacer que la respuesta se confirme por escrito, por ejemplo por correo electrónico o en el acuerdo mismo. El tercer paso es repetir la conversación en cada actualización importante, no solo en la primera compra.
Muchas empresas subestiman cuánto tiempo cuesta esto una vez que está correctamente configurado: algunas preguntas fijas, un momento fijo en el proceso de actualización, y un lugar para guardar las respuestas. Quienes no tengan esto pueden con una serie de preguntas obtener una primera indicación de dónde se encuentra aproximadamente su propio software, y con las preguntas más frecuentes sobre este tema hacerse una idea de lo que otros en la misma situación se encuentran.
Por último, ayuda determinar de antemano quién dentro de su empresa lleva a cabo y mantiene esta conversación. En una empresa de instalación, a menudo es el director mismo; en una oficina más grande, el responsable de TI o de compras. Mientras esa función no esté asignada, la conversación con el proveedor de software seguirá dependiendo del azar, y eso es exactamente de dónde procede el error más cometido.
¿Desea saber dónde se encuentra aproximadamente su propio software y qué preguntas son relevantes para su situación? Realice el escaneo rápido gratuito o lea los temas que se ajustan más a su situación mediante una explicación de cómo compilamos esta información.