L'erreur la plus courante dans la conversation avec votre fournisseur de logiciels sur l'IA est que les entreprises se contentent d'une réponse brève à une mauvaise question. On demande « votre système utilise-t-il l'IA ? », le fournisseur répond « non » ou « un peu, mais c'est inoffensif », et c'en est fini. Personne ne consigne précisément ce qui a été demandé, ce que la réponse impliquait, ni si cette réponse était fondée sur quelque chose.
Vous pouvez éviter cette erreur en structurant la conversation différemment : non pas comme une question oui ou non, mais comme une demande de justification. Que fait précisément le système, quelles décisions prend-il ou soutient-il, et sur quelle base le fournisseur affirme-t-il que cela relève ou non du règlement sur l'IA. Vous consignez cette réponse par écrit, non pas pour le plaisir, mais parce que vous devrez pouvoir démontrer ultérieurement quelle question vous avez posée et quelle réponse vous avez reçue.
Pourquoi cette conversation tourne souvent mal
La conversation avec un fournisseur de logiciels se fait généralement par l'intermédiaire d'un gestionnaire de compte ou d'un helpdesk, et non par quelqu'un qui connaît le règlement sur l'IA. Cette personne veut vous rassurer, et une brève tranquillité d'esprit se donne plus rapidement qu'une réponse précise. De plus, de nombreux logiciels contiennent des fonctionnalités d'IA intégrées par un fournisseur sous-jacent, par exemple un modèle de langage acheté en tant que composant distinct. La partie avec laquelle vous parlez ne sait souvent pas exactement ce qui se passe sous le capot.
Il en résulte que les entreprises reçoivent une réponse qui est factuellement correcte pour la personne qui la donne, mais qui n'est pas complète pour la situation dans laquelle le produit est utilisé. consultez la base de connaissances sur votre type de logiciel montre que le règlement fait une distinction entre différents rôles et catégories de risques, et que la réponse à la question « est-ce de l'IA » ne peut rarement être donnée en un seul mot.
Comment l'erreur se manifeste en pratique
Une entreprise d'installation achète un logiciel de planification avec une fonction qui assigne automatiquement les interventions d'entretien. La question posée au fournisseur est « y a-t-il de l'IA dedans », la réponse est « non, c'est juste de la planification intelligente ». Six mois plus tard, il s'avère que la fonction de planification a été étendue avec un modèle prédictif, sans qu'une conversation distincte ait eu lieu à ce sujet. Personne dans l'entreprise d'installation n'a remarqué cela, car la tranquillité d'esprit initiale a été considérée comme définitive.
Cette situation est illustrative, non exceptionnelle : les logiciels changent, les fournisseurs ajoutent des fonctionnalités par le biais de mises à jour, et une réponse qui était correcte au moment un ne l'est peut-être pas au moment deux. Celui qui mène la conversation comme une question ponctuelle plutôt que comme un sujet récurrent risque de continuer à utiliser une réponse obsolète.
Ce que les autorités de surveillance considèrent comme important dans ces conversations
Les autorités de surveillance examinent généralement la traçabilité dans ces questions : une entreprise peut-elle démontrer quelle question elle a posée, à qui, quand, et sur la base de quelles informations la réponse a été donnée. Une assurance verbale sans documentation est difficile à évaluer pour une autorité de surveillance, simplement parce qu'il n'y a rien à évaluer. Ce n'est pas un jugement sur le contenu de la réponse, mais sur l'absence de trace.
Par conséquent, l'erreur n'est pas nécessairement qu'une entreprise reçoit une mauvaise réponse, mais qu'elle ne peut pas démontrer qu'elle a posé la question et quelle réponse elle a reçue. Pour votre situation particulière et la question de la documentation précisément nécessaire, nous vous renvoyons à un juriste ou à l'autorité de surveillance compétente.
Comment l'éviter
La première étape consiste à poser la question de manière plus concrète : non pas « s'agit-il d'IA », mais « quels éléments de ce système interviennent dans une décision ou l'influencent, et sur quelle technique cela repose-t-il ». La deuxième étape consiste à faire confirmer la réponse par écrit, par exemple par courrier électronique ou dans le contrat lui-même. La troisième étape consiste à renouveler la conversation à chaque mise à jour majeure, et non seulement lors du premier achat.
Beaucoup d'entreprises sous-estiment le temps que cela prend une fois que c'est correctement mis en place : quelques questions fixes, un moment fixe dans le processus de mise à jour, et un endroit pour conserver les réponses. Ceux qui n'en ont pas peuvent utiliser obtenir une première indication à partir de quelques questions pour voir où se situe à peu près leur propre logiciel, et avec les questions les plus fréquemment posées sur ce sujet se faire une idée de ce que les autres rencontrent dans la même situation.
Enfin, il est utile de déterminer à l'avance qui au sein de votre entreprise mène et assure le suivi de cette conversation. Dans une entreprise d'installation, c'est souvent le directeur lui-même, dans un cabinet plus important, le responsable informatique ou des achats. Tant que ce rôle n'est pas attribué, la conversation avec l'éditeur de logiciels reste soumise au hasard, et c'est précisément d'où vient l'erreur la plus courante.
Voulez-vous savoir où se situe à peu près votre propre logiciel et quelles questions sont pertinentes pour votre situation ? Effectuez l'analyse rapide gratuite ou consultez les sujets qui se rapprochent le plus de votre situation via une explication sur la manière dont nous compilons ces informations.