Oui, vous pouvez faire une première évaluation de la classification de risque en tant qu'entreprise. Le règlement sur l'IA fonctionne avec des catégories : des systèmes interdits, en passant par les systèmes à haut risque et les systèmes soumis à des obligations limitées en matière de transparence, jusqu'aux systèmes qui imposent à peine d'exigences. Pour de nombreuses applications dans une PME ordinaire — un chatbot sur le site web, un filtre de candidatures, un outil de planification — il est possible de déterminer avec le texte du règlement et un peu de recherche dans quelle catégorie quelque chose s'inscrit probablement.
Le moment où la limite se fait sentir est celui où cette évaluation reste incertaine ou où il s'avère que le système pourrait être à haut risque. À partir de ce point, il ne s'agit plus seulement de lire le texte, mais d'un jugement qui a des conséquences pour les obligations, la documentation et la responsabilité. Vous ne fixez pas vous-même ce jugement de manière définitive ; pour cela, un avis juridique ou une coordination avec l'autorité de surveillance est la voie appropriée.
Ce qu'une classification de risque signifie exactement
Le règlement ne classe pas les systèmes d'IA selon leur sophistication, mais selon ce qu'ils font et quelles en sont les conséquences pour qui. Un système qui contribue à décider d'une candidature, d'un prêt ou d'un examen relève d'une catégorie différente d'un système qui se contente de résumer du texte. La classification dépend donc de l'application, non pas de la technique qui la sous-tend. Cela signifie aussi qu'un même type de logiciel est classé différemment dans une entreprise que dans une autre, selon son utilisation.
C'est la raison pour laquelle une classification n'est jamais une caractéristique du produit seul. C'est une combinaison du produit, de l'usage prévu et du contexte dans lequel il est déployé. Celui qui achète ou adopte un système auprès d'un fournisseur fait bien de lui demander comment le fournisseur évalue lui-même la classification, et cette conversation est exactement l'endroit où beaucoup d'entreprises font leurs premiers pas. lire calmement les concepts du règlement sur l'IA aide à savoir quelles questions en découler.
Ce que vous pouvez raisonnablement faire vous-même
Une première évaluation provisoire est faisable pour la plupart des entreprises. Cela commence par un aperçu : quels systèmes d'IA sont utilisés dans votre entreprise, pour quoi, et qui prend des décisions sur la base de ces systèmes — un être humain, ou le système lui-même ? Pour les systèmes qui ne s'approchent clairement pas du haut risque, comme les outils internes de correction de texte ou de planification sans conséquences pour les individus, cette première évaluation suffit souvent de base pour avancer.
Il est utile de mettre cet aperçu par écrit, même s'il est provisoire. Un bref document indiquant par système l'application, le fournisseur et l'évaluation provisoire donne des points de repère pour une prochaine conversation avec un conseiller ou une question d'une autorité de surveillance. voir en quelques questions où votre système se situe probablement donne une indication avec laquelle vous pouvez commencer cet aperçu, sans que cela soit un jugement définitif.
Quand solliciter une aide est judicieux
Dès qu'un système touche à des décisions concernant des personnes — embauche, licenciement, crédit, accès à un service — ou dès qu'il existe un doute quant à savoir si un système relève de la catégorie à haut risque, le moment est venu d'aller au-delà d'une évaluation interne. Cela s'applique également lorsqu'un fournisseur lui-même ne donne pas de clarté sur la classification du système que vous adoptez, ou lorsque le système est déployé dans plusieurs pays avec une application légèrement différente des règles.
Un juriste ou un conseiller spécialisé ne se contente pas de regarder le texte du règlement, mais aussi comment des cas similaires ont été évalués jusqu'à présent et le contexte précis de votre entreprise. C'est quelque chose de différent d'une simple indication générale, et cette distinction est précisément la raison pour laquelle une autoévaluation est un point de départ et non un point final.
Documenter ce que vous avez examiné
Que vous le fassiez vous-même ou que vous fassiez appel à une aide, il est judicieux de documenter les étapes que vous avez franchies : quels systèmes ont été examinés, sur la base de quelles informations, et quand. Ce n'est pas seulement agréable pour vous, c'est aussi ce qu'une autorité de surveillance demande en cas de doute. Les réponses aux questions fréquemment posées sur ce type de constitution de dossier se trouvent sur la page des questions fréquemment posées sur le règlement sur l'IA.
Voulez-vous savoir d'où proviennent ce type d'informations et comment nous les maintenons sur elektropas.com ? Vous le lirez sur la page qui explique comment nos informations sont élaborées. Une autoévaluation est un bon début, mais ne remplace pas un conseil dès que le résultat pointe vers un risque élevé ou reste incertain.
Curieux de savoir où vos propres systèmes en sont ? Effectuez l'analyse rapide gratuite ou parcourez les sujets dans la base de connaissances pour voir quelles questions correspondent à votre situation.