Ja, eine erste Einschätzung der Risikoeinstufung können Sie als Unternehmen selbst vornehmen. Die KI-Verordnung arbeitet mit Kategorien: von Systemen, die verboten sind, über Systeme mit hohem Risiko und Systeme mit begrenzten Transparenzanforderungen, bis hin zu Systemen, für die kaum Anforderungen gelten. Für viele Anwendungen in einem typischen KMU-Unternehmen — einen Chatbot auf der Website, einen Bewerbungsfilter, ein Planungstool — lässt sich mit dem Text der Verordnung und etwas Recherche bestimmen, in welche Kategorie etwas wahrscheinlich fällt.
Wo die Grenze liegt, ist der Punkt, an dem diese Einschätzung unsicher bleibt oder an dem sich herausstellt, dass das System möglicherweise ein hohes Risiko darstellt. Ab diesem Punkt geht es nicht mehr darum, einen Text zu lesen, sondern um eine Beurteilung, die Auswirkungen auf Verpflichtungen, Dokumentation und Haftung hat. Diese Beurteilung legen Sie nicht selbst endgültig fest; dafür sind rechtliche Beratung oder Abstimmung mit der Aufsichtsbehörde der richtige Weg.
Was eine Risikoeinstufung genau bedeutet
Die Verordnung unterscheidet KI-Systeme nicht danach, wie fortgeschritten sie sind, sondern danach, was sie tun und wer davon betroffen ist. Ein System, das bei einer Bewerbung, einem Darlehen oder einer Prüfung mitentscheidet, fällt in eine andere Kategorie als ein System, das nur Text zusammenfasst. Die Einstufung hängt also von der Anwendung ab, nicht von der dahinter stehenden Technik. Das bedeutet auch, dass dieselbe Art von Software in einem Unternehmen anders eingestuft wird als in einem anderen, je nachdem, wofür sie eingesetzt wird.
Aus diesem Grund ist eine Einstufung nie ein Merkmal des Produkts allein. Es ist eine Kombination aus dem Produkt, dem Verwendungszweck und dem Kontext, in dem es eingesetzt wird. Wer ein System von einem Lieferanten kauft oder bezieht, sollte nachfragen, wie dieser Lieferant die Einstufung selbst beurteilt, und dieses Gespräch ist genau der erste Schritt, den viele Unternehmen unternehmen. die Begriffe aus der KI-Verordnung sorgfältig durchlesen hilft zu wissen, welche Fragen damit verbunden sind.
Was Sie angemessenerweise selbst tun können
Eine erste, vorläufige Einschätzung zu treffen ist für die meisten Unternehmen gut zu bewerkstelligen. Das beginnt mit einem Überblick: Welche KI-Systeme werden in Ihrem Unternehmen eingesetzt, wofür, und wer trifft auf dieser Grundlage Entscheidungen — ein Mensch oder das System selbst? Bei Systemen, die offensichtlich nicht in die Nähe von hohem Risiko kommen, wie interne Tools zur Textkorrektur oder Planung ohne Auswirkungen auf Einzelpersonen, ist diese erste Einschätzung oft ausreichend als Grundlage für die weitere Arbeit.
Es hilft, diesen Überblick schriftlich festzuhalten, auch wenn er vorläufig ist. Ein kurzes Dokument mit pro System der Anwendung, dem Lieferanten und der vorläufigen Einschätzung gibt Orientierung bei einem nächsten Gespräch mit einem Berater oder bei einer Anfrage einer Aufsichtsbehörde. in ein paar Fragen sehen, wo Ihr System vermutlich steht gibt eine Indikation, mit der Sie diesen Überblick beginnen können, ohne dass dies ein endgültiges Urteil ist.
Wann es sinnvoll ist, Hilfe einzuschalten
Sobald ein System sich auf Entscheidungen über Menschen auswirkt — Einstellung, Entlassung, Kredit, Zugang zu einer Dienstleistung — oder sobald Unsicherheit darüber besteht, ob ein System in die Kategorie hohes Risiko fällt, ist der Moment gekommen, über eine eigene Einschätzung hinauszugehen. Das gilt auch, wenn ein Lieferant selbst keine Klarheit über die Einstufung des Systems gibt, das Sie beziehen, oder wenn das System in mehreren Ländern mit jeweils etwas unterschiedlicher Anwendung der Regeln eingesetzt wird.
Ein Jurist oder spezialisierter Berater schaut dann nicht nur auf den Wortlaut der Verordnung, sondern auch darauf, wie ähnliche Fälle bislang bewertet wurden und auf den genauen Kontext Ihres Unternehmens. Das ist etwas anderes als eine allgemeine Orientierung, und genau dieser Unterschied ist der Grund dafür, dass eine eigene Einschätzung ein Ausgangspunkt und kein Endpunkt ist.
Dokumentieren Sie, was Sie recherchiert haben
Unabhängig davon, ob Sie dies selbst tun oder Hilfe in Anspruch nehmen, ist es ratsam, die Schritte, die Sie unternommen haben, zu dokumentieren: welche Systeme überprüft wurden, auf Grundlage welcher Informationen und wann. Das ist nicht nur angenehm für Sie selbst, es ist auch das, wonach eine Aufsichtsbehörde fragt, falls jemals Unklarheiten entstehen. Antworten auf häufig gestellte Fragen zu dieser Art der Dokumentation finden Sie auf der Seite mit häufig gestellten Fragen zur KI-Verordnung.
Möchten Sie wissen, woher diese Art von Informationen stammt und wie wir diese auf elektropas.com verwalten? Das lesen Sie auf der Seite, die erklärt, wie unsere Informationen entstehen. Eine eigene Einschätzung ist ein guter Anfang, ersetzt aber keinen Rat, sobald das Ergebnis in Richtung hohes Risiko weist oder unklar bleibt.
Neugierig, wo Ihre eigenen Systeme ungefähr stehen? Machen Sie den kostenlosen Quick-Scan oder blättern Sie durch die Themen in der Wissensdatenbank, um zu sehen, welche Fragen zu Ihrer Situation passen.