Wenn Ihr Unternehmen mit AI-Systemen arbeitet und Sie keine Maßnahmen getroffen haben, um Mitarbeiter, die damit arbeiten, ausreichend zu schulen, dann fehlt eine Verpflichtung, die die AI-Verordnung an Anbieter und Nutzer von AI-Systemen stellt. Die Verordnung nennt dies AI-Kompetenz: Mitarbeiter müssen ausreichend verstehen, was ein AI-System tut, wo die Grenzen liegen und welche Risiken damit verbunden sind, passend zu ihrer Funktion. Fehlt diese Maßnahme, läuft ein Unternehmen Gefahr, dass es nicht nachweisen kann, dieser Verpflichtung nachzukommen, wenn eine Aufsichtsbehörde danach fragt.
Welche konkreten Folgen dies mit sich bringt, hängt von der Situation ab: um welches AI-System es sich handelt, in welcher Rolle das Unternehmen tätig ist und was eine Aufsichtsbehörde bei einer Überprüfung feststellt. Eine allgemeine Aussage über Bußgelder oder ein standardisiertes Vorgehen von Aufsichtsbehörden lässt sich nicht treffen, und das ist auch nicht Zweck dieses Artikels. Wohl lässt sich beschreiben, was die Verpflichtung beinhaltet, wer darüber wacht und welche Arten von Folgen die Verordnung selbst möglich macht.
Was genau beinhaltet die Verpflichtung
Die AI-Verordnung unterscheidet zwischen verschiedenen Rollen: wer ein AI-System entwickelt oder auf den Markt bringt, und wer es innerhalb der eigenen Organisation nutzt. Für beide Rollen gilt eine Form der Verpflichtung, für ausreichende Kenntnisse bei dem Personal zu sorgen, das mit dem System arbeitet oder dessen Ergebnisse bewertet. Das bedeutet nicht automatisch einen Kurs für jeden; die Verordnung lässt Raum für einen Ansatz, der zur Funktion, zur Erfahrung des Mitarbeiters und zum Risiko des genutzten Systems passt. Was genau ausreichend ist, wird in der Verordnung selbst nicht in Zahlen oder Stunden festgelegt, und daher ist es ratsam, im Zweifelsfall den offiziellen Text zu konsultieren, statt auf Annahmen zu bauen.
Für Unternehmen, die zum ersten Mal mit dieser Verpflichtung konfrontiert werden, hilft es, zunächst festzustellen, welche AI-Systeme in der Organisation genutzt werden und von wem. Diese Übersicht ist oft der fehlende Ausgangspunkt, nicht die Schulung selbst. In der Wissensdatenbank pro Thema ist ausgearbeitet, wie sich diese Verpflichtung zu anderen Teilen der Verordnung verhält, wie etwa zur Risikoeinstufung eines Systems.
Wer führt Aufsicht durch
In den Niederlanden ist die Aufsicht über die AI-Verordnung bei Aufsichtsbehörden angesiedelt, die je nach Sektor und je nach Art der Verpflichtung unterschiedlich sein können; welche Aufsichtsbehörde für welchen Aspekt zuständig ist, ist derzeit noch nicht für jeden Punkt vollständig geklärt. Auf EU-Ebene gibt es darüber hinaus Koordination zwischen den Mitgliedstaaten. Für den aktuellen Stand verweisen wir auf die zuständige Aufsichtsbehörde selbst, nicht auf eigene Interpretationen darüber, wer worüber entscheidet.
Eine Aufsichtsbehörde kann um Nachweise bitten: welche AI-Systeme werden genutzt, wer arbeitet damit und wie sind diese Mitarbeiter vorbereitet worden. Ohne jegliche Dokumentation ist das schwer nachzuweisen, auch wenn in der Praxis tatsächlich Aufmerksamkeit darauf verwendet worden ist. Dokumentation ist also nicht nur eine Frage, eine Verpflichtung abzuhaken, sondern auch eine Frage, erklären zu können, was getan worden ist.
Welche Folgen können entstehen
Die AI-Verordnung sieht ein Durchsetzungssystem mit möglichen Sanktionen vor, aber deren Höhe und Form hängen von Art und Schwere der Zuwiderhandlung und von der Abwägung ab, die eine Aufsichtsbehörde in einem konkreten Fall trifft. Eine Einschätzung der Wahrscheinlichkeit, dass ein spezifisches Unternehmen überprüft wird, oder der Höhe einer möglichen Sanktion, können wir nicht geben und ist auch nicht unsere Aufgabe; das liegt bei der Aufsichtsbehörde und, für die Auslegung des Textes, bei einem Juristen.
Neben dem Überwachungsverfahren gibt es Auswirkungen, die weniger sichtbar sind, aber in der Praxis häufiger eine Rolle spielen: ein Auftraggeber, der in einer Ausschreibung fragt, wie die AI-Alphabetisierung geregelt ist, ein Versicherer, der danach fragt bei einem Schadensfall, der mit einem AI-System zusammenhängt, oder Mitarbeiter, die unsicher sind, was ein AI-System entscheiden darf und was nicht. Letzteres betrifft auch die Mitbestimmung: Bei der Einführung eines neuen AI-Systems kann der Betriebsrat eine Rolle haben, unabhängig von der AI-Alphabetisierungsverpflichtung selbst.
Was können Sie tun
Ein guter Ausgangspunkt ist eine Übersicht der AI-Systeme, die in dem Unternehmen genutzt werden, wer damit arbeitet und welches Risikostufe dazu gehört. Auf dieser Grundlage lässt sich bestimmen, welche Form der Aufklärung angemessen ist, und das muss nicht kompliziert sein. Mit durch ein paar Fragen einen Überblick bekommen, wo Ihr Unternehmen steht gibt oft bereits ausreichend Orientierung, um den nächsten Schritt zu bestimmen.
Für diejenigen, die wissen möchten, wie andere Unternehmer dies angehen, oder welche Fragen häufig vorkommen, ist die Sammlung häufig gestellter Fragen ein logischer Ausgangspunkt. Und wer erwägt, dies strukturell schriftlich festzuhalten, kann sich mit einem Geschäftskonto registrieren um pro Verpflichtung zu verfolgen, was bereits geregelt ist und was noch Aufmerksamkeit erfordert.
Diese Beschreibung soll die Verpflichtung verdeutlichen, nicht um zu beurteilen, ob Ihr Unternehmen ihr nachkommt. Für diese Beurteilung und für die Erläuterung des offiziellen Textes auf Ihre Situation sind ein Jurist oder die zuständige Überwachungsbehörde der richtige Ansprechpartner.
Möchten Sie zunächst selbst ein Bild davon bekommen, wo Ihr Unternehmen steht? Der kostenlose Quick-Check bietet einen ersten Überblick, und in der Wissensdatenbank finden Sie die Themen, die dabei häufig zusammenspielen, von Personal und AI bis zu den Verträgen mit Ihren Lieferanten.