Was sich in diesem Jahr an der KI-Verordnung ändert
Die KI-Verordnung, auch AI Act genannt, tritt nicht vollständig auf einmal in Kraft. Die Regeln gelten in Phasen, verteilt über mehrere Jahre, und jedes Jahr wird ein neuer Teil der Verordnung anwendbar. Dieses Jahr ist wieder ein solcher Moment: die Verpflichtungen bezüglich sogenannter KI-Systeme mit hohem Risiko rücken näher, und in den Mitgliedstaaten wird klarer, welche Aufsichtsbehörde die Verordnung durchsetzen wird.
Für Sie als Unternehmer bedeutet dies vor allem, dass die Frage, ob Ihr Unternehmen ein KI-System nutzt, das unter eine schwerere Kategorie fällt, in diesem Jahr aktueller wird als bisher. Nicht jedes Unternehmen, das mit KI arbeitet, hat mit dieser Phase zu tun; das hängt von der Art des Systems und dem Zweck ab, für den es eingesetzt wird.
Warum die Verordnung in Phasen in Kraft tritt
Der europäische Gesetzgeber hat sich für eine gestaffelte Einführung entschieden, um Anbieter, Aufsichtsbehörden und Nutzer Zeit zu geben, sich auf die schwersten Verpflichtungen vorzubereiten. Die erste Phase, die inzwischen abgeschlossen ist, betraf ein Verbot einer begrenzten Gruppe von KI-Anwendungen mit unangenehmbarem Risiko und die Verpflichtung, Personal, das mit KI arbeitet, ausreichend über die Funktionsweise des Systems zu unterrichten.
Eine nächste Phase brachte Regeln für Anbieter von KI-Modellen für allgemeine Zwecke, die Modelle, auf denen viele Anwendungen aufbauen, und die Benennung nationaler Aufsichtsbehörden pro Mitgliedstaat. Diese beiden Phasen liegen hinter uns; die Phase, die dieses Jahr ansteht, befasst sich mit Systemen, die die Verordnung als Systeme mit hohem Risiko einstuft. Möchten Sie das Phase für Phase aufgelistet sehen, finden Sie das übersichtlich in der Wissensdatenbank, in der jedes Thema einzeln recherchiert wurde.
Was in diesem Jahr konkret zur Debatte steht
Hochrisiko-KI-Systeme sind Systeme, die in Situationen eingesetzt werden, in denen es für Menschen möglicherweise große Auswirkungen gibt, beispielsweise bei der Personalgewinnung und -auswahl, bei der Bewertung der Kreditwürdigkeit oder beim Zugang zu Bildung. Für diese Kategorie gelten strengere Anforderungen: nachweisbares Risikomanagement, menschliche Kontrolle und Dokumentation, die die Funktionsweise des Systems erläutert.
Welche genaue Frist für welche Art von System gilt und welche Ausnahmen damit verbunden sind, ist in der Verordnung selbst festgelegt. Für Systeme, die bereits unter bestehende Produktsicherheitsvorschriften fallen, wie bestimmte Maschinen oder Medizinprodukte, gilt in der Regel eine längere Übergangsfrist als für Systeme, auf die dies nicht zutrifft. Wenn Sie unsicher sind, ob ein System, das Ihr Unternehmen nutzt, in diese Kategorie fällt, ist das in erster Linie eine Frage an den Anbieter des Systems und zur rechtlichen Einschätzung eine Frage an einen Juristen. Haben Sie noch kein klares Bild davon, wo Ihr Unternehmen steht, gibt eine Reihe von Fragen gleich einen ersten Anhaltspunkt.
Für wen dies relevant ist
Ein Personalleiter, der Software nutzt, die Bewerber vorab selektiert oder ordnet, hat in diesem Jahr einen konkreten Grund, beim Anbieter nachzufragen, wie diese Software klassifiziert ist. Ein Büroleiter, der nur einen Schreibassistenten oder ein Planungstool nutzt, fällt in den meisten Fällen nicht in diese schwerste Kategorie, aber die Verordnung kennt auch leichtere Verpflichtungen, wie die Offenlegung, dass jemand mit einem KI-System spricht anstatt mit einem Menschen.
Ein Geschäftsführer eines Installationsbetriebs, der KI für Angebote oder Routenplanung nutzt, tut gut daran, pro Anwendung zu überprüfen, in welche Kategorie diese fällt, anstatt dies auf einmal für die gesamte Organisation zu beurteilen. Fragen, die in diesem Zusammenhang häufig gestellt werden, von der Anwendbarkeit bis zur Dokumentation, finden Sie unter die Antworten auf Fragen, die auch andere Unternehmer stellen.
Was Sie dieses Jahr tun können
Es ist nicht erforderlich, als kleines oder mittleres Unternehmen selbst die gesamte Verordnung zu verstehen. Es ist jedoch hilfreich, einen Überblick darüber zu haben, welche KI-Systeme in Ihrer Organisation eingesetzt werden, von wem und zu welchem Zweck, damit Sie diese Frage leichter an einen Lieferanten oder Berater weitergeben können.
Möchten Sie wissen, woher die Informationen auf dieser Plattform stammen und wie sie gepflegt werden, finden Sie dies erläutert auf der Seite über die Herkunft unserer Informationen. Für die Anwendung auf Ihre eigene Situation bleibt die zuständige Aufsichtsbehörde oder ein Jurist der richtige Ansprechpartner.
Abschließend
Die AI-Verordnung ändert dieses Jahr nicht alles auf einmal, sondern in Schritten, die für einige Unternehmen mehr Gewicht haben als für andere. Führen Sie gerne den kostenlosen Quick-Check durch oder blättern Sie durch die Wissensdatenbank, um zu sehen, ob und wenn ja wo, dieses Jahr für Ihr Unternehmen relevant ist.