Wer nach einer festen Liste mit Dokumenten für die KI-Verordnung sucht, wird enttäuscht: diese eine Liste gibt es nicht. Was die Verordnung verlangt, hängt von der Rolle ab, die Ihr Unternehmen beim KI-System hat, das Sie nutzen oder anbieten. Ein Unternehmen, das einen vorgefertigten Chatbot oder einen Bewerbungsfilter einkauft, führt in der Regel andere Unterlagen auf als ein Unternehmen, das ein solches System selbst entwickelt oder unter eigenem Namen auf den Markt bringt.
Diese Unterscheidung ist genau das Detail, aus dem die meiste Verwirrung herrührt. Die Verordnung spricht vom Anbieter eines KI-Systems und vom Nutzer, der das System einsetzt. Für die meisten KMU in der Elektronik und Informationstechnik gilt das Zweite: Sie setzen KI innerhalb ihrer eigenen Organisation ein, haben das System aber nicht selbst entwickelt. Die Dokumentenliste, die dazu gehört, ist kürzer und behandelt vor allem, wie Sie das System nutzen, nicht wie es entwickelt wurde.
Dokumente, die ein Anbieter zusammenstellt
Eine Partei, die als Anbieter gilt, erstellt in der Regel ein Dossier rund um das System selbst: eine Beschreibung des Zwecks und der Funktionsweise, die angewandte Risikoeinstufung, Angaben zu den Daten, auf denen das System trainiert oder getestet wurde, und eine Beschreibung der Maßnahmen für die menschliche Beaufsichtigung. Für die meisten KMU, die KI einkaufen, ist dies nicht die Liste, die für sie gilt; diese Unterlagen stellt der Lieferant zusammen und sie gehören zum System, nicht zu Ihrem Unternehmen. Dennoch ist es sinnvoll zu wissen, dass diese Unterlagen bestehen, denn Sie sollten als Nutzer einen Teil davon erhalten.
Dokumente, die ein Nutzer aufbewahrt
Wenn Ihr Unternehmen ein KI-System einsetzt, das von einem anderen entwickelt wurde, dreht sich Ihr Dossier vor allem um drei Arten von Unterlagen. Erstens die Bedienungsanleitung und Informationen, die der Lieferant verpflichtend mitteilt: wofür das System bestimmt ist, welche Einschränkungen es hat und welche Risikokategorie darauf anwendbar ist. Zweitens eine Dokumentation darüber, wie Ihr Unternehmen das System tatsächlich nutzt, einschließlich wer intern für die menschliche Beaufsichtigung verantwortlich ist. Drittens die Dokumentation über die Schulung, die Mitarbeiter erhalten haben, bevor sie mit dem System arbeiten, wobei auch Mitsprache eine Rolle spielen kann. Diese drei Kategorien bilden zusammen das Dossier, das eine Aufsichtsbehörde im Falle der Anfrage zuerst einsehen möchte.
Was Sie von Ihrem Softwareleverancier verlangen
Da ein großer Teil Ihres Dossiers davon abhängt, was der Lieferant bereitstellt, ist es ratsam, gezielt danach zu fragen, bevor Sie ein System in Betrieb nehmen. Fragen Sie nach der Risikoeinstufung, die der Lieferant dem System zugewiesen hat, nach der Bedienungsanleitung in verständlicher Sprache und nach Kontaktdaten für den Fall, dass etwas mit dem System schiefgeht. Wenn Sie diese Unterlagen nicht erhalten oder die Antworten vage bleiben, ist das bereits aussagekräftig: es sagt etwas darüber aus, wie professionell der Lieferant mit der Verordnung umgeht. Eine umfassendere Übersicht der Fragen, die Sie einem Softwareleverancier stellen können, finden Sie in der Wissensdatenbank mit Erklärungen pro Thema.
Warum dies nicht unabhängig vom digitalen Produktpass ist
Unternehmen, die Elektronik oder ICT-Geräte importieren oder auf den Markt bringen, müssen sich neben der KI-Verordnung auch mit dem digitalen Produktpass auseinandersetzen. Beide Regelungen verlangen ein Dossier, aber es sind keine Verpflichtungen, die Sie zu einem Dokument kombinieren können: Der Pass betrifft die Herkunft und Zusammensetzung eines physischen Produkts, die KI-Dokumentation die Funktionsweise und Nutzung eines Systems. Es ist jedoch sinnvoll, beide Dossiers auf die gleiche Weise zu strukturieren, damit Sie nicht zweimal die gleiche Recherchearbeit leisten. Wie so ein Dossier für den Produktpass aussieht, können Sie in der Wissensdatenbank nachlesen.
Wie Sie dies für Ihr Unternehmen strukturieren
Der Kern bleibt, dass Sie zunächst die Rolle Ihres Unternehmens bei jedem AI-System, das in Gebrauch ist, feststellen, bevor Sie eine Dokumentenliste zusammenstellen. Das verhindert, dass Sie Zeit in Unterlagen investieren, die zum Lieferanten gehören, oder gerade Unterlagen verpassen, die zu Ihnen gehören. Haben Sie Zweifel über die Rolle Ihres Unternehmens bei einem bestimmten System, dann ist die zuständige Aufsichtsbehörde oder ein Jurist die geeignete Partei, um das zu beurteilen; dieser Text bietet einen Überblick, kein Urteil über Ihre Situation.
Möchten Sie zunächst einen Eindruck bekommen, wo Ihr Unternehmen steht, ohne gleich ein Dossier aufzubauen? Führen Sie den kostenlosen Quick-Scan durch via in wenigen Fragen sehen, wo Sie stehen, oder blättern Sie durch die Themen in der Übersicht aller Themen pro Situation.