Der größte Fehler im Gespräch mit Ihrem Softwareanbieter über KI ist, dass sich Unternehmen mit einer kurzen Antwort auf eine falsche Frage zufriedengeben. Es wird gefragt 'Verwendet Ihr System KI?', der Anbieter antwortet 'nein' oder 'ein bisschen, aber das ist harmlos', und dabei bleibt es. Niemand dokumentiert, was genau gefragt wurde, was die Antwort bedeutete, und ob diese Antwort irgendwie begründet ist.
Sie vermeiden diesen Fehler, indem Sie das Gespräch anders gestalten: nicht als eine Ja-oder-Nein-Frage, sondern als eine Frage nach Begründung. Was macht das System genau, welche Entscheidungen trifft es oder unterstützt es, und auf welcher Grundlage behauptet der Lieferant, dass dies unter die AI-Verordnung fällt oder nicht. Diese Antwort halten Sie schriftlich fest, nicht weil Sie das zum Vergnügen tun, sondern weil Sie später nachweisen können müssen, welche Frage Sie gestellt haben und welche Antwort Sie erhalten haben.
Warum dieses Gespräch oft schiefgeht
Das Gespräch mit einem Softwarelieferanten läuft normalerweise über einen Account Manager oder einen Helpdesk, nicht über jemanden, der die AI-Verordnung kennt. Diese Person möchte Sie gerne beruhigen, und eine kurze Beruhigung ist schneller gegeben als eine genaue Antwort. Hinzu kommt, dass viele Software AI-Funktionen enthält, die von einem zugrunde liegenden Lieferanten eingebaut wurden, beispielsweise ein Sprachmodell, das als separate Komponente erworben wurde. Die Partei, mit der Sie sprechen, weiß selbst dann oft nicht genau, was unter der Motorhaube vor sich geht.
Die Folge ist, dass Unternehmen eine Antwort erhalten, die faktisch für die Person, die sie gibt, stimmt, aber für die Situation, in der das Produkt verwendet wird, nicht vollständig ist. die Wissensdatenbank nach Ihrer Softwareart durchsuchen zeigt, dass die Verordnung zwischen verschiedenen Rollen und Risikokategorien unterscheidet, und dass die Antwort auf die Frage „ist dies KI
},{
Ein Installationsbetrieb beschafft ein Planungspaket mit einer Funktion, die Wartungstermine automatisch einteilt. Die Frage an den Lieferanten lautet „steckt da KI drin
), die Antwort ist „nein, das ist einfach intelligente Planung
Was Aufsichtsbehörden in dieser Art von Gesprächen wichtig finden
Aufsichtsbehörden schauen bei dieser Art von Fragen normalerweise auf die Nachvollziehbarkeit: Kann ein Unternehmen zeigen, welche Frage es gestellt hat, an wen, wann und auf Basis welcher Informationen die Antwort gegeben wurde. Eine mündliche Zusage ohne Dokumentation ist für eine Aufsichtsbehörde schwierig zu beurteilen, einfach weil es nichts zu beurteilen gibt. Das ist kein Urteil über den Inhalt der Antwort, sondern über das Fehlen einer Nachweisspur.
Damit ist der Fehler nicht zwingend, dass ein Unternehmen eine falsche Antwort erhält, sondern dass das Unternehmen nicht nachweisen kann, dass es die Frage gestellt hat und welche Antwort gegeben wurde. Für die eigene Situation und die Frage, welche Dokumentation genau erforderlich ist, verweisen wir auf einen Juristen oder die zuständige Aufsichtsbehörde.
Wie Sie es vermeiden
Der erste Schritt besteht darin, die Frage konkreter zu formulieren: nicht 'ist dies KI', sondern 'welche Komponenten dieses Systems treffen oder beeinflussen eine Entscheidung, und auf welcher Technik basiert das'. Der zweite Schritt besteht darin, die Antwort schriftlich bestätigen zu lassen, beispielsweise per E-Mail oder in der Vereinbarung selbst. Der dritte Schritt besteht darin, das Gespräch bei jedem größeren Update zu wiederholen, nicht nur beim ersten Kauf.
Viele Unternehmen unterschätzen, wie viel Zeit dies kostet, wenn es erst einmal richtig eingerichtet ist: ein paar feste Fragen, ein fester Zeitpunkt im Aktualisierungsprozess und ein Ort, um die Antworten zu speichern. Wer das nicht hat, kann mit einigen Fragen einen ersten Anhaltspunkt erhalten von wo aus die eigene Software ungefähr steht, und mit den am häufigsten gestellten Fragen zu diesem Thema einen Eindruck davon bekommen, welche Herausforderungen andere in der gleichen Position antreffen.
Abschließend ist es hilfreich, im Voraus festzulegen, wer innerhalb Ihres Unternehmens dieses Gespräch führt und dokumentiert. Bei einem Installationsbetrieb ist dies oft der Geschäftsführer selbst, bei einem größeren Büro der IT- oder Einkaufsverantwortliche. Solange diese Rolle nicht besetzt ist, bleibt das Gespräch mit dem Softwarelieferanten vom Zufall abhängig, und genau hier kommt der häufigste Fehler her.
Möchten Sie wissen, wo Ihre eigene Software ungefähr steht und welche Fragen für Ihre Situation relevant sind? Führen Sie den kostenlosen Quick-Scan durch oder lesen Sie die Themen, die Ihrer Situation am nächsten kommen über eine Erläuterung, wie wir diese Informationen zusammenstellen.