Was die Geschäftsleitung beim KI-Einsatz schuldet
Die Einführung eines KI-Systems ist eine unternehmerische Entscheidung. Sie ist haftungsrechtlich geschützt, aber nur, wenn sie auf angemessener Information beruht und die Ergebnisse danach kontrolliert werden.
Ein KI-System einzuführen ist eine unternehmerische Entscheidung. Für solche Entscheidungen gibt es einen Haftungsschutz. Er greift aber nur, wenn die Entscheidung vorbereitet war.
Drei Pflichten, die sich nicht delegieren lassen
- Entscheidung vorbereitenWozu soll das System dienen, wo liegen seine Grenzen, welche Alternativen gab es? Ohne Antworten fehlt die angemessene Informationsgrundlage, auf der der Haftungsschutz beruht.
- Betrieb überwachenEin einmal freigegebenes System bleibt nicht, was es war. Modelle werden aktualisiert, Datenlagen ändern sich. Ohne fortlaufende Kontrolle kann eine laufende Pflicht verletzt sein.
- Ergebnisse kontrollierenDie Verantwortung für eine Entscheidung bleibt bei dem Menschen, der sie trifft. Ein ungeprüft übernommenes Ergebnis trägt später keine Berufung auf das System.
Was in die Unterlagen gehört
- Zweck des Systems und der Bereich, in dem es eingesetzt wird
- Bekannte Grenzen und der Umgang mit ihnen
- Die betrachteten Alternativen und der Grund für die Auswahl
- Zuständigkeit für Freigabe, Betrieb und Abschaltung
- Regeln für die Kontrolle der Ergebnisse im Fachbereich
- Zeitpunkte, zu denen die Entscheidung erneut geprüft wird
Wie wir unterstützen
Wir bereiten die Entscheidung so vor, dass sie den Anforderungen genügt, und bringen sie in eine Form, die auch Jahre später noch nachvollziehbar ist. Dazu gehören die Zuständigkeiten und der Punkt, an dem eine Entscheidung erneut auf den Tisch kommt.
KI-Vorhaben vor der Freigabe?
Wir bereiten die Entscheidung so vor, dass sie den Anforderungen genügt. Worauf sie beruht, halten wir fest.
Kontakt aufnehmenHäufige Fragen
Haftet die Geschäftsführung persönlich für Fehler eines KI-Systems?
Nicht für den Fehler selbst, aber für die Verletzung eigener Sorgfaltspflichten. § 43 Abs. 2 GmbHG und § 93 Abs. 2 AktG begründen eine persönliche Haftung gegenüber der Gesellschaft. Der Vorwurf lautet dann, das System sei ohne angemessene Vorbereitung eingeführt oder ohne Kontrolle betrieben worden.
Schützt uns die Business Judgement Rule?
Sie schützt die Entscheidung, nicht den Verzicht auf Vorbereitung. Voraussetzung ist, dass die Geschäftsleitung auf Grundlage angemessener Information zum Wohl der Gesellschaft handelt. Wer ein System einführt, ohne dessen Grenzen zu kennen, hat diese Grundlage nicht. Der Schutz entfällt dann.
Können wir das an die IT delegieren?
Die Ausführung ja, die Verantwortung nicht. Delegation entlastet nur, wenn sorgfältig ausgewählt, eingewiesen und überwacht wird. Gerade bei KI kommt hinzu, dass die fachliche Beurteilung nicht allein in der IT liegt. Ob ein Ergebnis vertretbar ist, entscheidet der Fachbereich.
Wer muss im Streitfall was beweisen?
Die Geschäftsleitung. Nach § 93 Abs. 2 S. 2 AktG trägt das Vorstandsmitglied die Beweislast dafür, die Sorgfalt eines ordentlichen und gewissenhaften Geschäftsleiters angewandt zu haben. Für die GmbH gilt dieselbe Verteilung. Praktisch heißt das, dass die eigene Dokumentation nicht nur hilfreich ist, sondern die Verteidigung überhaupt erst ermöglicht.
Gibt es einen anerkannten Maßstab für die Prüfung eines KI-Ergebnisses?
Einen eigenen nicht. Der BGH hat für KI-gestützte Analysen bislang keine Kriterien entwickelt. Die Literatur greift deshalb auf die ISION-Grundsätze zurück, die für externen menschlichen Rat entwickelt wurden. Sie verlangen eine vollständige Sachverhaltsdarstellung, Unabhängigkeit und Fachkunde des Beraters sowie eine Plausibilitätskontrolle. Wie weit sich diese Maßstäbe auf ein technisches System übertragen lassen, ist offen. Die Plausibilitätskontrolle dürfte jedenfalls gelten.
Was sollten wir dokumentieren?
Die Entscheidung selbst und ihre Grundlage. Also welche Alternativen betrachtet wurden, welche Risiken bekannt waren, welche Maßnahmen dagegen getroffen wurden und wer die Ergebnisse kontrolliert. Diese Unterlagen belegen im Streitfall die Sorgfalt.