Wenn Nutzer erkennen müssen, dass KI im Spiel ist
Die Transparenzpflichten der KI-Verordnung treffen fast jeden Einsatz, auch außerhalb der Hochrisikofälle. Sie greifen dort, wo jemand nicht ohne Weiteres erkennt, dass er es mit einem System oder dessen Ergebnis zu tun hat.
Die meisten Pflichten der KI-Verordnung hängen an der Risikoklasse. Die Transparenzpflichten nicht. Sie knüpfen daran an, ob jemand erkennen kann, was er vor sich hat. Sie treffen deshalb auch den Chatbot im Kundendienst und das erzeugte Bild in der Anzeige.
Vier Fälle, in denen offengelegt werden muss
- Interaktion mit einem SystemBei einem Chatbot oder einer Sprachanwendung muss die Person erfahren, dass ein KI-System antwortet, es sei denn, das liegt für eine verständige Person auf der Hand.
- Erzeugte oder veränderte InhalteTexte, Bilder, Ton und Video aus einem KI-System brauchen eine maschinenlesbare Markierung, damit die Herkunft nachvollziehbar bleibt.
- DeepfakesWo eine Darstellung echt wirkt, es aber nicht ist, muss die künstliche Herkunft erkennbar sein. Für Kunst und Satire gelten Erleichterungen in der Form, nicht im Grundsatz.
- Emotionserkennung und BiometrieSysteme, die Emotionen erkennen oder biometrisch kategorisieren, verlangen eine Information der betroffenen Personen, unabhängig von der Risikoklasse.
Was zu tun ist
- Bestandsaufnahme: Wo begegnet Kundschaft oder Belegschaft einem System oder dessen Ergebnis?
- Je Fall entscheiden, ob eine Offenlegung nötig ist und in welcher Form
- Hinweise dort platzieren, wo die Interaktion stattfindet, nicht in den Nutzungsbedingungen
- Vom Anbieter zusichern lassen, dass Ergebnisse maschinenlesbar markiert werden
- Redaktionelle Regel für erzeugte Bilder und Texte im Marketing
- Nachweis führen, wann welcher Hinweis eingeführt wurde
Wie wir unterstützen
Wir gehen mit Ihnen die Berührungspunkte durch, ordnen jeden einzeln ein und formulieren die Hinweise so, dass sie ihre Aufgabe erfüllen, ohne die Anwendung zu verstellen. Wo Sie fremde Werkzeuge einsetzen, prüfen wir, ob die Zusagen des Anbieters Ihre eigene Pflicht tragen.
Chatbot im Kundendienst, erzeugte Bilder im Marketing?
Wir sagen Ihnen, was offengelegt werden muss und bis wann. Die Hinweise formulieren wir.
Kontakt aufnehmenHäufige Fragen
Betrifft uns das, obwohl unser System kein Hochrisikosystem ist?
Ja. Die Transparenzpflichten aus Art. 50 KI-VO gelten unabhängig von der Risikoeinstufung. Maßgeblich ist, ob eine Person ohne Weiteres erkennt, dass sie mit einem KI-System interagiert oder ein erzeugtes Ergebnis vor sich hat. Das trifft auf Chatbots im Kundendienst ebenso zu wie auf erzeugte Bilder in der Werbung.
Ab wann gilt die Kennzeichnungspflicht?
Für die meisten Pflichten am 2. August 2026. Daran hat der Digital Omnibus nichts geändert. Verschoben wurde allein die maschinenlesbare Kennzeichnung erzeugter Inhalte. Systeme, die vor dem 2. August 2026 bereits angeboten wurden, haben dafür bis zum 2. Dezember 2026 Zeit. Bei einer Neueinführung bleibt es beim früheren Termin.
Reicht ein Hinweis im Kleingedruckten?
Nein. Der Hinweis muss die betroffene Person erreichen, also dort stehen, wo die Interaktion stattfindet, rechtzeitig also vor oder bei der ersten Nutzung. Bei erzeugten Inhalten kommt eine maschinenlesbare Markierung hinzu. Ein sichtbarer Vermerk allein genügt für diese Fälle nicht.
Was gilt für Bilder und Videos, die echt aussehen?
Für Deepfakes gilt eine eigene Offenlegungspflicht. Es muss erkennbar sein, dass der Inhalt künstlich erzeugt oder verändert wurde. Für künstlerische, satirische oder fiktionale Werke gibt es Erleichterungen. Sie betreffen die Form der Kennzeichnung und lassen sie nicht entfallen.
Wer kennzeichnet, der Anbieter oder wir als Betreiber?
Beide, an unterschiedlichen Stellen. Der Anbieter schuldet die technische Markierung im Ergebnis, der Betreiber die Offenlegung gegenüber den Menschen, die damit zu tun haben. Beim Einsatz eines fremden Werkzeugs sollte die Markierung vertraglich zugesichert sein. Ohne sie lässt sich die eigene Pflicht nicht erfüllen.