KI in der Softwareentwicklung
Die rechtlichen Fragen entstehen nicht beim Programmieren, sondern beim Ausliefern. Wer generierten Code in ein Produkt einbaut, verantwortet ihn wie eigenen.
Assistenzsysteme sind in der Entwicklung angekommen. Die Fragen, die daraus folgen, stellen sich selten für die einzelne Zeile Code, sondern für das ausgelieferte Produkt und für den Vertrag dahinter.
Vier Felder, die zusammenkommen
- LizenzrechtÜbernommene Passagen können fremden Lizenzbedingungen unterliegen. Bei Copyleft-Lizenzen wirkt sich das auf das gesamte Produkt aus, nicht nur auf die Datei.
- GeschäftsgeheimnisseDer gesetzliche Schutz von Quelltext hängt an angemessenen Geheimhaltungsmaßnahmen. Eine ungeregelte Eingabe in fremde Systeme kann diese Voraussetzung entfallen lassen.
- ProduktsicherheitDer Cyber Resilience Act verlangt Nachvollziehbarkeit über die eingesetzten Komponenten. Generierter Code ohne bekannte Herkunft erschwert genau das.
- Rolle nach der KI-VerordnungBeim Einbetten eines Modells in ein eigenes Produkt und dessen Vertrieb können Anbieterpflichten übernehmen, auch ohne selbst ein Modell trainiert zu haben.
Zwei Fehlannahmen
Gehört korrigiert
- Die Freistellungszusage des Anbieters deckt alles ab
- Was der Assistent vorschlägt, ist rechtlich neutral
- Ein Hinweis in der Entwicklerdokumentation genügt als Regelung
- Der Kunde erfährt ohnehin nicht, wie der Code entstanden ist
Trifft eher zu
- Freistellungen greifen nur unter Bedingungen, die einzuhalten sind
- Verantwortlich ist, wer ausliefert, nicht wer vorschlägt
- Verbindliche Regeln brauchen eine Grundlage, die auch arbeitsrechtlich trägt
- Ausschreibungen und Audits fragen inzwischen ausdrücklich danach
Praktische Absicherung
- Freigegebene Werkzeuge festlegen, mit Unternehmenszugang statt privater Anmeldung
- Die Nutzung von Eingaben zum Training in den Bedingungen prüfen und abschalten
- Ein Verzeichnis der Komponenten pflegen, das auch generierte Anteile erfasst
- Automatisierte Prüfung auf bekannte Quelltextübereinstimmungen in die Auslieferungskette
- Kundenverträge auf Zusicherungen prüfen, die sich nicht mehr halten lassen
- Regeln, welche Projektunterlagen und Quelltexte nicht in fremde Systeme gelangen
Was Sie Ihren Kunden zusagen können, ist unter Rechte am KI-Output weitergeben ausgeführt.
Assistenzsysteme im Entwicklungsprozess?
Wir ordnen Lizenz-, Geheimnis- und Produktfragen und bringen die Regeln in eine handhabbare Form.
Entwicklungsprozess prüfenHäufige Fragen
Kann generierter Code fremde Lizenzen verletzen?
Möglich ist es. Modelle geben in einzelnen Fällen Passagen wieder, die erkennbar aus einer bestimmten Quelle stammen. Bei kurzen, technisch naheliegenden Abschnitten ist das rechtlich unbedenklich. Bei längeren, eigentümlichen Passagen liegt es anders. Praktisch hilft eine Prüfung des Quelltextbestands auf bekannte Herkunft, kein Verlass auf Zusicherungen des Anbieters.
Dürfen wir eigenen Quelltext in ein Modell eingeben?
Maßgeblich sind die Bedingungen des Werkzeugs und das, was Sie Ihren Kunden zugesagt haben. Quelltext kann ein Geschäftsgeheimnis sein. Der Schutz setzt angemessene Geheimhaltungsmaßnahmen voraus. Quelltext ohne Regelung in einem fremden System gefährdet neben dem Vertrag den Schutz selbst.
Werden wir zum Anbieter im Sinne der KI-Verordnung?
Wer ein KI-System unter eigenem Namen in Verkehr bringt oder ein bestehendes System wesentlich verändert oder zweckentfremdet, kann in die Anbieterrolle rutschen. Für Entwicklungshäuser, die Modelle in eigene Produkte einbauen, entscheidet das über das Pflichtenprogramm. Bei einem Hochrisiko-System werden damit Konformitätsbewertung, technische Dokumentation und Registrierung fällig.