KI-generierter Code: Wem gehört das Ergebnis?

Das Lizenzproblem

KI-Code-Generatoren wie GitHub Copilot arbeiten statistisch: Sie sagen auf Basis der Trainingsdaten das wahrscheinlichste nächste Code-Fragment vorher. In der Praxis bedeutet das, dass generierter Code gelegentlich nahezu identisch mit existierendem Open-Source-Code ist – inklusive dessen Lizenzbedingungen.

Studien haben gezeigt, dass Copilot in bestimmten Szenarien Code reproduziert, der eindeutig aus GPL-lizenzierten Repositories stammt. Wenn dieser Code in einem proprietären Produkt landet, liegt eine potenzielle Lizenzverletzung vor. Die fehlende Attribution verschärft das Problem: Der Entwickler weiß nicht einmal, dass der Code aus einer GPL-Quelle stammt.

Das Urheberrecht an KI-generiertem Code ist in der EU ungeklärt. Nach europäischem Rechtsverständnis setzt Urheberrecht eine „persönliche geistige Schöpfung” voraus – die bei maschinell generiertem Output fehlt. Das bedeutet: KI-generierter Code könnte in Europa nicht urheberrechtlich geschützt sein. Gleichzeitig kann er aber Urheberrechte Dritter verletzen, wenn er Trainingsdaten reproduziert.

Abhängigkeitsverstärkung

Jenseits der Lizenzfrage verstärken KI-Coding-Tools bestehende Plattformabhängigkeiten. Copilot wurde primär auf GitHub-Repositories trainiert, die überwiegend React, Next.js und TypeScript verwenden. Der generierte Code ist entsprechend auf dieses Ökosystem optimiert.

Wer KI-gestützt entwickelt, übernimmt unbewusst die technologischen Präferenzen der Trainingsdaten – und damit die Abhängigkeit von den Plattformen, auf denen dieses Ökosystem am besten funktioniert. Für Svelte-, Vue- oder Web-Components-basierte Projekte liefern die gleichen Tools oft weniger ausgereiften Code, weil die Trainingsdaten weniger Material in diesen Ökosystemen enthalten.

„Package Hallucination Squatting”

Ein neuartiger Angriffsvektor: KI-Code-Generatoren „halluzinieren” gelegentlich Paketnamen, die nicht existieren. Angreifer registrieren diese halluzinierten Paketnamen auf npm und versehen sie mit Schadcode. Wenn ein anderer Entwickler denselben KI-Prompt verwendet und das gleiche halluzinierte Paket vorgeschlagen bekommt, installiert er unwissentlich Malware.

Für Organisationen mit einer npm-basierten Codebasis ist das ein konkretes Supply-Chain-Risiko, das über klassische Dependency-Scanning-Tools nicht abgedeckt wird.

Europäische Alternativen

Der EU AI Act wird voraussichtlich Transparenzpflichten für KI-Trainingsdaten einführen. Europäische KI-Coding-Alternativen wie Mistral Code bieten On-Premises-Deployment – kein Training auf dem Code des Nutzers, keine Datenübertragung an US-Server. Für Organisationen mit strengen Compliance-Anforderungen ist das ein relevanter Faktor.

Schutzmaßnahmen

Organisationen können das Risiko durch mehrere Maßnahmen reduzieren: Definition einer Corporate Policy für den Einsatz von KI-Code-Tools, automatisiertes Code-Scanning auf bekannte Open-Source-Fragmente (Tools wie FOSSA oder Snyk), Review-Prozesse für KI-generierten Code mit expliziter Lizenzprüfung, Konfiguration von Tools wie Copilot um nur Code zu generieren, der auf permissiv lizenzierten Repositories basiert, und die Dokumentation, welcher Code KI-generiert wurde (Audit-Trail).

Kernpunkte

• KI-Code-Generatoren reproduzieren gelegentlich Code aus GPL-lizenzierten Repositories – ohne Attribution.
• Urheberrecht an KI-generiertem Code ist in der EU ungeklärt – der Output könnte nicht geschützt sein, kann aber Rechte Dritter verletzen.
• Copilot-Output ist auf React/Next.js/TypeScript optimiert und verstärkt bestehende Plattformabhängigkeiten.
• „Package Hallucination Squatting” ist ein neuartiger Angriffsvektor durch halluzinierte Paketnamen.
• Corporate Policies, automatisiertes Code-Scanning und Audit-Trails reduzieren das Compliance-Risiko.
• Europäische Alternativen wie Mistral Code bieten On-Premises-Deployment unter EU-Jurisdiktion.