KI-Assistenten in der Softwareentwicklung: Einsatz, Grenzen und Datenschutz nach DSGVO
Foto: Nemuel Sereti, via Pexels.
Ob Codevervollständigung im Editor, Chat zur Codebasis oder Agent, der selbstständig Änderungen vorschlägt: KI-Assistenten sind in deutschen Entwicklungsteams angekommen, oft schneller als die Regeln dafür. Dieser Beitrag zeigt, wo die Werkzeuge echten Nutzen bringen, wo sie regelmäßig danebenliegen und welche Fragen Datenschutz und IT-Sicherheit vor dem Rollout klären sollten.
Wofür sich KI-Assistenten eignen
Am Markt lassen sich drei Bauformen unterscheiden: Inline-Vervollständigung direkt im Editor, Chat-Assistenten, die Fragen zur Codebasis beantworten und Funktionen entwerfen, sowie agentische Werkzeuge, die mehrere Dateien ändern, Tests ausführen und einen fertigen Diff zur Prüfung vorlegen. Allen gemeinsam ist ein großes Sprachmodell, das wahrscheinlichen Code vorhersagt, aber nicht beweist, dass dieser Code korrekt ist.
Daraus ergibt sich, wo die Werkzeuge glänzen: überall dort, wo das Ergebnis konventionell ist und sich schnell überprüfen lässt.
- Boilerplate und Grundgerüste: Datenklassen, API-Clients, Konfigurationsdateien, Validierungslogik.
- Tests: erste Entwürfe von Unit-Tests für bestehende Funktionen, inklusive Randfällen.
- Einarbeitung: Erklärungen zu unbekanntem oder altem Code, Zusammenfassungen langer Module.
- Migration: Übertragung von Code zwischen Sprachen oder Framework-Versionen, etwa bei der Modernisierung von Legacy-Anwendungen.
- Dokumentation: Kommentare, README-Abschnitte und Changelog-Entwürfe, die anschließend überarbeitet werden.
Die typischen Grenzen
Die Schwächen sind ebenso vorhersehbar. Teams, die sie kennen, können gezielt gegensteuern.
| Risiko | Erscheinungsbild | Gegenmaßnahme |
|---|---|---|
| Plausible, aber falsche Logik | Code kompiliert, übersieht aber einen Randfall oder eine fachliche Regel | Tests und Code-Review durch Menschen |
| Unsichere Muster | Zusammengesetzte SQL-Strings, schwache Eingabeprüfung, Secrets im Code | Statische Analyse und Secret-Scanning in der CI-Pipeline |
| Erfundene Pakete | Import eines Pakets, das es nicht gibt oder das einem echten Paket nur ähnelt | Lockfiles, freigegebene Registries, Abhängigkeitsprüfung vor dem Merge |
| Fehlender Kontext | Vorschläge, die Architektur, Konventionen oder Performance-Vorgaben ignorieren | Projektanweisungen für das Werkzeug, kleine Aufgaben, Review durch Senior-Entwickler |
| Datenabfluss | Quellcode, Kundendaten oder Zugangsdaten landen in Prompts beim Anbieter | Geschäftskonten mit klaren Vertragsbedingungen, gesperrte Repositories |
Was BSI und ANSSI empfehlen
Das Bundesamt für Sicherheit in der Informationstechnik und die französische Behörde ANSSI haben im September 2024 gemeinsame Empfehlungen zum Einsatz von KI-Programmierassistenten veröffentlicht (in englischer Sprache). Die Kernaussagen lassen sich gut als Leitplanken für Unternehmen nutzen:
- KI-Assistenten ersetzen keine erfahrenen Entwicklerinnen und Entwickler; ein unkontrollierter Einsatz kann gravierende Sicherheitsfolgen haben.
- Vor der Einführung gehört eine systematische Risikoanalyse auf den Tisch, einschließlich der Vertrauenswürdigkeit des Anbieters und des Umgangs mit Secrets wie API-Schlüsseln.
- Wenn die Entwicklung schneller Code produziert, müssen Qualitätssicherung, AppSec und DevSecOps mitwachsen.
- Generierter Code sollte grundsätzlich geprüft und nachvollzogen werden, besonders mit Blick auf Halluzinationen und Sicherheitslücken.
- Unternehmen sollten freigegebene Werkzeuge anbieten, um Schatten-IT über private Konten zu vermeiden, und klar regeln, welche Tools mit welchen Daten genutzt werden dürfen.
Das Papier nennt außerdem neue Angriffswege wie Paketverwechslung durch halluzinierte Paketnamen, indirekte Prompt-Injection und das Vergiften von Trainingsdaten. Für Teams mit eigener IT-Sicherheitsstrategie im Mittelstand lohnt es sich, diese Punkte in die bestehende Risikoanalyse aufzunehmen.
Datenschutz: die DSGVO-Fragen
Sobald personenbezogene Daten im Spiel sind, etwa in Testdaten, Logauszügen, Tickets oder Kommentaren, wird der Anbieter des Assistenten zum Auftragsverarbeiter. Dann gelten die bekannten Pflichten der DSGVO. Vor dem Rollout sollten Datenschutzbeauftragte und Entwicklungsleitung gemeinsam klären:
- Auftragsverarbeitungsvertrag: Liegt ein Vertrag nach Art. 28 DSGVO vor, und welche Unterauftragnehmer setzt der Anbieter ein?
- Drittlandübermittlung: Werden Daten außerhalb der EU verarbeitet, und auf welcher Grundlage, etwa dem EU-US Data Privacy Framework oder Standardvertragsklauseln?
- Training und Speicherung: Werden Prompts und Code gespeichert oder zum Training verwendet, und lässt sich das vertraglich ausschließen?
- Datenminimierung: Echte Kundendaten gehören nicht in Prompts. Synthetische oder anonymisierte Testdaten lösen das Problem an der Wurzel.
- Dokumentation: Das Werkzeug gehört ins Verzeichnis von Verarbeitungstätigkeiten; je nach Einsatz kann eine Datenschutz-Folgenabschätzung sinnvoll sein.
Einführung im Team in fünf Schritten
1. Begrenztes Pilotprojekt
Ein oder zwei Teams, ein fester Zeitraum von einigen Wochen und eine Liste erwünschter Aufgaben: Tests, Refactoring, Dokumentation, interne Werkzeuge. Sicherheitskritische Module bleiben zunächst außen vor.
2. Werkzeuge nach eigenen Kriterien auswählen
Unterstützte Editoren und Sprachen, Betriebsmodell (Cloud, EU-Hosting, Self-Hosting), Admin-Funktionen, Vertragsbedingungen und Preis pro Nutzer unterscheiden sich deutlich. Ein unabhängiger Vergleich von KI-Tools für die Softwareentwicklung hilft bei der Vorauswahl; die Entscheidung sollte aber aus dem Pilotprojekt kommen.
3. Regeln schriftlich festhalten
Eine Seite reicht für den Anfang: freigegebene Tools und Konten, verbotene Daten, verpflichtendes Review, Ansprechpartner bei Unsicherheit. Wo ein Betriebsrat besteht, sollte er früh eingebunden werden, da solche Werkzeuge Leistungsdaten erfassen können.
4. Das Sicherheitsnetz verstärken
Statische Analyse, Abhängigkeitsprüfung und Secret-Scanning werden in der Pipeline verpflichtend, menschliches Review bleibt vor jedem Merge Pflicht.
5. Wirkung messen
Statt gefühlter Produktivität zählen Kennzahlen, die ohnehin erhoben werden: Durchlaufzeit von Änderungen, Review-Dauer, Fehler- und Rollback-Quote, Anteil übernommener Vorschläge. Am Ende des Piloten wird entschieden: ausweiten, nachjustieren oder stoppen.
Wer die Entwicklung ganz oder teilweise an einen Dienstleister vergibt, sollte dieselben Regeln vertraglich verankern. Mehr dazu in unserem Ratgeber Softwareentwicklung outsourcen.
Fazit
KI-Assistenten beschleunigen die Softwareentwicklung dort, wo Ergebnisse konventionell und leicht prüfbar sind. Sie ersetzen weder Erfahrung noch Review, und ohne klare Regeln zu Daten, Konten und Berechtigungen schaffen sie neue Risiken. Ein kleiner Pilot, schriftliche Leitplanken und ehrliche Messung sind der sicherste Weg zu einem dauerhaften Einsatz.
FAQ
Darf man KI-Assistenten mit firmeneigenem Quellcode nutzen?
Ja, wenn ein Geschäftskonto mit passenden Vertragsbedingungen genutzt wird, das Training mit Ihrem Code ausgeschlossen ist und klar geregelt ist, welche Repositories verwendet werden dürfen.
Braucht man einen Auftragsverarbeitungsvertrag?
Sobald personenbezogene Daten an den Anbieter gelangen können, in der Regel ja. Klären Sie das mit Ihrer oder Ihrem Datenschutzbeauftragten, bevor das Werkzeug breit ausgerollt wird.
Ist selbst gehostete KI sicherer?
Sie verringert das Risiko des Datenabflusses, weil Code das Unternehmen nicht verlässt. Dafür tragen Sie Betrieb, Updates und Absicherung des Modells selbst.
Muss KI-generierter Code anders geprüft werden?
Mindestens genauso gründlich wie menschlicher Code, mit besonderem Augenmerk auf Abhängigkeiten, Eingabeprüfung und Randfälle.