KI & Daten · Softwareentwicklung

KI-Assistenten in der Softwareentwicklung: Einsatz, Grenzen und Datenschutz nach DSGVO

Monitor mit Programmcode in einem Code-Editor

Foto: Nemuel Sereti, via Pexels.

Ob Codevervollständigung im Editor, Chat zur Codebasis oder Agent, der selbstständig Änderungen vorschlägt: KI-Assistenten sind in deutschen Entwicklungsteams angekommen, oft schneller als die Regeln dafür. Dieser Beitrag zeigt, wo die Werkzeuge echten Nutzen bringen, wo sie regelmäßig danebenliegen und welche Fragen Datenschutz und IT-Sicherheit vor dem Rollout klären sollten.

Wofür sich KI-Assistenten eignen

Am Markt lassen sich drei Bauformen unterscheiden: Inline-Vervollständigung direkt im Editor, Chat-Assistenten, die Fragen zur Codebasis beantworten und Funktionen entwerfen, sowie agentische Werkzeuge, die mehrere Dateien ändern, Tests ausführen und einen fertigen Diff zur Prüfung vorlegen. Allen gemeinsam ist ein großes Sprachmodell, das wahrscheinlichen Code vorhersagt, aber nicht beweist, dass dieser Code korrekt ist.

Daraus ergibt sich, wo die Werkzeuge glänzen: überall dort, wo das Ergebnis konventionell ist und sich schnell überprüfen lässt.

Die typischen Grenzen

Die Schwächen sind ebenso vorhersehbar. Teams, die sie kennen, können gezielt gegensteuern.

RisikoErscheinungsbildGegenmaßnahme
Plausible, aber falsche LogikCode kompiliert, übersieht aber einen Randfall oder eine fachliche RegelTests und Code-Review durch Menschen
Unsichere MusterZusammengesetzte SQL-Strings, schwache Eingabeprüfung, Secrets im CodeStatische Analyse und Secret-Scanning in der CI-Pipeline
Erfundene PaketeImport eines Pakets, das es nicht gibt oder das einem echten Paket nur ähneltLockfiles, freigegebene Registries, Abhängigkeitsprüfung vor dem Merge
Fehlender KontextVorschläge, die Architektur, Konventionen oder Performance-Vorgaben ignorierenProjektanweisungen für das Werkzeug, kleine Aufgaben, Review durch Senior-Entwickler
DatenabflussQuellcode, Kundendaten oder Zugangsdaten landen in Prompts beim AnbieterGeschäftskonten mit klaren Vertragsbedingungen, gesperrte Repositories

Was BSI und ANSSI empfehlen

Das Bundesamt für Sicherheit in der Informationstechnik und die französische Behörde ANSSI haben im September 2024 gemeinsame Empfehlungen zum Einsatz von KI-Programmierassistenten veröffentlicht (in englischer Sprache). Die Kernaussagen lassen sich gut als Leitplanken für Unternehmen nutzen:

Das Papier nennt außerdem neue Angriffswege wie Paketverwechslung durch halluzinierte Paketnamen, indirekte Prompt-Injection und das Vergiften von Trainingsdaten. Für Teams mit eigener IT-Sicherheitsstrategie im Mittelstand lohnt es sich, diese Punkte in die bestehende Risikoanalyse aufzunehmen.

Datenschutz: die DSGVO-Fragen

Sobald personenbezogene Daten im Spiel sind, etwa in Testdaten, Logauszügen, Tickets oder Kommentaren, wird der Anbieter des Assistenten zum Auftragsverarbeiter. Dann gelten die bekannten Pflichten der DSGVO. Vor dem Rollout sollten Datenschutzbeauftragte und Entwicklungsleitung gemeinsam klären:

Hinweis
Bei Quellcode ohne Personenbezug greift die DSGVO meist nicht, wohl aber der Schutz von Geschäftsgeheimnissen. Für besonders sensible Projekte kann ein selbst gehostetes oder in einer EU-Cloud betriebenes Modell die bessere Wahl sein.

Einführung im Team in fünf Schritten

1. Begrenztes Pilotprojekt

Ein oder zwei Teams, ein fester Zeitraum von einigen Wochen und eine Liste erwünschter Aufgaben: Tests, Refactoring, Dokumentation, interne Werkzeuge. Sicherheitskritische Module bleiben zunächst außen vor.

2. Werkzeuge nach eigenen Kriterien auswählen

Unterstützte Editoren und Sprachen, Betriebsmodell (Cloud, EU-Hosting, Self-Hosting), Admin-Funktionen, Vertragsbedingungen und Preis pro Nutzer unterscheiden sich deutlich. Ein unabhängiger Vergleich von KI-Tools für die Softwareentwicklung hilft bei der Vorauswahl; die Entscheidung sollte aber aus dem Pilotprojekt kommen.

3. Regeln schriftlich festhalten

Eine Seite reicht für den Anfang: freigegebene Tools und Konten, verbotene Daten, verpflichtendes Review, Ansprechpartner bei Unsicherheit. Wo ein Betriebsrat besteht, sollte er früh eingebunden werden, da solche Werkzeuge Leistungsdaten erfassen können.

4. Das Sicherheitsnetz verstärken

Statische Analyse, Abhängigkeitsprüfung und Secret-Scanning werden in der Pipeline verpflichtend, menschliches Review bleibt vor jedem Merge Pflicht.

5. Wirkung messen

Statt gefühlter Produktivität zählen Kennzahlen, die ohnehin erhoben werden: Durchlaufzeit von Änderungen, Review-Dauer, Fehler- und Rollback-Quote, Anteil übernommener Vorschläge. Am Ende des Piloten wird entschieden: ausweiten, nachjustieren oder stoppen.

Wer die Entwicklung ganz oder teilweise an einen Dienstleister vergibt, sollte dieselben Regeln vertraglich verankern. Mehr dazu in unserem Ratgeber Softwareentwicklung outsourcen.

Fazit

KI-Assistenten beschleunigen die Softwareentwicklung dort, wo Ergebnisse konventionell und leicht prüfbar sind. Sie ersetzen weder Erfahrung noch Review, und ohne klare Regeln zu Daten, Konten und Berechtigungen schaffen sie neue Risiken. Ein kleiner Pilot, schriftliche Leitplanken und ehrliche Messung sind der sicherste Weg zu einem dauerhaften Einsatz.

FAQ

Darf man KI-Assistenten mit firmeneigenem Quellcode nutzen?

Ja, wenn ein Geschäftskonto mit passenden Vertragsbedingungen genutzt wird, das Training mit Ihrem Code ausgeschlossen ist und klar geregelt ist, welche Repositories verwendet werden dürfen.

Braucht man einen Auftragsverarbeitungsvertrag?

Sobald personenbezogene Daten an den Anbieter gelangen können, in der Regel ja. Klären Sie das mit Ihrer oder Ihrem Datenschutzbeauftragten, bevor das Werkzeug breit ausgerollt wird.

Ist selbst gehostete KI sicherer?

Sie verringert das Risiko des Datenabflusses, weil Code das Unternehmen nicht verlässt. Dafür tragen Sie Betrieb, Updates und Absicherung des Modells selbst.

Muss KI-generierter Code anders geprüft werden?

Mindestens genauso gründlich wie menschlicher Code, mit besonderem Augenmerk auf Abhängigkeiten, Eingabeprüfung und Randfälle.

Dieser Beitrag dient der allgemeinen Information und ist keine Rechts- oder Sicherheitsberatung. Funktionen, Tarife und Vertragsbedingungen der Anbieter ändern sich häufig; prüfen Sie vor einer Entscheidung stets die aktuellen Angaben. Programmer Solutions nimmt keine Zahlungen für positive Erwähnungen an.