Mit Coding-Agenten lassen sich komplexe Softwareprojekte umsetzen, ohne dass der Mensch auch nur eine Zeile Code selbst schreibt. Das lädt auch viele Laien mit kaum Programmiererfahrung dazu ein, Software zu entwickeln. Wo liegen hier die Hürden und Risiken? Und was kann man tun, um sie einzugrenzen?
Warnungen und eine Einladung
Einige Expertinnen und Experten warnen: Agentic Coding ohne das nötige Fachwissen sei gefährlich. Ich verstehe diese Sorgen gut und teile viele von ihnen. Wir sollten bei diesen Debatten aber einen kühlen Kopf bewahren. Was sind berechtigte Sorgen und wo spielen vielleicht emotionale Faktoren eine Rolle? Auch ich gebe ungern zu, dass KI mittlerweile häufig besseren Code schreibt als ich selbst, obwohl ich einige Jahre Programmiererfahrung vorzuweisen habe.
In diesem Artikel lade ich dazu ein, eine konstruktive Rolle einzunehmen: Agentic Coding in den Händen von Laien kann heute noch gefährlich sein. Ich nenne hierfür gleich auch einige Gründe. Unser Anspruch sollte aber sein, dass die Technologie dahinter so gut wird, dass auch Menschen ohne Programmiererfahrung ihre Ideen auf sichere Weise mithilfe von KI in gute Software übersetzen können. Und ich bin überzeugt davon, dass uns das gelingen kann.
Ein Selbstversuch, der viel erklärt
Der wichtigste Punkt zuerst: Coding-Agenten hinterfragen selten. Sie führen auch schlecht formulierte Anweisungen meist anstandslos aus. Probieren Sie es ruhig selbst aus: Formulieren Sie einen Prompt bewusst unklar und beobachten Sie, wie bereitwillig der Agent losläuft.
Genau darin liegt für Anfänger eine wesentliche Herausforderung: Niemand schützt sie vor schlechten Entscheidungen, Missverständnissen und Unwissenheit. Coding-Agenten sind häufig so instruiert, dass sie möglichst autonom arbeiten und nur in Ausnahmefällen vor den technischen Konsequenzen der Anweisungen warnen. Unerfahrene Benutzerinnen und Benutzer können sich dadurch leicht in eine Sackgasse manövrieren. Hierbei ist weniger die Gefahr, dass die Agenten unmittelbar Schaden anrichten, sondern vielmehr, dass sie scheinbar funktionierende Software produzieren, die den Anforderungen an gute Software nicht genügt.
Die gute Nachricht: Das lässt sich beeinflussen. Um zu verstehen wie, lohnt sich ein Blick hinter die Kulissen.
Warum Agenten nur lokal denken – ein Blick in den Systemprompt
Es gibt einen technischen Grund, warum Agenten sich so verhalten: den sogenannten Systemprompt. Er wird zusammen mit Ihrem Prompt an das Sprachmodell geschickt, ohne dass Sie davon etwas mitbekommen. Dieser Systemprompt ist meist deutlich länger als Ihre eigene Eingabe (oft mehrere Hundert Zeilen) und gibt dem Agenten Verhaltensrichtlinien vor.
GitHub Copilot etwa gewährt in seiner Chat-Debug-Übersicht einen tiefen Einblick in diesen Systemprompt. Besonders aufschlussreich sind die Anweisungen, die der Agent erhält, bevor er die ersten Änderungen vornimmt. Frei übersetzt und zusammengefasst lauten sie:
»Such dir den für die aktuelle Aufgabe passenden Einstiegspunkt im Projekt und sammle nur so viele Informationen, wie du unbedingt für die Aufgabe brauchst. Formuliere eine passende Hypothese und eine günstige, lokale Aktion, um sie zu überprüfen. Falls du dabei Schwierigkeiten hast, schaue dich noch etwas weiter um, aber vermeide es, dir das gesamte Projekt anzuschauen.«
An anderer Stelle heißt es sogar: »Es ist nicht deine Aufgabe, Fehler zu beheben, die nichts mit den aktuellen Anweisungen zu tun haben.«
Diese Vorgaben grenzen die Zuständigkeit des Agenten bewusst ein: Kümmere dich nur um deine aktuelle Aufgabe. Und sie lassen einen entscheidenden Aspekt aus: den Dialog mit dem Benutzer. Selbst wenn Unklarheiten durch das Lesen der Projektdateien nicht zu klären sind, wird der Agent nicht aufgefordert, nachzufragen. Dabei ist genau dieser Dialog wichtig, um Missverständnisse zu erkennen und Ziele zu schärfen.
Wir halten fest: Durch den Systemprompt erhält der Agent eine lokale Sicht auf das Projekt. Das große Ganze muss die Benutzerin oder der Benutzer im Blick behalten. Für erfahrene Entwickler ist das oft genau das gewünschte Verhalten. Für Anfänger dagegen kann es zur Falle werden, da sie häufig selbst nicht in der Lage sind, den Überblick zu bewahren.
Der Systemprompt geht vom Profi im Großprojekt aus
Der Systemprompt von GitHub Copilot ist für große Projekte und erfahrene Anwender ausgelegt. Bei großen Codebasen reicht das Kontextfenster der Sprachmodelle ohnehin nicht aus, um sich ein globales Bild zu verschaffen. Und selbst wenn es reichte, wäre es ineffizient, denn großer Kontext bedeutet deutlich höheren Rechenaufwand und höhere Kosten.
Bei sogenannten Greenfield-Projekten, also ganz neuen, kleinen Projekten, wäre es dagegen durchaus sinnvoll, wenn der Agent das gesamte Projekt im Blick behielte. Genau hier unterscheidet der Systemprompt von GitHub Copilot aber leider nicht. Und Greenfield-Projekte sind typischerweise das, womit Laien starten
Die Lösung: Den Systemprompt mit eigenen Instruktionen ergänzen
Wir können die für uns unpassenden Vorgaben aber über sogenannte Instruktionen korrigieren, mit denen wir den Systemprompt erweitern.
Ich habe eine solche Instruktions-Datei erstellt, die speziell auf Laien zugeschnitten ist. Sie ist öffentlich verfügbar. Den Link dazu finden Sie am Ende des Artikels. Sie sind herzlich eingeladen, diese Instruktionen zu verwenden.
Der Agent weiß dadurch, dass die Benutzerin oder der Benutzer wenig eigene Erfahrung mitbringt. Er stellt Rückfragen und schärft damit die Ziele. Und er versucht, das gesamte Projekt im Blick zu behalten, insbesondere hinsichtlich der Sicherheitsaspekte.
Der Preis dafür: Das Entwicklungstempo sinkt, weil der Agent deutlich mehr kommuniziert, bevor er loslegt. Doch gerade für Laien sollte Verlässlichkeit weit wichtiger sein als Schnelligkeit. Meine These geht sogar weiter: Auch erfahrene Entwickler würden davon profitieren, wenn Ziele öfter im Dialog geschärft würden, bevor der Agent mit der Implementierung beginnt.
Wo die kritische Linie verläuft
Eine ehrliche Einordnung gehört dazu: Auch mit passenden Instruktionen bleibt Vorsicht geboten. Eine kritische Linie überschreiten Sie insbesondere dann, wenn auch andere Ihre Software nutzen oder sie gar öffentlich verfügbar ist. In diesem Fall gilt: Lassen Sie sich von Expertinnen und Experten beraten – gern bei uns am Fraunhofer IAO.
Können Sie gut erklären? Dann haben Sie eine wichtige Voraussetzung
Ich möchte mit einer Ermutigung schließen. Es stimmt nicht, dass Agentic Coding nur ein Thema für Softwareentwickler ist. Wer Dinge gut erklären kann, bringt eine der wichtigsten Grundvoraussetzungen mit, um mit Agenten effektiv zu arbeiten.
Es spricht nichts dagegen, mit Coding-Agenten Prototypen Ihrer Ideen zu entwerfen oder Anwendungen zu bauen, die nur Sie lokal nutzen. Beherzigen Sie dabei folgende Dinge: Seien Sie geduldig und erlauben Sie dem Agenten, Rückfragen zu stellen. Und seien Sie bereit, sich technisch fortzubilden. Ihr Agent hilft Ihnen mit den richtigen Instruktionen gern dabei, die geschriebene Software besser zu verstehen.
Sie haben noch offene Fragen oder möchten sich mit mir zu diesem Thema austauschen? Kommen Sie gern auf mich zu, beispielsweise per LinkedIn. Ich freue mich über Kontaktanfragen!
Leselinks: