Fraunhofer IAO | Mensch-Technik-Interaktion

Die Signal-Attacke, die unter anderem die Bundestagspräsidentin getroffen hat, bewegt die Gemüter. Was ist passiert? Betroffene erhielten eine Signal-Nachricht angeblich vom offiziellen technischen Support von Signal. Man solle seine PIN bestätigen oder einen Bestätigungscode eingeben. Einige Betroffene haben dies getan und so ihren Signal-Account kompromittiert. Oft ist die Reaktion: »Wie konnte man nur so blöd sein, darauf reinzufallen?«. Genau diese Überheblichkeit ist gefährlich. Erstens wird sie der Situation, in der den Betroffenen der Fehler unterlaufen ist, nicht gerecht und zweitens vermittelt sie den Eindruck, man selbst sei immun gegen solche Angriffe. Social Engineering-Expertinnen und-Experten können nur bestätigen: das ist niemand.

Im Zusammenhang mit der Signal-Attacke muss man bedenken: Systemnachrichten von Signal bitten regelmäßig um die Eingabe der PIN, um zu verhindern, dass diese vergessen wird. Nutzer der App sind also daran gewöhnt, ab und an eine solche Aufforderung zu erhalten. Jetzt kommt also wieder eine solche Aufforderung unter dutzenden wichtigen Nachrichten. Man passt einen Moment nicht auf und schon ist es geschehen: man hat die PIN in einen Chat geschrieben und nicht bemerkt, dass dies nicht der gewohnte Systemprompt war. So etwas klassifiziert der Experte Norman als »rule-based mistake«.

Was heißt das für Cybersicherheit in Unternehmen?

Oft stoßen wir auf Aussagen wie »Menschen werden immer Fehler machen, wir sollten uns deshalb darauf konzentrieren, die Systeme im Unternehmen so sicher zu machen, dass Fehler von Menschen diese nicht kompromittieren können.« Das ist nicht komplett falsch und auch im Kontext des Signal-Beispiels relevant: hier wurden Nutzende trainiert, die PIN auf Anfrage einzugeben. Auch Gewohnheit kann unsensibel für Sicherheitsrisiken machen. Aber genauso wenig wie es Unternehmen bisher gelungen ist, systematisch Software ohne Schwachstellen zu erstellen, können Unternehmen IT-Systeme bauen, die komplett immun gegen Fehler von Mitarbeitenden sind.

Wer Menschen Security-fit machen will, muss sie deshalb befähigen: mit realitätsnahen Szenarien, Erlebbarkeit in geschützten Erfahrungsräumen und klaren Routinen für den Ernstfall. Erst wenn Menschen Manipulationsmuster erkennen, Unsicherheit aussprechen dürfen und unter Druck handlungsfähig bleiben, wird aus Awareness wirksame Sicherheitskompetenz.

Genau dafür haben wir das Lernlabor Cybersicherheit »Faktor Mensch« entwickelt. Es übersetzt abstrakte Bedrohungen in konkrete Situationen, macht Manipulation erfahrbar und schafft einen Raum, in dem Reaktionen ausprobiert, Fehler gemacht und Handlungsroutinen aufgebaut werden können.

Ich nehme Sie mit auf einen kleinen Rundgang durch das Lernlabor, um Ihnen diesen neuen und innovativen Ansatz zur Vermittlung von Security-Kompetenzen vorzustellen.

Cybersicherheit wird konkret erlebbar – nicht theoretisch vermittelt

Ein Rundgang durch das Lernlabor beginnt mit einem Perspektivwechsel. Wer den Raum betritt, bewegt sich in einer Mikrowelt, in der Cyberangriffe nicht abstrakt erklärt, sondern erlebbar gemacht werden. Die Teilnehmenden begegnen Situationen, wie sie im beruflichen Alltag tatsächlich entstehen: geprägt von Zeitdruck, Routine, und wichtigen To Do‘s.

Bereits an der ersten Station wird deutlich, dass Cybersicherheit hier vom Menschen aus gedacht wird. Die sogenannte Hypebox bildet eine vollständige Unternehmensumgebung mit unterschiedlichen Abteilungen nach – von der Fertigung über Personal und Finanzen bis hin zum Management. Die Teilnehmenden durchlaufen kurze, realitätsnahe Cybergeschichten, die an typische Arbeitskontexte anknüpfen.

So entsteht ein persönlicher Bezug: Was bedeutet diese Bedrohung konkret für meine Rolle, meine Entscheidungen und meinen Arbeitsalltag?

Ransomware als Prozess – nicht als Schockmoment

Im nächsten Schritt erleben die Teilnehmenden die Dynamik eines Ransomware-Angriffs. Der Angriff erscheint nicht als plötzliches Ereignis, sondern als Prozess: Kontaktaufnahme, Manipulation, erster Zugriff und Ausbreitung im System. Dabei wird sichtbar, wie professionell Angreifende vorgehen – und wie eng technische Abläufe mit menschlichem Verhalten verbunden sind.

Selbst erleben statt nur zuhören

Eine weitere Station macht IT-Angriffe praktisch erfahrbar. In der Demonstrator-Plattform ELITE 2.0 werden typische Arbeitssituationen kleiner und mittlerer Unternehmen simuliert. Die Teilnehmenden lösen selbst Sicherheitsvorfälle aus, erleben deren Folgen und erkennen, welche Maßnahmen tatsächlich schützen. Mitarbeitende werden nicht als Schwachstelle betrachtet, sondern als aktive Sicherheitsfaktoren.

Wenn KI täuschend echt wird

Besonders eindrücklich wird der Rundgang im Bereich moderner Social-Engineering-Angriffe. Beim KI-gestützten Spear-Phishing wird sichtbar, wie aus öffentlich verfügbaren Informationen und Generativer KI täuschend echte Angriffsmails entstehen. Sprache, Tonalität und Kontext lassen sich von den Teilnehmenden so präzise einstellen, dass selbst erfahrene Führungskräfte unter Druck geraten würden.

Wenn die Stimme nicht mehr vertrauenswürdig ist

Eine weitere Station erweitert dieses Szenario: Voice Cloning. Besucherinnen und Besucher können eigene Stimmen aufnehmen oder bekannte Stimmen auswählen und erleben, wie daraus realistische Telefongespräche generiert werden. Die Inhalte orientieren sich an klassischen Betrugsmaschen wie Enkeltrick oder CEO-Betrug. Plötzlich wird greifbar, wie glaubwürdig solche Angriffe sind – und wie schwer es ist, sie allein anhand der Stimme zu erkennen.

Das Gespräch mit der KI – und die eigene Reaktion

Noch direkter wird die Erfahrung beim KI-automatisierten Social Engineering. Hier werden die Teilnehmenden von einer KI angerufen, die typische Betrugsszenarien durchspielt – etwa als vermeintlicher Bankmitarbeiter, als angeblicher Lotteriegewinn oder mit dringenden Anweisungen im Namen der Geschäftsführung. Die Teilnehmenden können frei reagieren, Fragen stellen, zweifeln oder sich überzeugen lassen. Erst im Anschluss erfolgt eine Analyse des Gesprächs, die aufzeigt, wo Risiken bestanden und wie Angreifende psychologisch vorgehen. Der Lerneffekt entsteht nicht durch richtige Antworten – sondern durch eigene Erfahrung.

Vom Erlebnis zur Handlungssicherheit

Der Rundgang endet nicht bei dem Bedrohungserlebnis, sondern inspiriert die Besucher zu konkretem Handeln: In anschließenden Lern- und Trainingsformaten werden die Erlebnisse reflektiert, eingeordnet und auf konkrete berufliche Situationen übertragen.

Dazu gehören der sichere Umgang mit Phishing, Ransomware und Social Engineering, das Erkennen von Finanzbetrug im Zeitalter von KI sowie der souveräne Umgang mit manipulativen Situationen im Arbeitsalltag.

Fazit: Nachhaltiges Lernen beginnt mit Erleben

Was diesen Rundgang auszeichnet, ist die konsequente Abkehr vom Belehren und Besserwissen. Cybersicherheit wird nicht gepredigt, sondern erfahrbar gemacht. Die Teilnehmenden erleben Angriffsdruck, Täuschung und Unsicherheit in einem geschützten Raum – und entwickeln genau dort Handlungssicherheit, wo sie im Ernstfall gebraucht wird.

Denn nachhaltige Cybersicherheit entsteht durch Menschen, die im entscheidenden Moment richtig handeln.

Leselinks:

• Webseite des Lernlabors Cybersicherheit
• Zertifikatskurs »Grundlagen der Cybersecurity am Büroarbeitsplatz«
• Seminar gegen CEO-Fraud für Mitarbeitende in den Bereich Finanzen und Controlling
• Kurs »KI-gestütztes Social Engineering«
• Kurs »IT-Sicherheitsrichtlinien nutzergerecht gestalten und erfolgreich etablieren«

Agile Softwareentwicklung lebt vom Dialog, von Iterationen, von Rückfragen. Im Umgang mit Coding-Agenten neigen wir aber zu One-Shot-Prompting und die Agenten führen unsere Anweisungen in blindem Gehorsam aus. Merken Sie den Widerspruch? Hier erfahren Sie, wie Sie ihn auflösen.

Das Kernproblem: Agenten gehorchen – statt mitzudenken

Im ersten Teil dieser Serie habe ich argumentiert, dass Agentic Coding ein Paradigmenwechsel ist – vergleichbar mit der Einführung der Compiler (Compiler sind Programme, die Programmierhochsprachen wie C++ in Maschinencode übersetzen). Doch wo genau klemmt es heute in der Praxis?

Die Antwort ist unbequem: bei uns.

Unsere Prompts an Coding-Agenten sind in vielen Fällen massiv unterbestimmte Problembeschreibungen. Wir skizzieren ein Ziel in zwei Sätzen und erwarten, dass der Agent unsere Gedanken liest. Und das Fatale: Er versucht es tatsächlich. Viele Coding-Agenten verhalten sich standardmäßig so, als sei jede Anweisung vollständig genug, um direkt umgesetzt zu werden. Sie können Rückfragen stellen — aber sie tun es oft nur dann zuverlässig, wenn wir dieses Verhalten explizit einfordern. Sie verhalten sich wie Arbeitspferde, nicht wie Sparringspartner. Sie liefern irgendetwas, das oberflächlich zu Ihrem Prompt passt.

Das Ergebnis: Code, der kompiliert, der irgendwie funktioniert – aber an Ihrer eigentlichen Intention vorbeigeht. Und Sie merken es oft erst, wenn es zu spät ist.

Überraschung: Sie sind jetzt Product Owner

Wenn Sie mit einem Coding-Agent arbeiten, passiert etwas Fundamentales mit Ihrer Rolle: Sie spezifizieren ein Problem in natürlicher Sprache und übergeben die Umsetzung an einen Entwickler – in diesem Fall einen digitalen. Sie sind eine Art Product Owner.

Das klingt trivial, hat aber weitreichende Konsequenzen. Denn die meisten von uns haben nie gelernt, diese Rolle gut auszufüllen. Wir sind es gewohnt, Probleme selbst zu lösen – nicht, sie so zu beschreiben, dass jemand anderes sie lösen kann. Und wir sind es auch nicht gewohnt, Verantwortung für Code zu übernehmen, den wir nicht selbst geschrieben haben. Denn Agentic Coding delegiert Implementierung, aber nicht Verantwortung.

Plötzlich gelten andere Fähigkeiten: Präzision in der Anforderungsformulierung. Priorisierung. Das Erkennen von Akzeptanzkriterien. Das gelingt am besten im Dialog.

Dialog statt Diktat: Was Agentic Coding von Scrum lernen muss

Agile Softwareentwicklung lebt vom Dialog. User Stories werden im Gespräch verfeinert. Unklarheiten werden in Sprint Plannings aufgelöst. Kein erfahrener Entwickler beginnt mit der Umsetzung, bevor die Anforderungen verstanden sind.

Coding-Agenten tun genau das. Sie beginnen sofort. Ohne Rückfrage, ohne Klärung, ohne Widerspruch.

Das müssen wir ändern. Nicht indem wir auf bessere Modelle warten, sondern indem wir den Dialog aktiv einfordern. Konkret heißt das: Geben Sie Ihrem Agenten die explizite Anweisung, bei Unklarheiten nachzufragen, statt zu raten. Fordern Sie ihn auf, Ihre Anforderungen zusammenzufassen und Annahmen offenzulegen, bevor er mit der Umsetzung beginnt. Behandeln Sie die Interaktion wie ein Sprint Planning – nicht wie einen Befehl an eine Maschine.

One-Shot ist kein Engineering – arbeiten Sie in Sprints

Die natürliche Versuchung im Agentic Coding: Ein großer Prompt, eine große Lösung, ein großer Wurf. Das funktioniert gut in kleinem Rahmen und für Prototypen. Bei größeren Projekten ist diese Herangehensweise aber schädlich.

One-Shot-Prompts führen zu Lösungen, die schwer zu verstehen, schwer zu testen und schwer zu korrigieren sind. Sie erzeugen dieselben Probleme, die wir in der Softwareentwicklung seit Jahrzehnten kennen – nur schneller.

Die Alternative: Arbeiten Sie iterativ. Definieren Sie das große Ziel und die Architektur vorab – aber formulieren Sie die konkreten Aufgaben schrittweise, Sprint für Sprint. Jede Iteration sollte ein überschaubares, testbares Ergebnis liefern. Die Richtung ist klar, aber die Umsetzung fährt auf Sicht.

Das mag langsamer wirken als der große One-Shot. In der Praxis ist es dramatisch schneller – weil Sie Missverständnisse früh erkennen, statt sie durch das gesamte Projekt zu schleifen.

Custom Agents: Erziehen Sie Ihren Agenten zum kritischen Denker

Sprachmodelle werden beim Training nicht ausreichend für kritisches Denken belohnt. Das ist ein bekanntes Problem, aber kein unlösbares, denn Sie können gegensteuern.

Die meisten modernen Coding-Werkzeuge erlauben es, System-Instruktionen, Fähigkeiten oder sogenannte Custom Agents zu definieren. Nutzen Sie diese Möglichkeit konsequent. Instruieren Sie Ihren Agenten:

• Bei Mehrdeutigkeiten gezielt Rückfragen zu stellen und versteckte Annahmen offenzulegen und zu hinterfragen.
• Wichtige Designentscheidungen mit Ihnen abzusprechen, zu begründen und Alternativen aufzuzeigen.
• Potenzielle Probleme und Risiken proaktiv zu benennen.

Sie formen damit keinen gehorsamen Assistenten, sondern einen kritischen Sparringspartner. Einen, der Sie besser macht – und den Sie besser machen. Das ist Agenten-Bändigung im besten Sinne.

Ein konkretes Beispiel für entsprechende Instruktionen finden Sie in den Leselinks. Diese Instruktionen basieren auf Erfahrungsberichten von Andrej Karpathy, einem der Vordenker im Bereich Agentic Coding.

Testbarkeit ist die neue Kernkompetenz

Wenn wir den Code nicht mehr selbst schreiben, gewinnt eine Disziplin massiv an Bedeutung: das Testen.

Wir als Entwicklerinnen und Entwickler sollten einen erheblichen Teil der durch Coding-Agenten freigewordenen Zeit für den Entwurf und die Durchführung von Tests verwenden. Jetzt ist die Zeit, Testen neu zu denken: Was war gestern noch zu aufwändig, ist heute aber mit Coding-Agenten möglich? Wir könnten beispielsweise individuelle Test-Suiten entwerfen, die perfekt auf unsere Software zugeschnitten sind.

Meine bewusst steile These: Streben Sie 10 % Produktionscode und 90 % Testcode an. Entscheidend ist am Ende nicht die Menge an Testcode, sondern die Aussagekraft der Tests: Decken sie die kritischen Anforderungen, Randfälle und Fehlerszenarien wirklich ab? Auch bei Tests können uns Agenten unterstützen, stoßen dabei aber auf Barrieren. Sobald es ins Visuelle und Unstrukturierte geht, kommen Coding-Agenten ins Schwanken. Sie wollen mit gut strukturiertem Text arbeiten. Es ist unsere Aufgabe, diese Barrieren zu identifizieren und zu reduzieren. Wenn wir hier gute Methoden entwickeln, können wir die KI-Welle aktiv mitgestalten, statt nur auf sie zu reagieren.

Die goldene Faustregel: Ein Gespräch, ein Anliegen, ein Ergebnis

Zum Abschluss eine einfache Faustregel, die erstaunlich viele Probleme vermeidet:

Stellen Sie sich vor, Sie sprechen mit einem menschlichen Kollegen. Erklären Sie Ihr Anliegen so, dass auch ein Mensch gute Chancen hätte, es zu verstehen – mit Kontext, mit Ziel, mit Akzeptanzkriterien. Nicht mehr, nicht weniger.

Beachten Sie dabei das begrenzte Kontextfenster Ihres Agenten. Eine konkrete Programmieraufgabe pro Session sollte das Ziel sein – klar abgegrenzt, klar überprüfbar. Danach geht der Agent in den wohlverdienten Feierabend, und der nächste übernimmt mit frischem Kontext.

Das mag sich künstlich anfühlen, aber es erzwingt genau die Disziplin, die gutes Software Engineering ausmacht: klare Modularisierung, klare Schnittstellen, klare Verantwortlichkeiten. Nicht trotz der Agenten, sondern durch sie.

Die Technologie steckt in den Kinderschuhen. Unser Umgang mit ihr auch.

Im ersten Teil ging es um die Frage, warum Agentic Coding mehr ist als ein kurzfristiger Hype. In diesem zweiten Teil ging es um das Wie: um Dialog, Iteration, Tests und die neue Rolle von Entwicklerinnen und Entwicklern. Genau diese Fragen wollen wir am Fraunhofer IAO vertiefen — praxisnah, kritisch und mit Blick auf Forschung und Entwicklung.

Sie wollen tiefer einsteigen? Am Fraunhofer IAO bieten wir eine Veranstaltung an, in der wir gemeinsam erkunden, welche Möglichkeiten Coding-Agenten für Forschung und Entwicklung eröffnen: »KI-Impact: Mit Coding-Agenten zu neuen Möglichkeiten in FuE« am 8. Juli 2026.

Ich freue mich, Sie dort zu sehen.

Connecten Sie sich auch gern mit mir auf LinkedIn – ich freue mich auf den Austausch.

Leselinks:

• Beispiel, wie Instruktionen für Coding-Agenten aussehen können
• Erfahrungsbericht von Andrej Karpathy zu Agentic Coing

Am 18. und 19. Juni 2026 wurden die Mitglieder des Kompetenzzentrums Quantencomputing Baden-Württemberg (KQCBW) gemeinsam vom Fraunhofer IAO und Fraunhofer IAF zur vierten Developer Conference nach Freiburg eingeladen. Die zweitägige Veranstaltung brachte die Projekt- und assoziierten Partner des Kompetenzzentrums aus Forschung und Industrie zusammen, um aktuelle Fortschritte und Herausforderungen im Bereich des Quantencomputings zu diskutieren.

Gutes Arbeitsklima, verlässliche Führung und Veränderungsfähigkeit sind zentrale Voraussetzungen dafür, dass Unternehmen langfristig erfolgreich bleiben. Doch häufig fehlt eine belastbare Datengrundlage, um einzuschätzen, wie Mitarbeitende und Führungskräfte die eigene Organisation tatsächlich erleben. Genau hier setzt das neue Fraunhofer IAO-Panel an: Teilnehmende Unternehmen erhalten kostenfrei eine wissenschaftlich fundierte Standortbestimmung zu Arbeitsklima, Führung, Arbeitgeberattraktivität und Veränderungsbereitschaft – ergänzt um Einblicke in den Umgang mit Digitalisierung und Künstlicher Intelligenz.

Mit dem QuantumBW Atlas geht ein neues digitales Wissens- und Vernetzungsangebot an den Start, das als Wegweiser durch die Quantenlandschaft Baden-Württembergs dient. Die Plattform bietet einen strukturierten Überblick über Akteure, Themen und Entwicklungen in den Bereichen Quantencomputing, Quantensensorik und Quantennetzwerke im Land. Zudem fungiert sie als zentrale Orientierungshilfe für Unternehmen, Wissenschaft, Politik und Öffentlichkeit. Als Maßnahme der Landesinitiative QuantumBW trägt der Atlas dazu bei, das dynamisch wachsende Quantenökosystem systematisch zu erschließen. Die Inhalte lassen sich sowohl thematisch als auch geografisch intuitiv erkunden.

Mit der »Modellbasierten Entscheidungsunterstützung zur proaktiven sowie Lebenszyklus-gerichteten Entwicklung von Fahrzeug-Komponenten CYCLOMETRIC« hat das Fraunhofer IAO zusammen mit der Schweizer Design Consulting GmbH einen Green Good Design Award gewonnen. Diese Auszeichnung unterstreicht die Bedeutung der Transformation zur Kreislaufwirtschaft und zeigt, wie Unternehmen durch methodische Ansätze befähigt werden können, regulatorische Anforderungen auf dem Weg zur CO₂-Neutralität als Hebel für Innovation, Wettbewerbsfähigkeit und neues Wachstum zu nutzen.