Im vergangenen Jahr hat sich die Diskussion um agentisches Engineering hin zu Geschirren und Schleifen, Flotten und Softwarefabriken verlagert. Meine bescheidene Meinung ist, dass Ingenieure die äußere Schleife besitzen müssen – die Verantwortlichkeit für diese Systeme. Das wird umso wichtiger, je leistungsfähigere Modelle wie Fable und GPT-5.6 verfügbar werden.
Agenten haben Hebelwirkung, und Hebelwirkung schafft Verpflichtungen. Jemand muss genau erklären können, was sich geändert hat, warum es sicher war und was passieren wird, wenn er falsch liegt. Andernfalls können ihre Handlungen nicht gerechtfertigt werden. Was es unwahrscheinlich macht, dass ihre Organisation sie überhaupt erst anfordert.
Und deshalb möchte ich über drei Begriffe sprechen. Der erste, Qualität, bezieht sich auf alle Prüfungen, die wir installieren, bevor wir das System loslassen. Diese Prüfungen produzieren Beweise, und aus diesen Beweisen leiten wir ein Urteil ab.
Das zweite, Urteil, bezieht sich auf die endgültige Entscheidung, die wir treffen, bevor die Arbeit in unser abhängiges System gelangt: Ich bin der Linienproduzent dieses Inhalts. Ich leite das Team, dessen Arbeit unter meinem Namen ausgeliefert wird. Das Modell mag die Zeile schreiben, aber das Urteil ist meins. Die Arbeit meines Teams wird ohne meine Entscheidung nicht in unsere abhängigen Systeme gelangen. Ein Urteil ist die Produktionsentscheidung: Sollen wir ausliefern, blockieren, umleiten, die Antwort eingrenzen, eine Leitplanke hinzufügen oder ganz ablehnen?
Das dritte, Rechenschaftspflicht, bezieht sich auf die Garantie, dass ich erklären kann, warum, wenn jemand fragt.
Um es anders zu sagen: Unser Agent (den ich als ein Modell plus ein Geschirr aus Dateien, Werkzeugen, Gedächtnis, Fähigkeiten, Sandkästen, Berechtigungen, Beobachtbarkeit und Wiederherstellung definiere) ist das, was unsere Schleife betreibt (die ich als Untersuchung, Implementierung, Verifikation und Wiederholung definiere). Und er ist es, der unsere Softwarefabrik erschafft.
Das Modell ist nur der Motor. Das Geschirr – Werkzeuge, Gedächtnis, Berechtigungen, Sandkästen, Tests – ist das Auto, das du darum herum baust, damit es sicher echte Arbeit verrichten kann.
Ummantle dieses Geschirr mit einem wiederholbaren Zyklus: untersuchen, implementieren, verifizieren, wiederholen. Die Schleife ist, wie aus einem guten Durchlauf ein Prozess wird, dem du vertrauen kannst, dass er wieder läuft. Ummantle dieses Geschirr mit einem wiederholbaren Zyklus – untersuchen, implementieren, verifizieren, wiederholen – bei dem eine unabhängige Prüfung, nicht die eigene Aussage des Modells, entscheidet, wann die Arbeit erledigt ist.
Lasse nun viele Schleifen gleichzeitig laufen. Eine Fabrik ist hochskalierte Schleifen – die Agenten liefern die Arbeit im Inneren aus, während Menschen die Entscheidungen an der Grenze besitzen.
Und im Herzen dieser Fabrik liegt eine sorgfältige Grenze zwischen dem, was innerhalb des Systems ist, und dem, was außerhalb ist. Innerhalb des Systems: Wir sammeln Eingaben (von der Absicht des Produktteams oder dem Wissen über zuvor ausgelieferte Arbeit oder über aktuelle Vorfälle oder über spezifisches Feedback von Benutzern). Die Agentenschleife untersucht die Aufgabe, implementiert einen Plan und verifiziert das Ergebnis. Dann überqueren Beweise diese Grenze. Ein Mensch, der das abhängige System besitzt, sieht die Beweise und entscheidet, ob er fortfahren soll.
Und das, Freunde, ist die Veränderung, die wir anstreben. Früher erledigten unsere Agenten die innere Schleife der Ausführungsschleife. Jetzt betreiben sie die innere Ausführungsschleife. Ingenieure besitzen die äußere Schleife.
Innerhalb des Systems gibt es wirklich nur eine Art von Dingen, die unsere Agenten tun: Fähigkeit. Die Fähigkeit, Aufgaben zu untersuchen, Pläne zu implementieren, ihre Ergebnisse zu testen und zurückzumelden. Das ist die Fähigkeit eines Modells. Und wie wir gesagt haben, diese Zukunft ist bereits da.
Außerhalb des Systems gibt es eine einzige Art von Ding: Handlungsmacht. Die Handlungsmacht zu entscheiden, zu verifizieren, zu genehmigen und zu besitzen.
Wir sprechen immer noch über Code, verstehst du. Er muss nur an einem Ort leben und von Leuten ausgeführt werden, die wissen, was sie tun.
Das Potenzial für KI-Code ist nicht mehr marginal. In einer Sonar-Umfrage von 2026 fragten wir Teams nach dem Anteil ihrer Commits, die KI-gestützt waren. Er war klein, aber nicht trivial. Und mehrere der Befragten sagten, sie erwarteten, dass der Anteil der KI-gestützten Commits erheblich wachsen würde. Sonars 2026 State of Code Report ergab, dass 42 % des committeden Codes KI-generiert oder erheblich KI-gestützt waren, mit der Erwartung, dass dieser Anteil weiter wachsen und nicht stagnieren wird.
Erstellung, mit anderen Worten, wird billiger. Knappere Ressourcen sind Review, Validierung, Verständnis und Wartung.
Wir haben die Geschwindigkeit der Generierung schneller bewegt als die Geschwindigkeit der Kontrolle. Und so haben wir eine Vertrauens-Verifikations-Lücke. Viele Leute, mit denen wir sprechen, äußern immer noch ein gewisses Maß an Misstrauen gegenüber KI-Code. Doch weniger von ihnen scheinen dieses Misstrauen konsequent in ihre Verifikationsprozesse einzubauen.
Und das ist ein gefährlicher Ort, an dem man sich befinden kann. Wir werden billigere, klarere Wege brauchen, um die Vertrauenswürdigkeit von KI-Code zu verifizieren.
Wenn du dir den GitLab-Bericht vom Juni 2026 ansiehst, wirst du sehen, dass sich die Governance-Fragen verschoben haben. GitLabs KI-Rechenschaftsforschung vom Juni 2026 zeigt, dass Review und Validierung die aktuellen Engpässe bei der Nutzung von KI sind und, was noch besorgniserregender ist, dass Governance normalerweise nach der Codeerstellung stattfindet, nachdem wir das Risiko akzeptiert und die Kontrolle über das Eigentum verloren haben. Heute geht es nicht nur um Kontrolle. Es geht darum, welche Einschränkungen wir dem System auferlegen. Es geht darum, wie wir die Arbeit mit Beweisen überprüfen und wie wir Teams zur Rechenschaft ziehen. Es geht darum, wer welchen Teil des KI-Lebenszyklus besitzen wird.
Die letzte Unterscheidung in dieser Serie ist also die zwischen Prozess und Qualität. Qualität ist das Konzept des Gegendrucks. Wir meinen das wörtlich. Wir wollen unseren Agenten nicht so viel Autonomie gewähren, wie sie nur ausüben können. Wir wollen ihnen gerade genug Autonomie gewähren, dass wir genug Gegendruck haben, um sie zu stoppen, zu regulieren, ihre Arbeit zu überprüfen und unsere Menschlichkeit zu gewährleisten.
Gewöhnliches Engineering hält viele Signale bereit, die anzeigen, dass die geleistete Arbeit das Richtige tut. Typprüfungen, Tests, Hooks, Sandbox-Grenzen, Audit-Logs, Monitore. Unsere Engineering-Systeme sind voll von solchen Signalen, und sie sind darauf ausgelegt, genügend Gegendruck zu liefern, um das System ehrlich zu halten.
Und solange unsere Agenten dieselben Signale aussenden, können wir darauf vertrauen, dass unser gewöhnliches Engineering angemessenen Gegendruck liefert.
Unseren Systemen zu vertrauen bedeutet nicht, dass wir keinen Menschen in der Schleife wollen. Es bedeutet nur, dass der Mensch nicht in der inneren Schleife sein muss. Wir wollen sie in der Einschränkungsschleife (welche Eingaben, Architekturen, Anweisungen oder Invarianten sollen wir festlegen?), der Stichprobenschleife (wie viel Output sollen wir beproben und überprüfen?), der Audit-Schleife (welche Beweise sollen wir aufbewahren und wie stellen wir sicher, dass unser Audit-Log effektiv ist?) und der Eigentumsschleife (welchen Teil der Produktionsgrenze sollen wir besitzen).
Aber der Mensch muss nicht in der inneren Schleife sein.
Der Agent kann mehr ausliefern, als du überprüfen kannst.
Und die knappe Ressource ist dein eigenes menschliches Kernurteil, informiert durch Qualitätssignale wie Logs oder Tests.
Der KI-Bericht vom Juni 2026 zeigt, dass im experimentellen Umfeld agentische Delegation über Zeiträume im Stundenbereich im Wesentlichen angekommen ist. Die Arbeit von OpenAI in diesem Jahr über Agenten und die Zukunft der Arbeit war eine großartige Quelle für diese Ideen. Also müssen wir anfangen, darüber nachzudenken, wie wir diese Eigentumsgrenze etablieren, da unsere Systeme beginnen, mehr auszuliefern, als wir überprüfen können.
Und hier kommt die Rechenschaftspflicht ins Spiel.
Denn bei langfristigen Agenten sind die Entscheidungen, die über Zeiträume im Stundenbereich getroffen werden, genau das – Entscheidungen. Und nicht alle Entscheidungen werden aufgezeichnet. Du kannst sie nicht alle auf Eingabe-Token zurückverfolgen. Wenn du nur darauf vertraust, dass die Ausgabe, die du erhältst, die richtige Wahl für das vorliegende Problem ist, werden die Hunderte oder sogar Tausende von Arbeitsstunden, die du benötigst, um die Entscheidungskette zu rekonstruieren, die dazu geführt hat, unmöglich. Und so wird, noch einmal, Rechenschaftspflicht zu etwas, das im Kern unseres Systemdesigns stehen muss.
Drei versteckte Kosten
Und es gibt drei versteckte Kosten:
Kognitive Kapitulation ~ blindlings akzeptieren, was KI dir gibt. Wenn du Arbeit an einen Agenten delegierst, mag die Arbeit selbst wie die Arbeit des Agenten erscheinen. Aber es ist tatsächlich deine Arbeit. Es ist dein Ruf. Es ist deine Verantwortung. Und es ist deine Software, die die Mängel in der Ausgabe erlitten hat. Und es ist deine Software, die geändert werden muss, um diese Ausgabe widerzuspiegeln. Also wird die Ausgabe des Agenten zu deiner Antwort. Und damit kommt die gesamte Verantwortlichkeit. Die Wharton-Studie, die dies zusammengestellt hat, ist beruhigend, wenn die KI richtig liegt. Aber wenn sie falsch liegt, sind die Nachrichten nicht großartig. Wenn die KI falsch lag, akzeptierten es fast drei Viertel der Leute trotzdem und fühlten sich sicherer, als sie es ohne die KI getan hätten.
Kognitive Schulden ~ Erosion deines Verständnisses und Gedächtnisses, wie man Probleme löst. Wenn du Arbeit an einen Agenten delegierst, lagerst du die gesamte Denkarbeit an den Agenten aus. Und während es Zeit und Energie kostet, alles selbst durchzudenken, erfordert das Durchdenken einer massiven Codebasis Ressourcen, die nicht verfügbar sind, wenn du versuchst, die Lernkurve hochzulaufen. Die Ausgabe, die du erhältst, ist für dich oft unerreichbar. Und je länger der Zeithorizont der agentischen Planung ist, desto größer wird die Lücke zwischen dem Code, den der Agent produziert, und deinem Verständnis davon. Die Lücke potenziert sich. Die Schulden häufen sich an. Und die Kosten für das Erklimmen der Lernkurve wachsen fast exponentiell. Es gibt eine randomisierte kontrollierte Studie von Anthropic, die untersucht, ob Ingenieure, die sich auf KI verlassen, um Code zu schreiben, ihn genauso gut verstehen wie Ingenieure, die ihn selbst schreiben. Das Fazit war düster: In einem Verständnis-Quiz erzielten die Ingenieure, die mit KI arbeiteten, siebzehn Prozentpunkte niedriger als diejenigen, die dies nicht taten, 50 Prozent gegenüber 67 Prozent.
Und dann gibt es die Orchestrierungssteuer ~ es ist jetzt einfach, viele Agenten aufzusetzen, aber deine kognitive Bandbreite parallelisiert sich nicht auf die gleiche Weise. Deinen Agenten von den schlimmsten Verhaltensweisen wegzulenken, die Arbeit, die der Agent produziert, zu sortieren, um diejenigen zu identifizieren, die deine Aufmerksamkeit erfordern, ihn anzuweisen, sich zuerst auf die Arbeit zu konzentrieren, die dir wichtig ist, deine wichtigsten Einschränkungen und deine gefährlichsten Annahmen zu verifizieren, bevor du ihn laufen lässt…
All das erfordert Arbeit und kann nicht automatisiert werden.
Es gibt keinen Ersatz für menschliches Urteilsvermögen.
Brownfield-Systeme sind hier besonders gefährlich, weil das Systemverhalten, das du prüfen musst, nicht im Code lebt. Es lebt in den Narben.
Behebungen? Mache Aufmerksamkeit zur Priorität in deinen Architekturentscheidungen. Verwende Arbeitsbäume, Bereiche und Beweise, um die Kopplung zwischen deinem anfänglichen Plan und der daraus entstehenden Arbeit zu reduzieren. Zeitliche Begrenzung des Aufwands zur Lösung nicht umsetzbarer Schritte. Und mache Änderungen in deiner Software zu einer strikten Opt-in-Berechtigung.
Alpha, Verfall und Geschmack: Dies sind die drei Kernmuster, die Karrieren und Leistungen in allen Bereichen prägen.
Alpha ist der führende Teil, den der Höchstleistende im Wettbewerb einnimmt, wenn du deinen wertvollsten Spielzug machst. Verfälle sind etablierte Muster, die jeder durch Wiederholung und Beobachtung anderer lernt (Plateaus, wenn du so willst). Geschmack ist das früheste, was wir von einer Führung in einem Alpha oder einer Veränderung in einem Verfall spüren können. Es ist unser Urteil darüber, was kommt, bevor wir Beweise dafür haben, dass etwas passiert. Paul Grahams Punkt ist, dass, wenn jeder alles machen kann, die Wahl, was gemacht wird, wichtiger wird, und Mitchell Hashimotos Definition ist die operative: hochwertige qualitative Urteile fällen, wo noch keine objektive Metrik existiert. Von nun an bestimmt der Geschmack alles: Alpha-Verschiebungen sind Geschmacksveränderungen. Und Verfälle verschwinden, weil wir anfangen, etwas anderes zu schmecken.
Nächster Schritt? Operationalisiere deinen Geschmack. Wie? Gib ihm einen Namen, der widerspiegelt, was du vom limbischen ins Bewusste zu überführen versuchst. Übe ihn in Kritik und Beispielen. Mache seine Begründung explizit.
Und mache weiterhin den Zug, der den dauerhaftesten Wettbewerbsvorteil in deiner Branche bringt. Was ist das? Verschiebe die Grenze weiter nach oben, vom bloßen Erledigen der Aufgabe zum Lehren, Systematisieren, Entscheiden, wann sie erledigt werden sollte, und zum Besitzen des Ergebnisses.
Jeder ist ein Entwickler, aber nicht jeder ist ein Ingenieur. Engineering ist das, was aus einem Entwickler wird, wenn er eine Arbeitsdisziplin annimmt, die strenger ist: gründliches und logisch fundiertes Denken, Berücksichtigung von Einschränkungen und Kompromissen, Erkennung von Risiken und Gefährdungen sowie praktische Rechenschaftspflicht.
In Zukunft werden die Menschen die administrative Arbeit des Engineerings verlassen und neue Rollen annehmen, die entstehen, wenn Engineering anspruchsvoller wird. Rollen, die vom Geist des Handwerks entkoppelt sind, aber klar machen, was jede Person tut. Es wird diejenigen geben, die prototypisieren. Diejenigen, die bauen. Diejenigen, die kehren. Diejenigen, die wachsen lassen. Diejenigen, die warten.
Die Menschen halten die Kante des Systems auch in die andere Richtung. Das Alpha in die andere Richtung erhöhen: wählen, was es wert ist, getan zu werden, die Einschränkungen definieren, innerhalb derer es getan werden sollte, entscheiden, ob die Beweise ausreichen, um fortzufahren, und sich um das Ergebnis kümmern. Ob es ein einzelnes Team oder hundert Teams sind, dies ist die Kante, die nur Menschen halten können.
Verantwortlichkeit wird die Fabrik skalieren. Wie Aufmerksamkeit und Geschmack ist auch Verantwortlichkeit eine der drei Dualitäten, die alles zum Funktionieren bringen. Ohne Verantwortlichkeit gibt es keine Regeln. Kein Ringen mit Fragestellern. Keine Kompromisse. Keine Risiken. Keine Sicherheitsnetze. Wenn niemand die Konsequenz einer Entscheidung trägt, kann hohe Handlungsmacht nur Chaos bringen.
Die Halbwertszeit einer Kante ist eine Veröffentlichung, aber die Halbwertszeit einer Unterschrift ist eine Karriere. Eine Unterschrift ist dein Name auf der Arbeit, so dass du das Gefühl hast, hinter dem stehen zu können, was ausgeliefert wurde. Fähigkeiten verschaffen dir Hebelwirkung; Verantwortlichkeit verwandelt Hebelwirkung in Vertrauen.
Nur Menschen können wählen. Nur Menschen erben Konsequenzen. Agenten können gebeten werden, innerhalb einer Richtlinie sicher zu wählen, zu routen, zusammenzuführen und zu eskalieren, aber sie können die Konsequenzen nicht erben.
Vielleicht sollte jede Codebasis mit einer Art Rechenschaftsvertrag kommen, der explizit die Checkliste angibt, die verstanden wurde, als die Änderung akzeptiert wurde, die Beweise, die in die Entscheidung eingeflossen sind, wer für die Änderung verantwortlich war, und den Systemstatus, nachdem die Änderung blockiert wurde. So wie:
- Deine Aufmerksamkeit und dein Geschmack
- Deine Beweise, dein Urteil und dein Eigentum
- Dein Alpha, Verfall und Geschmack
Hohe Handlungsmacht
In einem typischen agentischen Workflow ist hohe Handlungsmacht die Kunst zu wissen, wann man delegiert, wann man prüft, wann man aufhört und wann man das Ergebnis eines Prozesses besitzt. Die Leiter der Handlungsmacht reicht von niedrig bis hoch: ein potenzielles Problem melden, es untersuchen, dagegen vorgehen, es diagnostizieren, Lösungen vorschlagen, Korrekturen empfehlen und das Problem lösen. Eine hohe Sprosse auf der Handlungsmacht-Leiter ist die Urteilsfähigkeit: gefunden, es ist nicht wert, behoben zu werden, weitermachen.
Die zwölf Säulen, die die Softwarefabrik stützen
Brownfield ist die Grenze für Fabriken, die hoffen zu skalieren. All diese klugen kleinen Innovationen mögen sich noch nicht wie viel anfühlen, aber die Produktionsumgebung ist eine Menge. Wenn man ein völlig neues System baut, ist es viel einfacher, ausreichende Gegendruckmechanismen zu planen und zu implementieren, weil man die volle Kontrolle hat. Wenn man jedoch intelligente Agenten zu einem Legacy-System hinzufügt, ist das eine ganz andere Sache.
Legacy-Systeme umfassen die Gesamtheit des Produktionsverhaltens, zukünftige Erwartungen der Kunden, Migrationshistorien, Release- und Budgetzyklusdauern, unausgesprochene Annahmen, Randfälle, Datenmerkwürdigkeiten, Runbook-Prozeduren und all die Narben, die sich angesammelt haben, ohne den Willen, sich um das System zu kümmern.
Ein Verwalter von Brownfield zu sein, erfordert eine Form von dauerhaftem Engineering. Es muss Arbeit geleistet werden, um implizites Wissen in explizite Einschränkungen zu verwandeln, es kohärent über Teams und Generationen hinweg zu halten, dieses Wissen in Testverfahren und funktionale Spezifikationen zu formalisieren und dieses Wissen an objektive Beweise zu binden. All dies, während Misserfolge in mehr Lernen umgewandelt werden. Denn wenn das System nicht die Pflege erhält, die es immer erhalten hat, wird alles zusammenbrechen.
Neue Arbeit ist echte Arbeit
Die Arbeit wird interessanter, je mehr du skalierst. Denn wenn alles andere gebaut ist, werden die Leute neue Dinge bauen wollen. Sie werden das Alpha und den Geschmack einsetzen wollen, den sie durch ihr Handwerk entwickelt haben, um neue Schleifen zu entwerfen, die auf die Softwarefabrik aufgepfropft werden können. Oder sie werden Greenfield-Systeme bauen wollen, die das gesamte Wissen der Softwarefabrik in einer eleganten, wohlmeinenden, prinzipientreuen Anstrengung vereinen. Sie werden neue Formen von Beweisen entwerfen und implementieren wollen, die dem Niveau der Verifikation für die neuen Systeme entsprechen. Sie werden sich um Brownfield-Systeme kümmern wollen, die jetzt so komplex sind, dass sie dedizierte Aufmerksamkeit benötigen. Sie werden neue Gegendruckmechanismen entwerfen und verwalten wollen. Sie werden neue Agenten entwerfen wollen. Und sie werden Handlungsmacht aufbauen wollen.
Und dabei werden sie erkennen, dass all dies echte Arbeit ist. Das ist eine gute Sache.
Automatisierung schafft Engpässe. Engpässe in der Produktion, die es wert sind, besessen zu werden. Denn Automatisierung gibt uns Kontrolle über den industriellen Maßstab. Aber es entstehen auch neue Engpässe aus dem industriellen Maßstab. Der Engpass verschiebt sich von „Können wir das bauen?" zu „Sollte das existieren, können wir dafür einstehen?"
Was ich vorschlage, ist ein praktisches Betriebsmodell für die Skalierung von agentischem Engineering. Es gibt innere und äußere Schleifen. Die innere Schleife ist der Ort, an dem die Arbeit erledigt wird. Schleifen sind so konzipiert, dass sie so unabhängig wie möglich sind. Setze alle Qualitätssicherungen und Verifikationen in die Schleife. Sobald du die Schleife selbst entworfen und validiert hast, bleibt dir nur noch, Autonomie zu gewähren, indem du einen Gegendruckmechanismus einrichtest, der die Geschwindigkeit, mit der die Schleife läuft, und ihren Betriebsumfang steuert. Und setze die Menschen an ihren rechtmäßigen Platz, bei den richtigen Entscheidungen. Behandle Verständnis nicht als Übergabe oder Freigabetor, sondern als Entscheidungspunkt, an dem Menschen darauf vorbereitet sind, ihre Einsicht zu geben. Und hinterlasse für jedes Artefakt, das existiert und zurück in die Produktion und an neue Teams und Ingenieure gegeben wird, bessere Artefakte.
Baue die Fabrik; halte die Lichter an; mache Arbeit lesbar, verifizierbar, besessen.
Ein Agent kann es schreiben. Aber bevor es die Benutzer erreicht, muss jemand erklären, warum es existieren sollte, warum es sicher genug ist, um Teil der Produktion zu sein, und was sie tun werden, wenn es falsch ist.
Das ist agentisches Engineering in der äußeren Schleife – das ist jetzt die Arbeit.
Pangram hat diesen Artikel als zu 100 % von Menschen geschrieben bewertet: https://www.pangram.com/history/ae6caccc-b70f-4336-a019-5c3411516871
