Die Kunst des Loop Engineering

Agenten sind nützlich, weil sie uns helfen, Arbeit zu automatisieren, indem sie Aktionen in der realen Welt ausführen. Aber es braucht mehr als nur ein gutes Modell, damit Agenten zuverlässig wertvolle Arbeit leisten: Es erfordert ein sorgfältig entworfenes Framework, das auf eine Reihe von Aufgaben zugeschnitten ist.

Der Kernalgorithmus eines Agenten ist einfach: Gib dem LLM Kontext und lass es in einer Schleife Werkzeuge aufrufen, bis es fertig ist. Das ist die grundlegendste Schleife. Aber sie ist bei Weitem nicht die einzige Schleife, die Agenten antreibt. @swyx hat kürzlich einen großartigen Artikel über "loopcraft: the art of stacking loops" geschrieben, die Idee, dass man Schleifen stapeln und erweitern kann, um effektivere Agenten zu bauen.

So denken wir über diesen Stack und wie man jede Ebene mit LangChain-Primitiven instrumentiert.

Schleife 1: Der Agent

Im Kern ist ein Agent nichts anderes als ein Modell, das in einer Schleife Werkzeuge aufruft, bis eine Aufgabe abgeschlossen ist.

Das liefert dir LangChains create_agent. Wähle ein beliebiges Modell, schließe Werkzeuge an, und du hast eine funktionierende Agentenschleife. Werkzeuge geben dem Agenten die Macht, in der realen Welt zu handeln.

Nehmen wir unseren internen Docs-Agenten als Beispiel (den wir im Rest dieses Blogs als motivierendes Beispiel verwenden). Auf der ersten Schleifenebene erhält er eine Anfrage zur Verbesserung der Dokumentation, das Modell plant und erstellt Entwürfe von Änderungen und nutzt Werkzeuge, um Repos zu klonen, Dateien zu lesen, Dokumente zu schreiben, einen Pull-Request zu öffnen usw.

Ebene 2: Verifizierungsschleife

Die Agentenschleife erledigt die Arbeit, aber sie liefert nicht immer auf Anhieb korrekte oder konsistente Ergebnisse. Wenn Konsistenz wichtig ist, ist es oft sinnvoll, sie in eine Verifizierungsschleife zu verpacken, die die Ausgabe überprüft und Feedback an das Modell zurücksendet, wenn sie hinter den Erwartungen zurückbleibt.

Die Verifizierungsschleife fügt einen Bewerter hinzu: etwas, das die Ausgabe des Agenten anhand einer Bewertungsmatrix prüft und, falls sie nicht besteht, das Ergebnis mit Feedback zurücksendet. Bewerter können entweder deterministisch oder agentisch sein (LLM als Richter ist hier ein klassisches Beispiel).

RubricMiddleware übernimmt dieses Muster, oder du kannst es mit einem after_agent-Hook in create_agent verdrahten.

In unserem Docs-Writer-Beispiel führt der Bewerter nach jedem Versuch Tests durch und prüft, ob alle Links aufgelöst werden, alle CI-Prüfungen bestanden sind und der Diff auf das tatsächlich Angeforderte beschränkt ist. Keine manuelle Überprüfung erforderlich, um diese Fehlerklassen zu erkennen.

Ein Kompromiss: Das Hinzufügen einer Verifizierung erhöht die Latenz und die Kosten pro Durchlauf. Es lohnt sich, wenn Qualität wichtiger ist als Geschwindigkeit, was auf die meisten Produktionsanwendungsfälle zutrifft.

Ebene 3: Ereignisgesteuerte Schleife

Einer der wichtigsten Teile der Agentenentwicklung ist die Integrationsebene: die Verbindung deines Agenten mit deinem Ökosystem, damit er im Hintergrund laufen kann.

Die ereignisgesteuerte Schleife verbindet deinen Agenten mit deinem Ökosystem. Ein Ereignis feuert – ein neues Dokument landet, ein Zeitplan löst aus, ein Webhook trifft ein – und der Agent läuft. Der Agent ist nicht etwas, das du manuell aufrufst; er ist eine Komponente, die kontinuierlich innerhalb eines größeren Systems läuft.

LangSmith Deployment unterstützt die Trigger-Infrastruktur, einschließlich Unterstützung für Cron-Zeitpläne und Webhooks. Ein beliebtes Beispiel für Crons in Aktion sind „Heartbeats“ in openclaw, die deinen Agenten in einen ständig aktiven, proaktiven Assistenten verwandeln.

Unser Docs-Agent wird von Fleet, unserem No-Code-Agent-Builder, betrieben. Die Channels und Schedules von Fleet übernehmen ereignisgesteuerte und Cron-gesteuerte Auslöser. Wir verwenden einen Channel, um den Docs-Agenten auszulösen, sobald eine Nachricht in unserem #docs-plz Slack-Kanal gesendet wird.

Ebene 4: Hill-Climbing-Schleife

Die ersten drei Schleifen automatisieren Arbeit. Die vierte (und wohl wichtigste) automatisiert Verbesserung!

Jeder Agentenlauf erzeugt einen Trace: eine Aufzeichnung dessen, was das Modell getan hat, der aufgerufenen Werkzeuge, des Bewerter-Feedbacks usw. Diese Traces enthalten wertvolle Signale darüber, was funktioniert und was nicht. Die Hill-Climbing-Schleife führt einen Analyse-Agenten über diese Traces aus und verwendet die Ergebnisse, um das Framework mit verbesserter Konfiguration neu zu schreiben. Dazu können Prompt-/Tool-Anpassungen oder Bewerter-Anpassungen gehören.

In LangSmith kannst du Engine, unseren Trace-Analyse-Agenten, verwenden, um diese vierte Schleife zu instrumentieren.

Zum Abschluss der Docs-Agent-Analogie: Wir lassen Engine über die Traces des Docs-Agenten laufen, um etwaige Probleme zu erkennen. Wenn mehrere Traces auf ein potenzielles Problem hindeuten, wird ein Issue erstellt, das Änderungen am fehlerhaften Prompt oder Tool anfordert.

Der entscheidende Punkt hier ist, dass der Rückpfeil nicht einfach zur Spitze zurückführt – er greift hinein und aktualisiert die Agentenschleife direkt. Jeder Zyklus der äußeren Schleife macht die inneren Schleifen effektiver.

Ausblick:

Prompt- und Tool-Konfigurationen sind die einfachsten Dinge, die man verbessern kann, aber sie sind nicht die einzigen Optionen. Für Teams, die Open-Weight-Modelle betreiben, kann die Hill-Climbing-Schleife in das RL-Feintuning eingespeist werden, wobei Trace- oder Eval-Ergebnisse als Trainingssignal zur Verbesserung des Modells selbst dienen. Hilfskontext wie Gedächtnis und abgerufene Fähigkeiten können auf dieselbe Weise verbessert werden. Die Schleife ist das Muster; was sie optimiert, liegt an dir.

Menschliche Aufsicht und Expertise

Automatisierung bedeutet nicht, den Menschen aus der Schleife zu entfernen. Auf jeder Ebene gibt es natürliche Punkte, an denen menschliche Aufsicht einen Mehrwert schafft. Ein automatisierter Bewerter kann prüfen, ob Links aufgelöst werden; es braucht einen Menschen, um zu bemerken, dass der Rahmen für das Publikum falsch ist. Diese Art von Urteilsvermögen, das aus Kontext, Erfahrung und Feingefühl gewonnen wird, ist genau der Ort, an dem menschliche Überprüfung ihren Platz hat.

Einige Expertise sollte in den Prompts/Werkzeugen selbst kodiert sein, aber bei sensiblen Aktionen ist eine Live-Überprüfung durch einen Menschen unerlässlich (denke an Finanztransaktionen, DB-Operationen usw.). LangChain macht es einfach, diese Berührungspunkte in jeder Schleife zu instrumentieren:

1. In der Agentenschleife: Menschliche Eingabe vor sensiblen Aktionen/Werkzeugaufrufen erforderlich
2. In der Verifizierungsschleife: Ein Mensch kann als Bewerter für sensible Arbeitsabläufe fungieren
3. In der Anwendungsschleife: Ein Mensch kann Ausgaben genehmigen, bevor sie an den Endbenutzer zurückgegeben werden
4. In der Hill-Climbing-Schleife: Verbesserungen des Frameworks können vor der Bereitstellung durch eine menschliche Überprüfung fließen

Alle Open-Source-Frameworks von LangChain machen das Hinzufügen eines „Human in the Loop“ zu einem First-Class-Primitiv.

Alles zusammenführen

Falls du eine tabellarische Ansicht bevorzugst, hier ist, wie diese vier Schleifen zusammenwirken:

Schleife

Was sie tut

Auswirkung

LangChain-Primitiv

1: Agentenschleife

(Modell + Werkzeuge)

Modell ruft wiederholt Werkzeuge auf, bis eine Aufgabe abgeschlossen ist

Arbeit automatisieren

create_agent

, jedes von LangChain unterstützte Modell

2: Verifizierungsschleife

(Agent + Bewerter)

Agent läuft, Ausgabe wird anhand einer Bewertungsmatrix bewertet, bei Nichtbestehen mit Feedback wiederholt

Qualität sicherstellen

RubricMiddleware

3: Ereignisschleife

(Verifizierung + System)

Ereignisse lösen Agentenläufe aus, die ein reales System aktualisieren

Arbeiten im Maßstab

LangSmith Deployment / Fleet Channels

4: Hill-Climbing-Schleife

(System + Engine)

Produktionstraces speisen einen Analyse-Agenten, der die Framework-Konfiguration verbessert

Kontinuierliche Verbesserung

LangSmith Engine

So sieht Loop Engineering – oder Loopcraft, wie @swyx es nennt – in der Praxis tatsächlich aus. KI-Führungskräfte wie Steipete, Boris und Andrej sind alle zum gleichen Schluss gekommen: Das Potenzial von Agenten liegt in den Schleifen, die man um sie herum baut.

Wir haben eine Weile über die Schleifen 1 und 2 nachgedacht. Aber der Fokus sollte auf die Schleifen 3 und 4 verlagert werden, wo der Wert wächst, indem Agenten in dein Ökosystem eingebettet werden, die sich kontinuierlich als Reaktion auf deine Kriterien verbessern.

Satya skizziert die organisatorischen Implikationen: Unternehmen, die frühzeitig Lernschleifen aufbauen, in denen menschliches Urteilsvermögen und Token-Kapital sich gegenseitig verstärken, werden sich einen Vorteil verschaffen, der schwer zu reproduzieren ist.

Danksagungen

Danke an @Vtrivedy10 , @masondrxy , @hwchase17 und @huntlovell für die sorgfältige Durchsicht.

Referenzen

• deepagents quickstart
• create_agent docs
• rubric middleware
• cron jobs, webhooks
• langsmith engine
• fleet channels