Selbstverbesserung ist der neue Wettbewerbsvorteil, der es Produktfirmen ermöglicht, über das bloße Einhüllen von LLM-APIs hinauszugehen.
Es gibt zwei Quellen, um dieses Wissen zu ernten: Browser-Aktivitäten (was Benutzer tatsächlich in Anwendungen tun) und Agenten-Traces (was Ihr Agent tatsächlich getan hat).
Wenn es richtig gemacht wird, kann sich Ihr Produkt allein durch die Nutzung verbessern.
Ihr Produkt hat vielleicht Hunderte, Tausende oder Millionen von Agenten-Benutzer-Interaktionen pro Tag. Das ist eine Goldgrube an Daten.
Heutzutage wird jedoch der Großteil dieses Werts nicht erfasst.
Ihre Benutzer „lehren" den Agenten, und diese „Lektion" verschwindet einfach.
Das Erfassen von Datensignalen ist ein sich verstärkender Vermögenswert.
Aber Erfassen allein reicht nicht – der Agent muss es auch nutzen können, ohne im Kontext zu ertrinken. Modelle haben ein begrenztes Aufmerksamkeitsbudget, und den Kontext mit allem vollzustopfen ist nicht die Lösung...
Artikelübersicht
Wir gehen durch sich selbst verbessernde Agenten, um die Sie einen geschäftlichen Wettbewerbsvorteil aufbauen können, einschließlich:
- Lernen aus Agenten-Traces & In-Browser-Aktivitäten
- Wo Erkenntnisse angewendet werden können: Modellgewichte, das Framework und der Kontext
- Die verschiedenen Arten von Erkenntnissen: prozedural, semantisch, episodisch
- Datenschutz: Die Daten Ihrer Benutzer sicher halten
- Datenbesitz: Einen geschäftlichen Wettbewerbsvorteil aufbauen
- Praktische Tipps zur einfachen Implementierung von Selbstlernen für jeden Agenten mit AG-UI
Wir veröffentlichen unsere Self-Learning-Lösung in den kommenden Wochen.
Melden Sie sich hier für den frühen Zugang und eine Design-Partnerschaft an.
Ihr Agent sollte aus 2 Quellen lernen
Agenten sollten aus Agenten-Traces und aus umgebenden In-Browser-Aktivitäten lernen.
Die meisten Lernansätze verwenden nur das eine oder das andere, aber Produkte, die beide nutzen, werden diejenigen, die dies nicht tun, deutlich übertreffen.
1. Agenten-Traces
Der Agent läuft, und jeder Schritt wird als Trace protokolliert. Was gefragt wurde, welche Tools aufgerufen wurden, was zurückkam, wo es scheiterte.
Richten Sie einen anderen Agenten auf diese Traces, und er findet die Fehlermuster und schreibt die Prompts, Tools und Anweisungen um.
Die fehlende Hälfte: Alles außerhalb der Agenteninteraktion, wo die meiste Aktivität immer noch stattfindet.
2. Umgebende In-Browser-Benutzeraktivität
Auch bekannt als: den Benutzer beobachten.
Seine Klicks, Bearbeitungen, Antworten und Arbeitsabläufe.
Brex hat sein Onboarding so aufgebaut. Sie beobachteten ihre Analysten bei der Arbeit und fütterten jede menschliche Korrektur als Trainingssignal zurück.
Jede menschliche Korrektur erzeugt einen beschrifteten Datenpunkt, der den nächsten Durchlauf verbessert.
Die fehlende Hälfte: Diese Methode sieht den Menschen perfekt. Aber sie weiß nichts darüber, was der Agent versucht hat oder warum es fehlschlug.
Sie sollten beide Signale erfassen
Wie? Oder besser noch, wo?
Es gibt einen Ort in fast jedem heutigen Produkt, der beide gleichzeitig sieht: die Oberfläche, an der Mensch und Agent Seite an Seite arbeiten.
Auch bekannt als: die Schnittstelle.
Das Wie geschieht über das Agent-User Interaction Protocol (AG-UI): ein offener Standard, der jedes Ereignis zwischen Ihrer App, Ihren Benutzern und dem Agenten streamt. Mehr dazu, warum das wichtig ist, weiter unten.
Wo das Lernen angewendet werden kann
Es gibt drei Orte, jeder mit seinen eigenen Kompromissen.
→ Modellgewichte: Die Lektion in das Modell selbst einfeintunen.
→ Framework: Alles um das Modell herum. Der Zyklus, dem es folgt, die Tools, die es aufrufen darf, die Prüfungen, die es abfangen, bevor es handelt.
→ Im Kontext: Die neuen Informationen direkt in den Prompt einfügen. Der Agent liest sie bei jedem Aufruf.
Ich habe alle 10 Ansätze über diese drei Ebenen hinweg im ersten Artikel behandelt ↓
https://x.com/svpino/status/2070210421995569537
Die verschiedenen Arten von Erkenntnissen
Es gibt drei Haupttypen, die Ihren Agenten helfen, sich im Laufe der Zeit zu verbessern.
1. Prozedural (Arbeitsabläufe/wie man Dinge tut)
Das prozedurale Gedächtnis ist das, was viele von uns in Skills- oder agents.md-Dateien ablegen:
Erlernte Arbeitsabläufe und Regeln zur Erledigung einer Aufgabe.
Zum Beispiel:
Ein Manager, der eine über dem Limit liegende Rückerstattung für einen treuen Kunden genehmigt. Der Agent lernt dies und macht es beim nächsten Mal genauso.
Vorteil: Der Agent behandelt denselben Fall jedes Mal auf die gleiche Weise. Konsistent und unabhängig.
Nachteil: Wenn er den falschen Arbeitsablauf lernt, wird er selbstbewusst das Falsche tun, und zwar jedes Mal.
2. Episodisch (Dinge, die passiert sind)
Eine Aufzeichnung spezifischer vergangener Ereignisse und Interaktionen.
Zum Beispiel:
„Am 5. Januar wurde die Rückerstattung von Joe Jonas abgelehnt, weil seine Karte abgelaufen war."
Vorteil: Ein realer vergangener Fall schlägt eine abstrakte Regel. Der Agent sieht, wie es ausgegangen ist, und kopiert, was funktioniert hat.
Nachteil: Die meisten vergangenen Fälle sind nutzloses Rauschen. Jemand muss durchgehen und nur die behalten, die es wert sind, erinnert zu werden, sonst wird der nützliche Fall begraben.
3. Semantisch (die Fakten)
Stabile Fakten, die der Agent kennen sollte.
Zum Beispiel:
„Alle Kreditkartenpläne haben ein Limit, aber das Limit variiert je nach Plan."
Vorteil: Überall wiederverwendbar. Eine Tatsache ist eine Tatsache.
Nachteil: Wird ohne Vorwarnung veraltet. An dem Tag, an dem sich das Limit ändert, ist der Agent selbstbewusst falsch und handelt trotzdem danach.
Selbstlernen in Aktion mit CopilotKit Intelligence und AG-UI
Semantisch bewahrt, was wahr ist.
Episodisch bewahrt den Fall, der passiert ist.
Prozedural bewahrt die Regel für die Handhabung.
Der Ablauf von der Agenten-Benutzer-Interaktion zum Selbstlernen
Die Kontrolle über die Schleife selbst übernehmen & einen Wettbewerbsvorteil aufbauen
Die Lerndaten sind der wichtigste Teil Ihres Produkts, und sie werden mit sinkenden Kosten für die Softwareerstellung von Grund auf immer wertvoller.
Der Besitz der Lerndaten ermöglicht es Ihnen, mehr als nur eine Hülle einer LLM-API zu sein.
Der Fehlschlag des Agenten und die Korrektur des Menschen landen normalerweise an zwei verschiedenen Orten.
Und niemand verbindet sie.
Die Oberfläche dafür existiert bereits in Ihrem Produkt: die Schnittstelle.
Trace-Tools sehen nur den Agenten.
Umgebende Tools, die Art, die den Browser beobachten, sehen nur den Menschen und verletzen die Privatsphäre, um dies zu erreichen.
Aber CopilotKit sieht beide Signale.
CopilotKit liest die Ereignisse, die durch Ihre App fließen: jeden Tool-Aufruf, jede Zustandsänderung, jede Genehmigung und Bearbeitung, sowohl vom Agenten als auch von der Person, die ihn verwendet.
Dies geschieht über AG-UI (Agent-User Interaction Protocol), das jedes Ereignis in Echtzeit zwischen Ihrer App, Ihren Benutzern und dem Agenten überträgt.
Jetzt treffen der Versuch des Agenten und die Korrektur des Menschen im selben Stream ein.
AG-UI funktioniert mit jedem Agenten & jedem Framework
AG-UI ist ein offener Standard, der framework-unabhängig ist.
Es wurde von AWS, Google, Microsoft, Oracle, LangChain, Mastra, Pydantic AI, CrewAI, LlamaIndex und mehreren anderen übernommen.
AG-UI sieht die Ereignisse und injiziert den gelernten Kontext direkt in den Agenten, unabhängig davon, wie das eigene Framework des Agenten darunter aussieht.
Das bedeutet, dass dasselbe Lernen für jeden Agenten gilt, den Sie heute oder nächstes Jahr einsetzen, automatisch, ohne individuelle Integrationsarbeit für jeden neuen.
Einer unserer Kunden betreibt eine Benutzeroberfläche, die mit dem Agenten von CopilotKit + Google ADK + Microsoft Agent Framework spricht, und alle Erinnerungen werden über alle drei hinweg geteilt.
Von der Framework-Wahl entkoppeltes Gedächtnis = Portabilität
Alles läuft auf Ihrer Infrastruktur, sodass Sie das Lernen besitzen
CopilotKit Intelligence hostet sich selbst auf Ihrem eigenen Kubernetes-Cluster. Vollständige Datenhoheit, SOC 2 Typ II, abgeschotteter Betrieb, falls erforderlich.
Die Daten bleiben bei Ihnen. Das gilt auch für alles, was der Agent daraus lernt.
Der Ansatz aller anderen behält entweder Ihr Lernen in ihrer Cloud oder, wie bei Meta, erfordert er Überwachung, um es zu erhalten.
@CopilotKit Intelligence ist heute bei Fortune-500-Unternehmen in der Produktion live und für den frühen Zugang geöffnet. Wenn Sie möchten, dass Ihr Agent besser wird, je mehr Leute ihn nutzen, nehmen Sie Kontakt auf.
Lerncontainer: Entscheiden, „wer" die neuen Erkenntnisse erhält
Sobald Sie das Lernen in Ihrem Produkt aktivieren, stellt sich die Frage: Wie weit reicht das Lernen? Sensible Fakten eines Benutzers sollten nicht in den Agentenkontext eines anderen Benutzers gelangen.
CopilotKits Lösung sind Lerncontainer: entwicklerfreundliche Bereiche, die Sie steuern können und die entscheiden, wie „weit" sich jede Lektion ausbreitet.
CopilotKit ermöglicht es Ihnen, einfach Lerncontainer für verschiedene Benutzergruppen zu definieren:
- Pro Benutzer. Wie spezifische Vorlieben.
- Pro Team. Wie Genehmigungsverfahren.
- Pro App. Wie unternehmensweite Regeln.
Lerncontainer sind vollständig prüfbar. Sie können genau sehen, was gelernt wurde und in welchem Container es gelandet ist.
Dazu gibt es noch viel mehr.
Kürzlich haben wir einen ausführlichen Livestream abgehalten, der alles durchgeht, was ich gerade erwähnt habe.
Sehen Sie sich die vollständige Aufzeichnung hier an.
Zusammenfassung in Kürze
Teilen Sie diese Grafik als TL;DR mit Ihrem Netzwerk
@CopilotKit Intelligence läuft dies bereits in der Produktion in großen Unternehmen, und es ist für den frühen Zugang geöffnet.
Wenn Sie einen Agenten möchten, der besser wird, je mehr Ihre Benutzer ihn nutzen, nehmen Sie Kontakt auf, und wir bringen Sie hinein.
Folgen Sie @ataiiam für mehr.
![[Ultimate Edition] Eine tiefgehende Analyse von Recruit Holdings durch einen ehemaligen Mitarbeiter (von mir geschrieben, nicht von einer KI)](/cdn-cgi/image/width=1920,quality=90,format=auto,metadata=none/https%3A%2F%2Fcms-assets.youmind.com%2Fmedia%2F1783619810056_4fyuz8_HMtxHM_bIAA-0_J.jpg)
