Il self-miglioramento è il nuovo vantaggio competitivo, che permette ai prodotti di andare oltre il semplice wrapping delle API LLM.
Ci sono due fonti da cui raccogliere questo apprendimento: l'attività nel browser (cosa fanno realmente gli utenti nelle applicazioni) e le tracce degli agenti (cosa ha fatto realmente il tuo agente).
Se fatto correttamente, il tuo prodotto può migliorare semplicemente venendo utilizzato.
Il tuo prodotto potrebbe avere centinaia, migliaia o milioni di interazioni agente-utente ogni giorno. È una miniera d'oro di dati.
Oggi, tuttavia, la maggior parte di questo valore rimane inespresso.
I tuoi utenti "insegnano" all'agente e quella "lezione" semplicemente scompare.
Catturare i segnali dati è un asset che si accumula.
Ma catturarli non basta: l'agente deve comunque usarli senza affogare nel contesto. I modelli hanno un budget di attenzione limitato, e riempire il contesto con tutto non è la soluzione...
Panoramica dell'articolo
Esploreremo gli agenti auto-miglioranti attorno ai quali puoi costruire un vantaggio competitivo, includendo:
- Apprendimento da tracce di agenti e attività nel browser
- Dove gli apprendimenti possono essere applicati: pesi del modello, l'harness e il contesto
- I diversi tipi di apprendimenti: procedurale, semantico, episodico
- Privacy dei dati: proteggi i dati dei tuoi utenti
- Proprietà dei dati: costruisci un vantaggio competitivo
- Consigli pratici per implementare facilmente l'auto-apprendimento per qualsiasi agente, usando AG-UI
Stiamo per rilasciare la nostra soluzione di Auto-Apprendimento nelle prossime settimane.
Iscriviti qui per l'accesso anticipato e una partnership di design.
Il tuo agente dovrebbe imparare da 2 fonti
Gli agenti dovrebbero imparare dalle tracce degli agenti e dall'attività ambientale nel browser.
La maggior parte degli approcci all'apprendimento utilizza solo l'una o l'altra, ma i prodotti che sfruttano entrambe supereranno significativamente quelli che non lo fanno.
1. Tracce degli Agenti
L'agente viene eseguito e ogni passaggio viene registrato come traccia. Cosa gli è stato chiesto, quali strumenti ha chiamato, cosa è tornato, dove ha fallito.
Punta un altro agente su quelle tracce, e lui trova gli schemi di fallimento e riscrive i prompt, gli strumenti e le istruzioni.
La metà mancante: Tutto ciò che avviene al di fuori dell'interazione con l'agente, dove si svolge ancora la maggior parte dell'attività.
2. Attività ambientale dell'utente nel browser
Ovvero, osservare l'utente.
I suoi clic, le modifiche, le risposte e i flussi di lavoro.
Brex ha costruito il proprio onboarding in questo modo. Osservavano i loro analisti lavorare e alimentavano ogni correzione umana come segnale di addestramento.
Ogni correzione umana crea un punto dati etichettato che affina l'esecuzione successiva.
La metà mancante: Questo metodo vede l'umano perfettamente. Ma non sa nulla di ciò che l'agente ha tentato o del perché ha fallito.
Dovresti catturare entrambi i segnali
Come? O meglio, dove?
C'è un posto, in quasi tutti i prodotti odierni, che vede entrambi contemporaneamente: la superficie dove la persona e l'agente lavorano fianco a fianco.
Ovvero, l'interfaccia.
Il come avviene tramite il Protocollo di Interazione Agente-Utente (AG-UI): uno standard aperto che trasmette in streaming ogni evento tra la tua app, i tuoi utenti e l'agente. Maggiori dettagli sul perché è importante qui sotto.
Dove l'apprendimento può essere applicato
Ci sono tre punti, ognuno con i propri compromessi.
→ Pesi del modello: Ottimizza la lezione nel modello stesso.
→ Harness: Tutto ciò che circonda il modello. Il ciclo che segue, gli strumenti che può chiamare, i controlli che lo intercettano prima che agisca.
→ Nel contesto: Aggiungi la nuova informazione direttamente nel prompt. L'agente la legge ad ogni chiamata.
Ho coperto tutti i 10 approcci attraverso questi tre livelli nel primo articolo ↓
https://x.com/svpino/status/2070210421995569537
I diversi tipi di apprendimenti
Ci sono tre tipi principali che aiuteranno i tuoi agenti a migliorare nel tempo.
1. Procedurale (flussi di lavoro / come fare le cose)
La memoria procedurale è ciò che molti di noi includono nei file skills o agents.md:
Flussi di lavoro e regole apprese per portare a termine un compito.
Ad esempio:
Un manager che approva un rimborso oltre il limite per un cliente fedele. L'agente impara e fa lo stesso la prossima volta.
Pro: L'agente gestisce lo stesso caso sempre allo stesso modo. Coerente e indipendente.
Contro: Se impara il flusso di lavoro sbagliato, farà la cosa sbagliata con sicurezza, ogni volta.
2. Episodico (cose che sono successe)
Una registrazione di eventi e interazioni passate specifiche.
Ad esempio:
"Il 5 gennaio, il rimborso di Joe Jonas è stato respinto perché la sua carta era scaduta."
Pro: Un caso passato reale batte una regola astratta. L'agente vede come è andata e copia ciò che ha funzionato.
Contro: La maggior parte dei casi passati sono rumore inutile. Qualcuno deve esaminarli e tenere solo quelli che vale la pena ricordare, altrimenti quello utile viene sepolto.
3. Semantico (i fatti)
Fatti stabili che l'agente dovrebbe conoscere.
Ad esempio:
"Tutti i piani di carte di credito hanno un limite, ma il limite varia a seconda del piano"
Pro: Riutilizzabile ovunque. Un fatto è un fatto.
Contro: Diventa obsoleto senza preavviso. Il giorno in cui il limite cambia, l'agente è sicuro di avere torto e agisce comunque.
Auto-apprendimento in azione tramite CopilotKit Intelligence e AG-UI
Semantico conserva ciò che è vero.
Episodico conserva il caso che è successo.
Procedurale conserva la regola per gestirlo.
Il percorso del flusso dall'interazione agente-utente all'auto-apprendimento
Gestire il ciclo da soli e costruire un vantaggio competitivo
I dati di apprendimento sono la parte più importante del tuo prodotto, e diventeranno sempre più preziosi man mano che il costo di creazione di software da zero diminuirà.
Possedere i dati di apprendimento ti permette di diventare più di un semplice wrapper di un'API LLM.
L'errore dell'agente e la correzione dell'umano finiscono di solito in due posti diversi.
E nessuno li collega.
La superficie per farlo esiste già all'interno del tuo prodotto: l'interfaccia.
Gli strumenti di tracciamento vedono solo l'agente.
Gli strumenti ambientali, quelli che osservano il browser, vedono solo l'umano e invadono la privacy per ottenerlo.
Ma CopilotKit vede entrambi i segnali.
CopilotKit legge gli eventi che fluiscono attraverso la tua app: ogni chiamata di strumento, cambiamento di stato, approvazione e modifica, sia dall'agente che dalla persona che lo utilizza.
Lo fa attraverso AG-UI (Protocollo di Interazione Agente-Utente) che trasporta ogni evento tra la tua app, i tuoi utenti e l'agente in tempo reale.
Ora il tentativo dell'agente e la correzione dell'umano arrivano nello stesso flusso.
AG-UI funziona con qualsiasi agente e qualsiasi harness
AG-UI è uno standard aperto e indipendente dal framework.
È stato adottato da AWS, Google, Microsoft, Oracle, LangChain, Mastra, Pydantic AI, CrewAI, LlamaIndex e altri.
AG-UI vede gli eventi e inietta il contesto appreso direttamente nell'agente, qualunque sia l'harness sottostante di quell'agente.
Ciò significa che lo stesso apprendimento si applica a qualsiasi agente tu porti, oggi o l'anno prossimo, automaticamente, senza lavoro di integrazione personalizzato per ogni nuovo agente.
Uno dei nostri clienti gestisce un'interfaccia che parla con l'agente di CopilotKit + Google ADK + Microsoft Agent Framework, e tutte le memorie sono condivise tra tutti e tre.
Memoria svincolata dalla scelta del framework = portabilità
Tutto gira sulla tua infrastruttura, quindi possiedi l'apprendimento
CopilotKit Intelligence si auto-ospita sul tuo cluster Kubernetes. Piena sovranità dei dati, SOC 2 Tipo II, implementazione ad aria isolata se necessario.
I dati rimangono con te. Così come tutto ciò che l'agente impara da essi.
L'approccio di tutti gli altri trattiene il tuo apprendimento nella loro nuvola o, come quello di Meta, richiede la sorveglianza per ottenerlo.
@CopilotKit Intelligence è in produzione attiva presso aziende Fortune 500 oggi, ed è aperto per l'accesso anticipato. Se vuoi che il tuo agente migliori più persone lo usano, contattaci.
Contenitori di Apprendimento: decidere "chi" riceve i nuovi apprendimenti
Non appena abiliti l'apprendimento nel tuo prodotto, sorge la domanda: quanto si estende l'apprendimento? I fatti sensibili di un utente non devono trapelare nel contesto dell'agente di un altro utente.
La soluzione di CopilotKit sono i Contenitori di Apprendimento: ambiti facili da usare per gli sviluppatori che puoi controllare, decidendo quanto 'lontano' si diffonde ogni lezione.
CopilotKit ti permette di definire facilmente contenitori di apprendimento per diverse coorti di utenti:
- Per utente. Come preferenze specifiche.
- Per team. Come procedure di approvazione.
- Per app. Come regole a livello aziendale.
I contenitori di apprendimento sono completamente verificabili. Puoi vedere esattamente cosa è stato appreso e in quale contenitore è finito.
C'è molto altro su questo.
Recentemente, abbiamo tenuto una live streaming approfondita su tutto ciò che ho appena menzionato.
Guarda la registrazione completa qui.
Riepilogo in breve
Condividi questa grafica con la tua rete come TL;DR
@CopilotKit Intelligence sta già eseguendo questo in produzione all'interno di grandi aziende, ed è aperto per l'accesso anticipato.
Se vuoi un agente che migliora più i tuoi utenti lo usano, contattaci e ti faremo entrare.
Segui @ataiiam per altri contenuti.
