Opinioni audaci sulla memoria dell'IA

Una delle cose belle di costruire in un nuovo spazio è che non ci sono ancora risposte giuste. Questo significa anche che costruire qualsiasi cosa implica inevitabilmente fare scommesse su dove si evolverà l'ecosistema. Abbiamo raccolto qui sotto un elenco (non esaustivo) di domande che discutiamo spesso con chi opera in questo spazio, insieme alle nostre previsioni sulle risposte. Ci piacerebbe conoscere i tuoi pensieri, le tue previsioni e i tuoi dissensi!

C'è spazio per aziende di memoria e knowledge base al di là dei laboratori?

• Previsione: Le aziende che fanno scaling verticale della memoria (cioè aiutano gli agenti a funzionare più a lungo) avranno difficoltà a competere e saranno schiacciate dai laboratori e da altri harness agentici. Le aziende che fanno scaling orizzontale (cioè attraverso team o intere organizzazioni) troveranno un panorama migliore. Questo perché i cicli di vendita enterprise sono più lunghi e i problemi (isolamento dei dati, sicurezza, ontologia aziendale) non possono essere risolti dall'ultimo aggiornamento del modello o idea di ricerca.

I layer di memoria dovrebbero operare nello spazio dei pesi o dei token?

• Lo spazio dei token ha molti vantaggi. È interpretabile. È indipendente dal modello. È economico. Abbiamo decenni di infrastrutture costruite per gestire archiviazione, isolamento dei dati, modularità, ecc.
• Lo spazio dei pesi, invece, sembra essere più espressivo e potrebbe esserci una classe di problemi che non possiamo risolvere puramente nello spazio dei token. In particolare, la memoria procedurale che coinvolge linee sfumate e percorsi ramificati complessi non sembra adatta allo spazio dei token (ad esempio, pensa a cercare di leggere le regole di un gioco da tavolo rispetto a vederti mostrare come si gioca).
• Previsione: La maggior parte della memoria opererà nello spazio dei token (es. tracce degli agenti, informazioni semantiche, ecc.), ma ci saranno alcuni problemi (es. stile di scrittura, gusto, abilità procedurali, ecc.) che avranno adattatori che possono essere inseriti nei modelli. Le tecniche di mech interp ci permetteranno di interpretarli.

La memoria è semplicemente un problema di ricerca e recupero?

• La maggior parte dei sistemi di memoria oggi sono focalizzati sul recupero. Sono concentrati sul trovare le giuste informazioni al momento giusto affinché gli agenti possano lavorare (es. il benchmark LoCoMo si concentra sul recupero dell'ago nel pagliaio).
• La domanda è se questo sia sufficiente per risolvere il problema della memoria. In altre parole, se colleghi una ricerca allo stato dell'arte (es. Google o Exa o Perplexity) a un archivio dati privato, è abbastanza per dire che la memoria è risolta?
• Previsione: C'è un crescente consenso tra ricercatori e costruttori all'avanguardia che la memoria non sia semplicemente immagazzinamento e recupero di informazioni. Chiamiamo questo problema "blast radius" internamente. L'utilità delle informazioni è limitata dall'ambito (tempo o contesto). Gli esseri umani non hanno problemi a leggere tonnellate di testo irrilevante e applicare solo il giusto peso alle informazioni più utili. Un sistema di puro recupero (anche con un re-ranking intelligente) non è all'altezza.

Dovremmo iniettare automaticamente le informazioni nel contesto?

• L'argomento contrario è il context rot o inquinamento. Iniettare informazioni in un agente, specialmente se non sono le giuste informazioni, potrebbe causare un degrado delle prestazioni. Inoltre, fa sì che l'agente dia eccessivo peso alle connessioni tra le tue sessioni, che potrebbero non essere reali. Ecco perché molte persone disattivano le funzioni di memoria per ChatGPT o Claude Code.
• Previsione: Iniettare informazioni nel contesto è fondamentale perché permette all'agente di gestire le "ignote ignote" (unknown unknowns). Puoi avere uno strumento di memoria perfetto, ma se l'agente non sa usarlo, non hai risolto il problema. Per gli umani, questo tipo di "iniezione" avviene continuamente. I ricordi passati appaiono nella tua coscienza senza una tua scelta attiva. I problemi con questo oggi sono probabilmente a valle del problema del blast radius descritto sopra.

Quali sono i benchmark giusti per la memoria?

• C'è una sensazione generale che i benchmark esistenti come LoCoMo e LongMemEval non siano sufficienti. Abbiamo raggiunto circa l'85% di performance su di essi e la memoria sembra ancora irrisolta oggi come un anno fa. Inoltre, performance migliori sui benchmark non sembrano correlarsi con una memoria "migliore" dal punto di vista dell'utente.
• Inoltre, i benchmark in questo spazio sono difficili da costruire poiché gli orizzonti temporali intrinsecamente lunghi su cui opera la memoria creano problemi di disponibilità dei dati e di costo/scalabilità.
• Previsione: L'azienda o il laboratorio che risolverà questo problema probabilmente non lo farà arrampicandosi su un benchmark, ma scommettendo su qualche intuizione del cliente/utente che i benchmark attuali non misurano. Questo è simile a Wisprflow, dove hanno scartato la metrica del word-error-rate su cui altri strumenti di trascrizione si basavano.

Finestre di contesto più lunghe risolveranno tutto?

• Abbiamo fatto una previsione a gennaio secondo cui le finestre di contesto non risolveranno effettivamente il problema, e finora si è rivelata per lo più corretta.

Modelli forti combinati con integrazioni dati rendono i sistemi di memoria inutili

• L'argomento a favore è che puoi recuperare qualsiasi informazione se hai un modello frontier + agent harness + connettori dati MCP. E si scopre che la qualità del recupero non cambia molto rispetto ad altri sistemi (es. LLM wiki, recupero ibrido, ecc.)
• Previsione: Nel breve termine, i sistemi di memoria sono ancora utili perché riducono latenza e costi rispetto a far cercare continuamente tutto ai modelli frontier. Nel medio-lungo termine, i sistemi di memoria consentono coerenza nei recuperi, che permette la capitalizzazione (compounding). In altre parole, facciamo ancora scrivere codice agli agenti che migliorano nel tempo, piuttosto che farli manifestare direttamente, ad esempio, un'app.

La ricerca agentica sui file system è tutto ciò di cui hai bisogno

• Letta ha previsto questo l'anno scorso e si è rivelato piuttosto profetico. Nel breve-medio termine, gli agenti sono estremamente bravi a operare sui file system grazie al post-training mirato alle performance di coding. Sfruttare quel post-training produce ricompense oggi.
• Previsione: Nel lungo termine, è difficile non immaginare un tipo di indice ibrido oltre a un file system. L'intuizione principale dietro il perché sia necessario è che i file system hanno prestazioni peggiori quando ci sono volumi di dati più elevati o in casi d'uso federati. I "monologhi" degli agenti sui dati grezzi diventeranno anche sempre più importanti e avremo bisogno di modi strutturati e ben fondati per supportarli.