Un team di agenti Gemini 4 Argon supera Minecraft

Abbiamo inserito quattro agenti Gemini 4 Argon in un mondo survival di Minecraft protetto da sandbox e abbiamo assegnato loro un unico obiettivo: sconfiggere l'Ender Dragon, il boss finale del gioco. Si trattava dei nostri agenti di programmazione generalisti, gli stessi che gli ingegneri utilizzano per il lavoro software quotidiano, non di un sistema personalizzato costruito appositamente per Minecraft. Operando all'interno di un ambiente sicuro, dove i ricercatori monitoravano una dashboard in tempo reale e potevano intervenire in qualsiasi momento per mettere in pausa o interrompere l'esecuzione, ogni agente controllava un giocatore tramite una libreria open source e si coordinava con i compagni di squadra attraverso la chat di gioco e una memoria condivisa. Nessuno ha assegnato loro ruoli o scritto logica di gioco: gli agenti hanno pianificato, scritto ed eseguito il debug di ogni programma in totale autonomia.

Ventisette ore e 2.783 programmi dopo, hanno sconfitto il drago.

Perché è importante? Completare Minecraft richiede di mantenere un piano coerente attraverso migliaia di passaggi interdipendenti per oltre un giorno intero. Collaborando con successo, riprendendosi da fallimenti ripetuti e perseguendo un obiettivo comune senza intervento umano, questi agenti hanno dimostrato di poter gestire il problem solving a lungo termine e aperto richiesto da compiti complessi di ingegneria del software e ricerca. Intendiamo utilizzare questi apprendimenti e questa infrastruttura per fare progressi in altri ambiti come la programmazione, la scienza, l'ingegneria e la robotica.

La grande sfida di Minecraft

Completare Minecraft in un mondo generato casualmente richiede una lunga catena di passaggi interdipendenti: estrarre materiali di base, sopravvivere in dimensioni alternative pericolose per raccogliere oggetti rari, usare la matematica per localizzare una fortezza sotterranea nascosta e infine sconfiggere un boss che si rigenera continuamente. Ogni passaggio può richiedere ore e, quando si rinasce, si perde tutto ciò che si trasporta. Per un agente, la parte difficile non è tanto il singolo passaggio, quanto mantenere un piano coerente attraverso migliaia di essi.

I precedenti traguardi nel gaming, da AlphaGo ad AlphaStar, sono stati raggiunti da sistemi addestrati a lungo su un singolo gioco, e anche la maggior parte degli agenti per Minecraft si è affidata ad addestramenti specifici, librerie di abilità o planner dedicati al gioco. Più di recente, alcuni progetti della community hanno dimostrato che un singolo agente basato su modello linguistico può raggiungere il drago. Tuttavia, queste esecuzioni si basavano su vincoli pesanti e scorciatoie: giocare in modalità Pacifica su un mondo già esplorato con un portale pre-aperto, oppure fornire a un singolo agente decine di strumenti per Minecraft programmati da umani da eseguire.

Noi volevamo porci una domanda diversa. Come altri modelli linguistici di grandi dimensioni, Argon ha letto moltissimo su Minecraft sul web. Un team di agenti di programmazione generalisti poteva prendere quelle conoscenze e, attraverso un'interfaccia di programmazione essenziale senza strumenti specifici per il gioco, senza suggerimenti, senza guida umana e senza ruoli preassegnati, organizzarsi autonomamente per sconfiggere l'Ender Dragon in un mondo survival casuale partendo da zero?

Programmazione collaborativa in azione

Gli agenti non hanno mai visto un pixel né premuto un tasto. Ogni agente agiva scrivendo un breve programma, come "cammina fino a queste coordinate ed estrai tutto il minerale di ferro entro 16 blocchi". Leggevano inoltre l'output prodotto dall'esecuzione del programma, inclusa la posizione aggiornata dell'agente, la salute e l'inventario, oppure l'eventuale errore generato. A differenza dei precedenti sforzi della community, sono partiti da un mondo casuale con difficoltà Facile, con mostri ostili, e dalla libreria standard Mineflayer pubblicata così com'è, senza alcun livello aggiuntivo sviluppato da noi. Mineflayer permette a un programma di leggere la posizione, la salute, l'inventario e l'ambiente circostante di un giocatore, e di ordinare azioni di base come camminare verso un punto, scavare o piazzare un blocco, creare un oggetto o attaccare. Mineflayer non dice a un agente come giocare: cosa fare, e in quale ordine, spettava interamente agli agenti.

Dopo dieci minuti, gli agenti si erano già divisi il lavoro nella chat: uno creava strumenti, uno raccoglieva cibo, uno scavava alla ricerca di diamanti e uno costruiva il portale per la seconda dimensione del gioco. Per trovare la fortezza nascosta, un agente ha lanciato due oggetti che volavano verso di essa da due punti diversi, ha tracciato ogni traiettoria nel codice e ha calcolato dove i due percorsi si incrociavano. La sua stima lo ha portato a 43 metri dalla fortezza, distante 1,3 chilometri.

Icone degli oggetti tratte dal texture pack open source Pixel Perfection (XSSheep e Nova_Wostra, CC BY-SA 4.0), non dalle texture di Minecraft.

Sconfiggere il drago è stata la sfida più difficile e dispendiosa in termini di tempo del gioco, e ha comportato 69 rinascite per gli agenti. Tra un tentativo e l'altro, annotavano le lezioni apprese per il tentativo successivo. Alla fine, un agente ha notato che i cristalli curavano il drago e ha capito che non serviva un piccone per raggiungerli: bastava impilare terra accanto a ogni torre, colpire il cristallo e scavare per tornare giù. Trentanove minuti dopo la caduta dell'ultimo cristallo, il drago è stato sconfitto. Il colpo finale è arrivato da un giocatore ridotto a 2,5 dei 20 punti salute disponibili.

Icone degli oggetti tratte dal texture pack open source Pixel Perfection (XSSheep e Nova_Wostra, CC BY-SA 4.0), non dalle texture di Minecraft.

Lungo il percorso, il team ha mantenuto appunti condivisi su coordinate e lezioni apprese, ha scritto funzioni di supporto riutilizzate da tutti e quattro (una compare in 655 programmi), ha recuperato gli oggetti dei compagni dopo le rinascite e ha segnalato i propri errori. Quando un programma annunciava un successo mai avvenuto, l'agente che lo aveva scritto commentava due minuti dopo: "Il mio messaggio precedente era un ramo di script non supervisionato".

Oltre il sandbox

Minecraft è il sandbox; le competenze sono generali. Perseguire un obiettivo per più di un giorno, scrivere ed eseguire il debug di migliaia di programmi, riprendersi dai fallimenti e coordinarsi come team è esattamente ciò che richiedono i progetti software e di ricerca a lungo termine. È anche ciò che chiediamo a un buon collaboratore: un agente che divide il lavoro, mantiene appunti condivisi e corregge i propri errori è un agente a cui gli ingegneri possono affidare lavoro reale.

Minecraft è anche un luogo sicuro per studiare le capacità degli agenti. I programmi in-game degli agenti potevano controllare solo il proprio giocatore: non potevano avviare processi né scrivere file, e nessuno ha utilizzato comandi del server. Un quinto agente, l'Osservatore, ha seguito la sessione come testimone indipendente per individuare eventuali imbrogli o manipolazioni delle specifiche; né l'Osservatore né la nostra revisione manuale di un campione dei log ne hanno rilevati. Ogni programma, messaggio ed evento di gioco è stato registrato su una dashboard in tempo reale dove i ricercatori potevano mettere in pausa o interrompere l'esecuzione in qualsiasi momento, e gli agenti si coordinavano tramite testo semplice e codice leggibile da chiunque, riga per riga. Osservare team di agenti coordinarsi in ambienti sandbox dove ogni passaggio è visibile è un modo per comprendere questi sistemi prima di affidare loro compiti nel mondo reale.

Vale la pena sottolineare anche i limiti di questo studio. Gli agenti leggono il mondo attraverso un'API, che indica loro esattamente quali blocchi e creature li circondano, mentre un plugin di pathfinding pianifica i loro percorsi aggirando gli ostacoli. Hanno giocato con difficoltà Facile. E hanno fallito ripetutamente: 605 rinascite e il 22% dei programmi terminati con un errore.

Verifica dei risultati

Abbiamo registrato tutto durante l'esecuzione: tutti i 2.783 programmi e i relativi output, tutti i 229 messaggi in chat, snapshot periodiche del mondo e il log completo del server, dove la vittoria viene registrata 27 ore e 14 minuti dopo il primo programma. I comandi cheat erano disabilitati sul server, nessun programma ha emesso comandi server o richieste di rete, e sia l'agente Osservatore indipendente sia il nostro audit manuale dei log hanno confermato che il team ha vinto esclusivamente attraverso il normale gameplay survival.

La prossima frontiera

Questo studio inizia appena a scalfire la superficie dell'utilizzo di ambienti sandbox come Minecraft per valutare la collaborazione tra team di IA. I prossimi passi includono: cosa succede quando gli agenti giocano direttamente come fanno gli umani, partendo dai pixel e usando tastiera e mouse virtuali? Come cambia il coordinamento se aumentiamo le dimensioni del team? E cosa creeranno questi agenti quando il loro obiettivo sarà aperto, come consentito in Minecraft, anziché fisso?

Intendiamo inoltre utilizzare questa infrastruttura e le lezioni apprese da questo esperimento per affrontare sfide complesse nel mondo reale, portando un'intelligenza collaborativa e a lungo termine nell'ingegneria del software, nella ricerca scientifica, nel design e nella robotica. Il drago è caduto, ma il vero lavoro per costruire compagni di squadra IA affidabili è appena iniziato.

Scopri di più su questo lavoro nel nostro report tecnico: http://arxiv.org/abs/2610.22319

Questo è un esperimento di ricerca indipendente. Non rappresenta un traguardo ufficiale di Minecraft e non è approvato da, né associato a, Mojang o Microsoft. Le immagini del gioco utilizzano il texture pack Pixel Perfection di XSSheep e Nova_Wostra, con licenza CC BY-SA 4.0, e non le texture originali di Minecraft.