GLM 5.2 ha dominato gran parte della timeline dell'AI ultimamente, e la maggior parte delle discussioni si è concentrata su come si confronta con Opus. Questo è il titolo principale. Ma il carico di lavoro racconta una storia più silenziosa: i builder con cui lavoro continuano a utilizzare MiniMax M3 su larga scala, perché offre capacità di lungo orizzonte comparabili a una frazione del costo. Infatti, MiniMax M3 supera ancora GLM 5.2 nell'utilizzo di token su Open Router di oltre il 50%.
Fonte: Classifiche Open Router
Il principale vincolo per gli agenti a lungo orizzonte non è stata l'intelligenza; è stato il costo dell'attenzione su un contesto in crescita. @MiniMax_AI M3 è progettato per rimuovere questo vincolo. La sua finestra di contesto da 500.000 token è una delle più lunghe disponibili in un modello open-weight, ma la capacità che conta è la capacità di rimanere su un singolo compito per ore mentre il contesto continua a crescere. M3 è multimodale con comprensione nativa di immagini e video, quindi lo stesso agente può lavorare su testo, codice e input visivi in un'unica esecuzione.
Il post di lancio di Fireworks sottolinea lo stesso punto dal lato dell'infrastruttura. Presenta M3 come il primo modello open-weight su Fireworks a combinare coding all'avanguardia, comprensione nativa di immagini e video e una finestra di contesto da 500.000 token in un unico sistema. Le affermazioni pratiche che contano per questo articolo sono quelle riportate da Fireworks in quel post di lancio. M3 raggiunge una decodifica a contesto lungo fino a 15 volte più veloce di M2.7, il calcolo per token scende a 1/20 in contesti lunghi, e Fireworks cita esecuzioni autonome da 12 a 24 ore su compiti di riproduzione di paper e ottimizzazione di kernel CUDA.
I compiti a lungo orizzonte sono impegnativi perché il contesto non smette mai di crescere. Un'esecuzione di un agente di più ore accumula codice, log, output di strumenti e ragionamenti intermedi, e con l'attenzione densa standard, ogni nuovo token rilegge effettivamente tutto. Il costo cresce con il quadrato della lunghezza, quindi più a lungo lavora un agente, più ogni passo diventa costoso. Questo è il motivo pratico per cui la maggior parte degli agenti a lunga esecuzione vengono interrotti.
Il meccanismo che cambia questa situazione è l'Attenzione Sparsa MiniMax (MSA), documentata nel recente report di MiniMax, MiniMax Sparse Attention. MSA cambia ciò che il modello legge ad ogni passo. Prima di prestare attenzione, esegue un passaggio di pre-filtraggio leggero: un Index Branch valuta il contesto in blocchi, seleziona i blocchi più rilevanti per il token corrente, e il modello presta attenzione solo a quelli. Legge l'indice piuttosto che l'intera libreria, il che mantiene il costo di ogni passo approssimativamente piatto anche quando il contesto cresce fino a centinaia di migliaia di token.
Attenzione Sparsa MiniMax: un Index Branch leggero valuta i blocchi chiave-valore e seleziona i top-k per gruppo di query, e il ramo principale presta attenzione solo a quei blocchi. Fonte: Paper MiniMax Sparse Attention.
Cosa significa se stai costruendo con M3:
- Costo prevedibile a qualsiasi lunghezza. Il paper imposta Bk = 128 e k = 16, quindi ogni query e gruppo GQA seleziona 16 blocchi, o 2.048 token chiave-valore. Un'esecuzione prolungata ha ancora un overhead di indicizzazione, ma il budget di attenzione principale rimane fisso.
- Contesto lungo economico. Nella configurazione del modello del paper, riportano una riduzione del 28,4x dei FLOP di attenzione per token a lunghezze di sequenza estreme rispetto alla GQA densa con la stessa configurazione di testa.
- Veloce in produzione. Su H800 a lunghezze di sequenza elevate, riportano speedup di 14,2x per il prefill e 7,6x per la decodifica a parete. Il benchmark top-k separato afferma che il kernel specializzato di MiniMax è il più veloce rispetto a torch.topk e TileLang in tutte le impostazioni testate.
- Costo di qualità minimo. Negli esperimenti con 109B MoE, il paper riporta 6B parametri attivi per token e afferma che MSA-CPT rimane vicino alla baseline di attenzione completa dopo l'estensione a contesto lungo. Valuta MMLU, GSM8K, HumanEval, RULER, HELMET e molti altri benchmark mentre ogni query presta attenzione a 2.048 token.
I FLOP di attenzione per token e la latenza rimangono quasi piatti per MSA all'aumentare della lunghezza della sequenza, mentre la GQA densa (attenzione a query raggruppate) sale bruscamente: 28,4x meno calcolo, 14,2x prefill più veloce e 7,6x decodifica più veloce a lunghezze di sequenza estreme. Fonte: Paper MiniMax Sparse Attention.
Cosa Sblocca Questo
La parte interessante non è solo che M3 può contenere più token. È che il contesto lungo diventa abbastanza economico e veloce da poter essere inserito in sistemi iterativi che devono mantenere lo stato nel tempo.
- Agenti auto-miglioranti. Questa è la prima applicazione che terrei d'occhio. Un agente auto-migliorante deve tenere in vista il codice corrente, le modifiche fallite precedenti, i log di valutazione, i risultati dei benchmark e le proprie ipotesi mentre propone il cambiamento successivo. L'attenzione sparsa non risolve la valutazione, ma rende il ciclo di proposta, validazione e revisione a lunga esecuzione molto meno incline a collassare sotto il costo del contesto.
- Ingegneria a scala di repository. Fireworks evidenzia la comprensione del codice a livello di intero repository e un forte coding agentico. Questo è importante perché il vero lavoro di ingegneria raramente si adatta a un prompt ordinato. Il debug attraverso un codebase, il tracciamento delle regressioni e l'apportare modifiche a più file traggono tutti beneficio da un agente che può mantenere il repository, l'output dei test e la cronologia delle modifiche vivi in una singola sessione.
- Ricerca scientifica e di sistemi. Fireworks sottolinea le lunghe esecuzioni autonome sulla riproduzione di paper e l'ottimizzazione di kernel CUDA. Questi sono esempi utili perché il lavoro non è una singola risposta. È una sequenza di esperimenti, log, fallimenti, correzioni e misurazioni in cui la continuità è la caratteristica del prodotto.
- Flussi di lavoro multimodali a contesto lungo. M3 è nativamente multimodale, non solo testo con visione aggiunta. Combina contesto lungo con comprensione nativa di immagini e video, quindi una singola esecuzione può ragionare su testo, codice, screenshot, diagrammi e fotogrammi video insieme. Questo apre la strada a visual-to-code da un mockup o screenshot, analisi video, revisione di documenti multimodali e agenti che mantengono vivo il contesto visivo insieme alle loro tracce di codice e strumenti durante una lunga sessione.
Questo è il motivo per cui il modello è interessante per i builder. Sposta il contesto lungo da una funzionalità di lettura di documenti verso un substrato di esecuzione per agenti che necessitano di memoria, iterazione e verifica.
Vale la pena notare perché questo sta arrivando ora. MiniMax ha introdotto l'attenzione sparsa durante la generazione M2 e l'ha accantonata perché l'infrastruttura non era ancora matura. Per M3, l'attenzione era sui kernel. MSA partiziona il contesto in blocchi, legge ogni blocco una volta con accesso alla memoria contiguo e presta attenzione solo ai blocchi rilevanti, il che gli consente di funzionare diverse volte più velocemente di altri metodi di attenzione sparsa aperti mantenendo la qualità.
Questo si collega direttamente al lavoro di ingegneria del contesto su cui mi sono concentrato. Per anni, ho incoraggiato gli sviluppatori a curare ciò che entra nella finestra di contesto. MSA è il modello che impara a curare ciò a cui presta attenzione all'interno della finestra; lo stesso principio si sposta di un livello più in basso nell'architettura.
Per sviluppatori e ricercatori, questa è la differenza tra una breve demo e uno strumento su cui puoi fare affidamento. Significa un agente che legge un intero repository in un unico passaggio, esegue il debug su un intero codebase in un'unica sessione sostenuta, o porta avanti un compito di ricerca attraverso ore di esperimenti, log e revisioni senza perdere il contesto. Nelle stesse esecuzioni a lungo orizzonte di MiniMax, il risultato più forte emergeva spesso in profondità in una sessione di molte ore, molto dopo che la maggior parte dei modelli si sarebbe stabilizzata e fermata. Un contesto lungo accessibile è ciò che dà a un agente quel tipo di persistenza.
Questa è la parte che trovo più convincente. Gli agenti che costruisco di solito falliscono non perché il modello è debole, ma perché non riescono a sostenere un compito lungo, e un contesto lungo affidabile è l'infrastruttura fondamentale che finalmente affronta questo problema.
Da Dove Iniziare Con MiniMax M3
Per un team tecnico, il punto di @FireworksAI_HQ è operativo. Il design ad attenzione sparsa di M3 diventa utile solo se il livello di servizio può mantenere latenza, throughput e costo stabili in contesti lunghi. Fireworks afferma di alimentare l'API di inferenza di prima parte di MiniMax, di offrire l'endpoint più veloce nella serie di modelli MiniMax e di prezzare M3 a partire da $0,60 per 1 milione di token di input con opzioni di deployment serverless e on-demand. A questo ritmo, M3 costa circa il 75% in meno rispetto a GLM 5.2 per un utilizzo comparabile, il che rende la storia meno incentrata su una finestra di contesto più grande e più sul fatto se gli agenti a lungo orizzonte possano funzionare economicamente in produzione.
Il prezzo è utile perché ridefinisce M3 come un percorso di aggiornamento da M2.7, non solo come un nuovo modello all'avanguardia. Fireworks afferma che il prezzo di lancio open-weight è sceso alla parità con M2.7 per l'uso serverless standard, quindi i team ottengono il contesto lungo e la comprensione multimodale nativa di M3 senza pagare un premio rispetto alla generazione precedente.
Per testare M3, utilizza lo stesso endpoint di chat completions di Fireworks che useresti per altri modelli Fireworks. L'ID del modello è accounts/fireworks/models/minimax-m3, e poiché il modello è multimodale, una singola richiesta può includere testo più URL di immagini nello stesso messaggio.
1import json2import requests34url = "https://api.fireworks.ai/inference/v1/chat/completions"56payload = {7 "model": "accounts/fireworks/models/minimax-m3",8 "max_tokens": 32768,9 "temperature": 0.6,10 "top_p": 1,11 "top_k": 40,12 "messages": [13 {14 "role": "user",15 "content": [16 {"type": "text", "text": "Puoi descrivere questa immagine?"},17 {18 "type": "image_url",19 "image_url": {20 "url": "https://images.unsplash.com/photo-1582538885592-e70a5d7ab3d3?auto=format&fit=crop&w=1770&q=80"21 },22 },23 ],24 }25 ],26}2728headers = {29 "Accept": "application/json",30 "Content-Type": "application/json",31 "Authorization": "Bearer <FIREWORKS_API_KEY>",32}3334response = requests.post(url, headers=headers, data=json.dumps(payload), timeout=120)35response.raise_for_status()36print(response.json())
Per compiti agentici o di ragionamento più complessi, aggiungi "thinking": {"type": "enabled"} al payload. Per carichi di lavoro di produzione, Fireworks posiziona il serverless come il percorso più veloce per la valutazione e i deployment on-demand come l'opzione per un throughput prevedibile.
Provalo qui:Fireworks AI
