TL;DR
- GLM-5.2 (744B) ➔ 73,33% Media Coding Agentico, batte GPT 5.5 (70,00). 62,1% SWE-Bench Pro, batte GPT 5.5 (58,6%). Licenza MIT
- GLM-5.2 70B ➔ funziona su 128 GB di memoria unificata (Mac M4 Max / Strix Halo). 68,0% Media Coding Agentico
- Ornith-1.0 9B ➔ 69,4% SWE-Bench Verified, funziona su una GPU da $900 con 6 GB di VRAM. Licenza MIT
- Ornith-1.0 397B MoE ➔ 82,4% SWE-Bench Verified, batte Claude Opus 4.7
- Self-Scaffolding ➔ Ornith impara a scrivere la PROPRIA orchestrazione dei compiti, non regole hardcoded
- Miglior hardware iniziale: RX 7900 XTX 24 GB ➔ $900, si ripaga in 2 mesi rispetto al cloud
- Miglior hardware professionale: Mac M3 Ultra 192 GB unificati ➔ $5.500, esegue GLM-5.2 70B in Q8
- AI locale = niente rug pull, niente limiti di velocità, niente blocchi governativi. Il tuo codice non lascia mai l'edificio
Parte 1: Il Problema da $500/Mese Che è Scomparso dall'Oggi al Domani
Stavo pagando $500 al mese per strumenti AI
Ho deciso di calcolare i costi...
- $500/mese × 24 mesi = $12.000
- Una RX 7900 XTX usata con 24 GB di VRAM costa $900
- Anche con $30/mese di elettricità, il totale in 24 mesi è $1.620
È una riduzione del 93%. E il modello che eseguo? Te lo dico tra poco :)
Questa è la guida completa su come ho fatto, quale hardware acquistare e perché l'AI locale è la scelta razionale
Parte 2: GLM-5.2 - Il Modello Open-Source Che Ha Davvero Battuto GPT 5.5 (+Rivale di Claude Fable 5)
Modello
Media Coding Agentico
Terminal-Bench 2.1
SWE-Bench Pro
SWE-Bench Verified
Licenza
GLM-5.2 744B
73,33
81,0
62,1
77,8%
MIT
GLM-5.2 70B
68,0
72,0
55,0
—
MIT
Claude Opus 4.8
72,0
85,0
69,2
87,6%
Proprietaria (controllo export)
GPT 5.5
70,00
83,4
58,6
—
Proprietaria
Claude Opus 4.7
68,0
70,3
64,3
80,8%
Proprietaria
Ornith-1.0 397B
65,0
77,5
62,2
82,4%
MIT
DeepSeek V4-Pro
—
67,9
55,4
80,6%
Aperta
Ornith-1.0 9B
42,0
43,1
42,9
69,4%
MIT
Cosa Rende Speciale GLM-5.2
Caratteristica
GLM-5.2
Frontier Tipico
Architettura
744B totale / 40B attivi (MoE)
Denso o proprietario
Finestra di contesto
1 milione di token
1M-2M
Multimodale
Testo, immagine, video, audio
Variabile
Licenza
MIT
Proprietaria
Self-hostable
Sì
No
Fine-tunable
Sì
No
Blocco governativo
No
Sì (sempre più)
GLM-5.2 utilizza un'architettura Mixture-of-Experts (MoE) : 744B parametri totali, ma solo ~40B si attivano per token. Questo lo rende sia potente che (relativamente) efficiente. La finestra di contesto da 1 milione di token significa che puoi inserire interi codebase, documentazione e cronologia delle conversazioni senza troncature
Parte 3: Ornith-1.0
ORNITH-1.0
Cos'è il Self-Scaffolding?
Agente tradizionale:
1L'umano scrive l'impalcatura → LLM risolve il compito → Output2 (fissa) (impara)
Self-Scaffolding di Ornith:
1LLM genera la PROPRIA impalcatura → LLM risolve il compito con quell'impalcatura → Ricompensa → Aggiorna SIA l'impalcatura CHE la soluzione2 (impara) (impara) (ciclo RL)
La differenza chiave: In Ornith-1.0, il modello impara non solo a risolvere i compiti ma anche a scrivere la strategia per risolverli
Tre livelli di protezione contro l'hacking delle ricompense:
- Ambiente fisso => il modello non può falsificare i file di test
- Monitor deterministico => tiene traccia delle violazioni delle regole in tempo reale
- Giudice LLM congelato => giudice indipendente che vota le soluzioni sospette
Ornith-1.0: Il Piccolo Modello Che Colpisce Sopra il Suo Peso
Modello
Parametri
SWE-Bench Verified
Terminal-Bench 2.1
VRAM (Q4)
Ideale Per
Ornith-1.0 9B
9B Denso
69,4%
43,1
~6 GB
GPU consumer, coding quotidiano
Ornith-1.0 35B MoE
35B (~3B attivi)
75,6%
64,2
~22 GB
GPU per appassionati
Ornith-1.0 397B MoE
397B MoE
82,4%
77,5
~220 GB
Cluster enterprise
Parte 5: La Guida Hardware Completa. Da $900 a $5.500
Regola #1: La Memoria Decide Tutto
Il calcolo è semplice:
- ~0,5 GB di VRAM per 1 miliardo di parametri (in quantizzazione Q4)
- Modello da 32B = ~20 GB di VRAM solo per i pesi
- Finestra di contesto prende spazio dallo stesso pool — una lunga può consumare 10 GB
Soglia minima per lavoro serio:
- 24 GB di VRAM — livello base (Ornith 9B, Llama 8B, Qwen 32B Q4, GLM-5.2 70B parziale)
- 32+ GB di VRAM — livello confortevole (Ornith 35B, Llama 70B Q4)
- 128+ GB di memoria unificata — appassionato (GLM-5.2 70B completo, qualsiasi cosa tu voglia)
Confronto Hardware: Prezzo vs Prestazioni
Hardware
VRAM
Prezzo (Luglio 2026)
tok/s (Llama 3.1 8B Q4)
Ideale Per
Avvertenze
RTX 3090 usata
24 GB
~
$
800
~110
Budget iniziale
Usata, niente FP8, architettura vecchia
RX 7900 XTX
24 GB
~
$
900
~119
Miglior rapporto qualità/prezzo
Ecosistema ROCm, niente FP8, ~30% più lenta di CUDA
RTX 4090
24 GB
~
$
1.800
~158
Massima velocità su 24 GB
Costosa, fuori produzione
RTX 5090
32 GB
~
$
3.000
~220
A prova di futuro
Molto costosa
Mac M4 Max
128 GB unificati
~
$
3.500
~85
Funzionamento silenzioso, mobilità
Più lenta di GPU, ecosistema MLX
Strix Halo (Ryzen AI Max+ 395)
128 GB unificati
~
$
4.000
~95
Piattaforma aperta, ROCm
Nuovo, poche recensioni
Mac M3 Ultra
192 GB unificati
~
$
5.500
~140
Memoria unificata massima
Più costoso
RACCOMANDAZIONI DI BUDGET
Budget $800-1.000. La Configurazione Iniziale:
1RX 7900 XTX 24 GB — $9002+ Ornith-1.0 9B (Q4)
- Esegue: Ornith 9B, Llama 3.1 8B, Qwen 3 32B Q4
- Si ripaga rispetto al cloud: ~2 mesi con uso moderato
- Miglior rapporto qualità/prezzo nell'AI locale in questo momento
Budget $1.500-2.000. L'Utente Avanzato:
1RTX 4090 24 GB — $1.8002+ Ornith-1.0 35B MoE (Q4)
- Esegue: tutto quanto sopra + Ornith 35B MoE, Llama 70B Q4
- Si ripaga: ~3,5 mesi
Budget $3.500-5.500. La Configurazione Enterprise / GLM-5.2:
1Mac M4 Max 128 GB — $3.5002OPPURE Strix Halo 128 GB — $4.0003OPPURE Mac M3 Ultra 192 GB — $5.5004+ GLM-5.2 70B (Q4 o Q8)
- Esegue: GLM-5.2 70B completo, tutto il resto
- Questa è la configurazione che batte GPT 5.5 nel coding agentico
Confronto dei Costi: Cloud vs Locale (24 mesi)
Scenario
Cloud (24 mesi)
Locale (24 mesi)
Risparmio
Uso leggero ($50/mese)
$1.200
RX 7900 XTX: $1.620
-$420
Uso moderato ($200/mese)
$4.800
RX 7900 XTX: $1.620
+$3.180
Uso intenso ($500/mese)
$12.000
RTX 4090: $2.520
+$9.480
Enterprise ($1.000/mese)
$24.000
Mac M3 Ultra: $5.780
+$18.220
CONCLUSIONE: Con uso moderato, l'hardware locale si ripaga in 2-3 mesi. Con uso intenso, la differenza è sbalorditiva. La mia riduzione del 93% è reale
Parte 6: Cosa Gira su Cosa? La Matrice di Compatibilità Completa
Modello
VRAM Q4
VRAM Q8
GPU 24 GB
GPU 32 GB
128 GB unificati
192 GB unificati
Ornith-1.0 9B
~6 GB
~11 GB
CI STA
CI STA
CI STA
CI STA
Ornith-1.0 35B MoE
~22 GB
~40 GB
CI STA
CI STA
CI STA
CI STA
GLM-5.2 70B
~42 GB
~80 GB
NO
~ PARZIALE
CI STA
CI STA
GLM-5.2 744B
~450 GB
~800 GB
NO
NO
NO
NO
Llama 3.1 8B
~5 GB
~9 GB
CI STA
CI STA
CI STA
CI STA
Llama 3.3 70B
~42 GB
~80 GB
NO
~ PARZIALE
CI STA
CI STA
Qwen 3 32B
~20 GB
~38 GB
CI STA
CI STA
CI STA
CI STA
DeepSeek V4
~35 GB
~65 GB
~ PARZIALE
~ PARZIALE
CI STA
CI STA
📝
REGOLA:
Esegui un modello PIÙ PICCOLO ad ALTA qualità, non un
PIÙ GRANDE
modello a
BASSA
qualità. Un nitido 27B in Q8 batte un lobotomizzato 70B in Q4
Parte 7: Velocità di Inferenza nel Mondo Reale
Modello
RTX 4090
RX 7900 XTX
Mac M4 Max
Strix Halo
Comfort
Ornith 9B Q4
180
145
95
105
Eccellente
Ornith 35B Q4
65
52
35
38
Buono
GLM-5.2 70B Q4
28
22
15
18
Lento ma utilizzabile
GLM-5.2 744B Q4
8
6
4
5
Solo enterprise
Llama 3.1 8B Q4
158
119
85
95
Eccellente
Qwen 3 32B Q4
42
33
22
28
Accettabile
SOGLIA DI COMFORT: 30 tok/s - minimo per lavoro fluido. 100+ tok/s - ideale. GLM-5.2 70B a 28 tok/s su RTX 4090 è lento ma utilizzabile per compiti seri. Per il coding quotidiano, Ornith 9B a 180 tok/s è morbidissimo
Parte 8: Come Configurarlo. Lo Stack Completo
Tre Componenti
1┌─────────────────┐ ┌─────────────────┐ ┌─────────────────┐2│ 1. MOTORE │────→│ 2. STRUMENTO │────→│ 3. EDITOR │3│ (esegue modello)│ │ (dà al modello │ │ (VS Code, │4│ │ │ un corpo) │ │ Cursor, ecc) │5│ Ollama, │ │ Aider, │ │ │6│ llama.cpp, │ │ OpenCode, │ │ Connettiti a │7│ vLLM │ │ OpenHands │ │ localhost │8└─────────────────┘ └─────────────────┘ └─────────────────┘
Opzione A: Avvio Rapido. Ornith-1.0 9B su Ollama (5 minuti)
Passo 1: Installa Ollama
1# Linux/macOS2curl -fsSL https://ollama.com/install.sh | sh34# Windows — scarica da ollama.com
Passo 2: Esegui Ornith-1.0
1# Scarica ed esegui il modello 9B2ollama run ornith:9b34# Oppure 35B MoE (richiede 24 GB+ di VRAM)5ollama run ornith:35b
Passo 3: Verifica l'uso della GPU
1# Linux (AMD)2rocm-smi34# Linux (NVIDIA)5nvidia-smi67# macOS8ollama ps
Passo 4: Collega il tuo editor
- VS Code: installa "Continue" → http://localhost:11434
- Cursor: Impostazioni → AI Provider → Ollama → http://localhost:11434
- Aider: aider --model ollama/ornith:9b
Opzione B: Avanzata. GLM-5.2 con llama.cpp
Per NVIDIA (CUDA):
1git clone https://github.com/ggerganov/llama.cpp2cd llama.cpp3cmake -B build -DGGML_CUDA=ON4cmake --build build -j56# Esegui GLM-5.2 70B Q47./build/bin/llama-server \8 -m glm-5.2-70b-q4.gguf \9 -ngl 999 \10 -c 32768 \11 --host 0.0.0.0 \12 --port 8080
Per AMD (ROCm 7.x):
1# Installa ROCm2wget https://repo.radeon.com/amdgpu-install/latest/ubuntu/jammy/amdgpu-install_latest_all.deb3sudo apt install ./amdgpu-install_latest_all.deb4sudo amdgpu-install --usecase=rocm,hiplibsdk -y5sudo usermod -aG render,video $USER6sudo reboot78# llama.cpp con HIP9git clone https://github.com/ggerganov/llama.cpp10cd llama.cpp11HIPCXX="$(hipconfig -l)/clang" \12HIP_PATH="$(hipconfig -R)" \13cmake -B build -DGGML_HIP=ON -DAMDGPU_TARGETS=gfx110014cmake --build build -j1516# Esegui17./build/bin/llama-server -m glm-5.2-70b-q4.gguf -ngl 999 -fa
Per Apple Silicon (MLX):
1pip install mlx-lm23# Esegui GLM-5.24python -m mlx_lm.server --model glm/glm-5.2-70b
Opzione C: Produzione. vLLM
1# NVIDIA2docker run --gpus all -p 8000:8000 vllm/vllm-openai:latest \3 --model glm/glm-5.2-70b --quantization awq45# AMD6docker run --device /dev/kfd --device /dev/dri \7 --group-add video --group-add render \8 --security-opt seccomp=unconfined \9 -p 8000:8000 rocm/vllm:latest \10 vllm serve glm/glm-5.2-70b --quantization awq
Parte 9: La Strategia Ibrida. Il Meglio di Entrambi i Mondi
1┌─────────────────────────────────────────────────────────────┐2│ STRATEGIA IBRIDA │3├─────────────────────────────────────────────────────────────┤4│ FRONTIERA (cloud) │ AI LOCALE │5│ ───────────────── │ ─────────────────── │6│ • Claude Opus 4.8 per │ • GLM-5.2 70B per coding │7│ i compiti più difficili │ agentico (batte GPT 5.5) │8│ • GPT 5.5 per contesto │ • Ornith 9B per │9│ lungo (>1M) │ autocompletamento e modifiche│10│ • Compiti sconosciuti │ • Refactoring, test, │11│ │ lavoro di routine │12│ $200-500/mese │ $0 dopo l'acquisto hardware │13└─────────────────────────────────────────────────────────────┘
La Regola 80/20:
- 80% dei tuoi compiti - modello locale (GLM-5.2 70B o Ornith 9B)
- 20% più difficili - escalation al cloud (Claude Opus 4.8, GPT 5.5)
- Risparmio: 60-80% rispetto all'approccio puramente cloud
Parte 10: Tabella Decisionale Finale
Tu
Raccomandazione
Hardware
Budget
Modello
Studente / Junior
Inizia con Ollama sull'hardware esistente
Quello che hai
$0
Ornith 9B
Sviluppatore indipendente
RX 7900 XTX + Ornith 9B/35B
GPU 24 GB
$900
Ornith 9B/35B
Startup (2-5 persone)
2x RTX 3090 NVLink o RTX 4090
48 GB totali
$1.600-1.800
Ornith 35B, GLM-5.2 70B
Enterprise / NDA
Mac M3 Ultra 192 GB o Strix Halo 128 GB
Memoria unificata
$4.000-5.500
GLM-5.2 70B
Ricercatore AI
RTX 5090 32 GB + cloud per la frontiera
32 GB + cloud
$3.000 + abbonamento
Ibrido
Paranoico della privacy
Strix Halo 128 GB + Linux
Controllo totale
$4.000
GLM-5.2 70B
Conclusione
Il modello nella scatola sotto la tua scrivania non può essere ritirato, non può essere riprezzato, non può essere pensionato all'improvviso. È più lento, è meno intelligente della frontiera assoluta ➔ ma è tuo. Per un numero crescente di sviluppatori, quell'ultima parola è quella che finalmente fa pendere la bilancia
Segui @beamnxw per altre informazioni sui modelli frontier, l'AI locale e ciò che conta davvero
Risorse e Link
Risorsa
Link
GLM-5.2 Hugging Face
Benchmark GLM-5.2
Ornith-1.0 Hugging Face
Benchmark Ornith-1.0
https://ornith.site/benchmarks/
Blog DeepReinforce
https://deep-reinforce.com/ornith_1_0.html
Ollama
llama.cpp
https://github.com/ggerganov/llama.cpp
vLLM
https://github.com/vllm-project/vllm
Guida AMD ROCm
https://localaimaster.com/blog/radeon-7900-xtx-local-ai
Aider (agente di coding)
OpenCode (agente di coding)
![Procedura completa per risparmiare 5 milioni di yen in 6 mesi usando Fable 5 e note [Con prompt copia-incolla]](/cdn-cgi/image/width=1920,quality=90,format=auto,metadata=none/https%3A%2F%2Fcms-assets.youmind.com%2Fmedia%2F1783533977044_mlxvvu_HMoBqNQaMAA7EsU.jpg)
