TL;DR
- GLM-5.2 (744B) ➔ 73,33% Média de Codificação Agentiva, supera GPT 5.5 (70,00). 62,1% SWE-Bench Pro, supera GPT 5.5 (58,6%). Licença MIT
- GLM-5.2 70B ➔ roda em 128GB de memória unificada (Mac M4 Max / Strix Halo). 68,0% Média de Codificação Agentiva
- Ornith-1.0 9B ➔ 69,4% SWE-Bench Verified, roda em uma GPU de $900 com 6GB de VRAM. Licença MIT
- Ornith-1.0 397B MoE ➔ 82,4% SWE-Bench Verified, supera Claude Opus 4.7
- Auto-Estruturação (Self-Scaffolding) ➔ Ornith aprende a escrever SUA PRÓPRIA orquestração de tarefas, não regras fixas
- Melhor hardware inicial: RX 7900 XTX 24GB ➔ $900, se paga em 2 meses vs. nuvem
- Melhor hardware profissional: Mac M3 Ultra 192GB unificado ➔ $5.500, roda GLM-5.2 70B em Q8
- IA Local = sem rug pulls, sem limites de taxa, sem barreiras governamentais. Seu código nunca sai do prédio
Parte 1: O Problema de $500/Mês Que Desapareceu da Noite para o Dia
Eu estava pagando $500 por mês em ferramentas de IA
Decidi calcular os custos...
- $500/mês × 24 meses = $12.000
- Uma RX 7900 XTX usada com 24GB de VRAM custa $900
- Mesmo com $30/mês de eletricidade, o total em 24 meses é $1.620
Isso é uma redução de 93%. E o modelo que eu rodo? Vou te contar abaixo :)
Este é o guia completo de como fiz isso, qual hardware comprar e por que a IA local é a escolha racional
Parte 2: GLM-5.2 - O Modelo Open-Source Que Realmente Superou o GPT 5.5 (+Rivaliza com Claude Fable 5)
Modelo
Média de Codificação Agentiva
Terminal-Bench 2.1
SWE-Bench Pro
SWE-Bench Verified
Licença
GLM-5.2 744B
73,33
81,0
62,1
77,8%
MIT
GLM-5.2 70B
68,0
72,0
55,0
—
MIT
Claude Opus 4.8
72,0
85,0
69,2
87,6%
Proprietária (controlada por exportação)
GPT 5.5
70,00
83,4
58,6
—
Proprietária
Claude Opus 4.7
68,0
70,3
64,3
80,8%
Proprietária
Ornith-1.0 397B
65,0
77,5
62,2
82,4%
MIT
DeepSeek V4-Pro
—
67,9
55,4
80,6%
Aberta
Ornith-1.0 9B
42,0
43,1
42,9
69,4%
MIT
O Que Torna o GLM-5.2 Especial
Característica
GLM-5.2
Fronteira Típica
Arquitetura
744B total / 40B ativos (MoE)
Densa ou proprietária
Janela de contexto
1 milhão de tokens
1M-2M
Multimodal
Texto, imagem, vídeo, áudio
Variado
Licença
MIT
Proprietária
Auto-hospedável
Sim
Não
Ajustável (fine-tuning)
Sim
Não
Barreira governamental
Não
Sim (crescentemente)
O GLM-5.2 usa uma arquitetura Mixture-of-Experts (MoE): 744B parâmetros no total, mas apenas ~40B são ativados por token. Isso o torna poderoso e (relativamente) eficiente. A janela de contexto de 1 milhão de tokens significa que você pode alimentá-lo com bases de código inteiras, documentação e histórico de conversas sem truncamento
Parte 3: Ornith-1.0
ORNITH-1.0
O Que É Auto-Estruturação (Self-Scaffolding)?
Agente tradicional:
1Humano escreve estrutura → LLM resolve tarefa → Saída2 (fixa) (aprende)
Auto-Estruturação Ornith:
1LLM gera SUA PRÓPRIA estrutura → LLM resolve tarefa com essa estrutura → Recompensa → Atualiza AMBAS estrutura E solução2 (aprende) (aprende) (loop RL)
A diferença chave: No Ornith-1.0, o modelo aprende não apenas a resolver tarefas, mas também a escrever a estratégia para resolvê-las
Três camadas de proteção contra manipulação de recompensa:
- Ambiente fixo => o modelo não pode falsificar arquivos de teste
- Monitor determinístico => rastreia violações de regras em tempo real
- Juiz LLM congelado => juiz independente que veta soluções suspeitas
Ornith-1.0: O Modelo Pequeno Que Bate Acima do Peso
Modelo
Parâmetros
SWE-Bench Verified
Terminal-Bench 2.1
VRAM (Q4)
Melhor Para
Ornith-1.0 9B
9B Denso
69,4%
43,1
~6GB
GPUs de consumo, codificação diária
Ornith-1.0 35B MoE
35B (~3B ativos)
75,6%
64,2
~22GB
GPUs para entusiastas
Ornith-1.0 397B MoE
397B MoE
82,4%
77,5
~220GB
Clusters empresariais
Parte 5: O Guia Completo de Hardware. De $900 a $5.500
Regra #1: A Memória Decide Tudo
A matemática é simples:
- ~0,5 GB de VRAM por 1B parâmetros (na quantização Q4)
- Modelo de 32B = ~20 GB de VRAM só para os pesos
- Janela de contexto aluga espaço do mesmo pool — uma longa pode consumir 10 GB
Limite mínimo para trabalho real:
- 24 GB de VRAM — nível de entrada (Ornith 9B, Llama 8B, Qwen 32B Q4, GLM-5.2 70B parcial)
- 32+ GB de VRAM — nível confortável (Ornith 35B, Llama 70B Q4)
- 128+ GB de memória unificada — entusiasta (GLM-5.2 70B completo, o que você quiser)
Comparação de Hardware: Preço vs. Desempenho
Hardware
VRAM
Preço (Julho 2026)
tok/s (Llama 3.1 8B Q4)
Melhor Para
Ressalvas
RTX 3090 usada
24GB
~
$
800
~110
Orçamento inicial
Usada, sem FP8, arquitetura antiga
RX 7900 XTX
24GB
~
$
900
~119
Melhor custo-benefício
Ecossistema ROCm, sem FP8, ~30% mais lenta que CUDA
RTX 4090
24GB
~
$
1.800
~158
Velocidade máxima em 24GB
Cara, fora de produção
RTX 5090
32GB
~
$
3.000
~220
À prova de futuro
Muito cara
Mac M4 Max
128GB unificado
~
$
3.500
~85
Operação silenciosa, mobilidade
Mais lenta que GPU, ecossistema MLX
Strix Halo (Ryzen AI Max+ 395)
128GB unificado
~
$
4.000
~95
Plataforma aberta, ROCm
Novo, poucas avaliações
Mac M3 Ultra
192GB unificado
~
$
5.500
~140
Máxima memória unificada
Mais caro
RECOMENDAÇÕES DE ORÇAMENTO
Orçamento $800-1.000. A Configuração Inicial:
1RX 7900 XTX 24GB — $9002+ Ornith-1.0 9B (Q4)
- Roda: Ornith 9B, Llama 3.1 8B, Qwen 3 32B Q4
- Se paga vs. nuvem: ~2 meses de uso moderado
- Melhor custo-benefício em IA local no momento
Orçamento $1.500-2.000. O Usuário Avançado:
1RTX 4090 24GB — $1.8002+ Ornith-1.0 35B MoE (Q4)
- Roda: todos acima + Ornith 35B MoE, Llama 70B Q4
- Se paga: ~3,5 meses
Orçamento $3.500-5.500. A Configuração Empresarial / GLM-5.2:
1Mac M4 Max 128GB — $3.5002OU Strix Halo 128GB — $4.0003OU Mac M3 Ultra 192GB — $5.5004+ GLM-5.2 70B (Q4 ou Q8)
- Roda: GLM-5.2 70B completo, todo o resto
- Esta é a configuração que supera o GPT 5.5 em codificação agentiva
Comparação de Custos: Nuvem vs. Local (24 meses)
Cenário
Nuvem (24 meses)
Local (24 meses)
Economia
Uso leve ($50/mês)
$1.200
RX 7900 XTX: $1.620
-$420
Uso moderado ($200/mês)
$4.800
RX 7900 XTX: $1.620
+$3.180
Uso intenso ($500/mês)
$12.000
RTX 4090: $2.520
+$9.480
Empresarial ($1.000/mês)
$24.000
Mac M3 Ultra: $5.780
+$18.220
CONCLUSÃO: Em uso moderado, o hardware local se paga em 2-3 meses. Em uso intenso, a diferença é impressionante. Minha redução de 93% é real
Parte 6: O Que Roda em Quê? A Matriz de Compatibilidade Completa
Modelo
VRAM Q4
VRAM Q8
GPU 24GB
GPU 32GB
128GB unificado
192GB unificado
Ornith-1.0 9B
~6GB
~11GB
CABE
CABE
CABE
CABE
Ornith-1.0 35B MoE
~22GB
~40GB
CABE
CABE
CABE
CABE
GLM-5.2 70B
~42GB
~80GB
NÃO
~ PARCIAL
CABE
CABE
GLM-5.2 744B
~450GB
~800GB
NÃO
NÃO
NÃO
NÃO
Llama 3.1 8B
~5GB
~9GB
CABE
CABE
CABE
CABE
Llama 3.3 70B
~42GB
~80GB
NÃO
~ PARCIAL
CABE
CABE
Qwen 3 32B
~20GB
~38GB
CABE
CABE
CABE
CABE
DeepSeek V4
~35GB
~65GB
~ PARCIAL
~ PARCIAL
CABE
CABE
📝
REGRA:
Rode um modelo MENOR com ALTA qualidade, não um
MAIOR
com
BAIXA
qualidade. Um 27B nítido em Q8 supera um 70B lobotomizado em Q4
Parte 7: Velocidade de Inferência no Mundo Real
Modelo
RTX 4090
RX 7900 XTX
Mac M4 Max
Strix Halo
Conforto
Ornith 9B Q4
180
145
95
105
Excelente
Ornith 35B Q4
65
52
35
38
Bom
GLM-5.2 70B Q4
28
22
15
18
Lento, mas utilizável
GLM-5.2 744B Q4
8
6
4
5
Apenas empresarial
Llama 3.1 8B Q4
158
119
85
95
Excelente
Qwen 3 32B Q4
42
33
22
28
Aceitável
LIMIAR DE CONFORTO: 30 tok/s - mínimo para trabalho fluido. 100+ tok/s - ideal. GLM-5.2 70B a 28 tok/s na RTX 4090 é lento, mas utilizável para tarefas sérias. Para codificação diária, Ornith 9B a 180 tok/s é extremamente suave
Parte 8: Como Configurar. A Pilha Completa
Três Componentes
1┌─────────────────┐ ┌─────────────────┐ ┌─────────────────┐2│ 1. MOTOR │────→│ 2. ARCABOUÇO │────→│ 3. EDITOR │3│ (roda modelo) │ │ (dá corpo ao │ │ (VS Code, │4│ │ │ modelo) │ │ Cursor, etc) │5│ Ollama, │ │ Aider, │ │ │6│ llama.cpp, │ │ OpenCode, │ │ Conecte ao │7│ vLLM │ │ OpenHands │ │ localhost │8└─────────────────┘ └─────────────────┘ └─────────────────┘
Opção A: Início Rápido. Ornith-1.0 9B no Ollama (5 minutos)
Passo 1: Instale o Ollama
1# Linux/macOS2curl -fsSL https://ollama.com/install.sh | sh34# Windows — baixe de ollama.com
Passo 2: Rode o Ornith-1.0
1# Baixe e rode o modelo 9B2ollama run ornith:9b34# Ou 35B MoE (requer 24GB+ de VRAM)5ollama run ornith:35b
Passo 3: Verifique o uso da GPU
1# Linux (AMD)2rocm-smi34# Linux (NVIDIA)5nvidia-smi67# macOS8ollama ps
Passo 4: Conecte seu editor
- VS Code: instale "Continue" → http://localhost:11434
- Cursor: Configurações → AI Provider → Ollama → http://localhost:11434
- Aider: aider --model ollama/ornith:9b
Opção B: Avançado. GLM-5.2 com llama.cpp
Para NVIDIA (CUDA):
1git clone https://github.com/ggerganov/llama.cpp2cd llama.cpp3cmake -B build -DGGML_CUDA=ON4cmake --build build -j56# Rode GLM-5.2 70B Q47./build/bin/llama-server \8 -m glm-5.2-70b-q4.gguf \9 -ngl 999 \10 -c 32768 \11 --host 0.0.0.0 \12 --port 8080
Para AMD (ROCm 7.x):
1# Instale ROCm2wget https://repo.radeon.com/amdgpu-install/latest/ubuntu/jammy/amdgpu-install_latest_all.deb3sudo apt install ./amdgpu-install_latest_all.deb4sudo amdgpu-install --usecase=rocm,hiplibsdk -y5sudo usermod -aG render,video $USER6sudo reboot78# llama.cpp com HIP9git clone https://github.com/ggerganov/llama.cpp10cd llama.cpp11HIPCXX="$(hipconfig -l)/clang" \12HIP_PATH="$(hipconfig -R)" \13cmake -B build -DGGML_HIP=ON -DAMDGPU_TARGETS=gfx110014cmake --build build -j1516# Rode17./build/bin/llama-server -m glm-5.2-70b-q4.gguf -ngl 999 -fa
Para Apple Silicon (MLX):
1pip install mlx-lm23# Rode GLM-5.24python -m mlx_lm.server --model glm/glm-5.2-70b
Opção C: Produção. vLLM
1# NVIDIA2docker run --gpus all -p 8000:8000 vllm/vllm-openai:latest \3 --model glm/glm-5.2-70b --quantization awq45# AMD6docker run --device /dev/kfd --device /dev/dri \7 --group-add video --group-add render \8 --security-opt seccomp=unconfined \9 -p 8000:8000 rocm/vllm:latest \10 vllm serve glm/glm-5.2-70b --quantization awq
Parte 9: A Estratégia Híbrida. O Melhor dos Dois Mundos
1┌─────────────────────────────────────────────────────────────┐2│ ESTRATÉGIA HÍBRIDA │3├─────────────────────────────────────────────────────────────┤4│ FRONTEIRA (nuvem) │ IA LOCAL │5│ ───────────────── │ ─────────────────── │6│ • Claude Opus 4.8 para │ • GLM-5.2 70B para │7│ tarefas mais difíceis │ codificação agentiva │8│ • GPT 5.5 para contexto │ (supera GPT 5.5) │9│ longo (>1M) │ • Ornith 9B para │10│ • Tarefas desconhecidas │ autocomplete e edições │11│ │ diárias │12│ $200-500/mês │ • Refatoração, testes, │13│ │ trabalho rotineiro │14│ │ $0 após compra do hardware │15└─────────────────────────────────────────────────────────────┘
A Regra 80/20:
- 80% das suas tarefas - modelo local (GLM-5.2 70B ou Ornith 9B)
- 20% mais difíceis - escalonamento para nuvem (Claude Opus 4.8, GPT 5.5)
- Economia: 60-80% vs. abordagem puramente em nuvem
Parte 10: Tabela de Decisão Final
Você
Recomendação
Hardware
Orçamento
Modelo
Estudante / Júnior
Comece com Ollama no hardware existente
O que você tem
$0
Ornith 9B
Desenvolvedor independente
RX 7900 XTX + Ornith 9B/35B
GPU 24GB
$900
Ornith 9B/35B
Startup (2-5 pessoas)
2x RTX 3090 NVLink ou RTX 4090
48GB total
$1.600-1.800
Ornith 35B, GLM-5.2 70B
Empresarial / NDA
Mac M3 Ultra 192GB ou Strix Halo 128GB
Memória unificada
$4.000-5.500
GLM-5.2 70B
Pesquisador de IA
RTX 5090 32GB + nuvem para fronteira
32GB + nuvem
$3.000 + assinatura
Híbrido
Paranoico com privacidade
Strix Halo 128GB + Linux
Controle total
$4.000
GLM-5.2 70B
Conclusão
O modelo na caixa debaixo da sua mesa não pode ser tirado de você, não pode ser reajustado, não pode ser aposentado sem seu consentimento. É mais lento, é menos inteligente que a fronteira absoluta ➔ mas é seu. Para um número crescente de desenvolvedores, essa última palavra é a que finalmente faz a balança pender
Siga @beamnxw para mais conteúdo de ponta sobre modelos de fronteira, IA local e o que realmente importa
Recursos e Links
Recurso
Link
GLM-5.2 Hugging Face
GLM-5.2 Benchmarks
Ornith-1.0 Hugging Face
Ornith-1.0 Benchmarks
https://ornith.site/benchmarks/
Blog DeepReinforce
https://deep-reinforce.com/ornith_1_0.html
Ollama
llama.cpp
https://github.com/ggerganov/llama.cpp
vLLM
https://github.com/vllm-project/vllm
Guia AMD ROCm
https://localaimaster.com/blog/radeon-7900-xtx-local-ai
Aider (agente de codificação)
OpenCode (agente de codificação)
![Procedimento Completo para Economizar 5 Milhões de Ienes em 6 Meses Usando Fable 5 e note [Com Prompts de Copiar e Colar]](/cdn-cgi/image/width=1920,quality=90,format=auto,metadata=none/https%3A%2F%2Fcms-assets.youmind.com%2Fmedia%2F1783533977044_mlxvvu_HMoBqNQaMAA7EsU.jpg)
