TL;DR
- GLM-5.2 (744B) ➔ 73.33% Promedio de Codificación Agentiva, supera a GPT 5.5 (70.00). 62.1% SWE-Bench Pro, supera a GPT 5.5 (58.6%). Licencia MIT
- GLM-5.2 70B ➔ Funciona en 128GB de memoria unificada (Mac M4 Max / Strix Halo). 68.0% Promedio de Codificación Agentiva
- Ornith-1.0 9B ➔ 69.4% SWE-Bench Verified, funciona en una GPU de $900 con 6GB de VRAM. Licencia MIT
- Ornith-1.0 397B MoE ➔ 82.4% SWE-Bench Verified, supera a Claude Opus 4.7
- Auto-Estructuración ➔ Ornith aprende a escribir su PROPIA orquestación de tareas, no reglas fijas
- Mejor hardware inicial: RX 7900 XTX 24GB ➔ $900, se paga sola en 2 meses vs la nube
- Mejor hardware profesional: Mac M3 Ultra 192GB unificada ➔ $5,500, ejecuta GLM-5.2 70B en Q8
- IA Local = sin estafas, sin límites de uso, sin barreras gubernamentales. Tu código nunca sale del edificio
Parte 1: El Problema de $500/Mes Que Desapareció de la Noche a la Mañana
Estaba pagando $500 al mes por herramientas de IA
Decidí calcular los costos...
- $500/mes × 24 meses = $12,000
- Una RX 7900 XTX usada con 24GB de VRAM cuesta $900
- Incluso con $30/mes de electricidad, el total en 24 meses es $1,620
Eso es una reducción del 93%. ¿Y el modelo que ejecuto? Te lo cuento abajo :)
Esta es la guía completa de cómo lo hice, qué hardware comprar y por qué la IA local es la decisión más inteligente
Parte 2: GLM-5.2 - El Modelo Open-Source Que Realmente Superó a GPT 5.5 (+Rivaliza con Claude Fable 5)
Modelo
Promedio Codificación Agentiva
Terminal-Bench 2.1
SWE-Bench Pro
SWE-Bench Verified
Licencia
GLM-5.2 744B
73.33
81.0
62.1
77.8%
MIT
GLM-5.2 70B
68.0
72.0
55.0
—
MIT
Claude Opus 4.8
72.0
85.0
69.2
87.6%
Propietaria (control de exportación)
GPT 5.5
70.00
83.4
58.6
—
Propietaria
Claude Opus 4.7
68.0
70.3
64.3
80.8%
Propietaria
Ornith-1.0 397B
65.0
77.5
62.2
82.4%
MIT
DeepSeek V4-Pro
—
67.9
55.4
80.6%
Abierta
Ornith-1.0 9B
42.0
43.1
42.9
69.4%
MIT
Qué Hace Especial a GLM-5.2
Característica
GLM-5.2
Frontera Típica
Arquitectura
744B total / 40B activos (MoE)
Densa o propietaria
Ventana de contexto
1M tokens
1M-2M
Multimodal
Texto, imagen, video, audio
Varía
Licencia
MIT
Propietaria
Auto-hospedable
Sí
No
Ajustable
Sí
No
Barrera gubernamental
No
Sí (cada vez más)
GLM-5.2 usa una arquitectura de Mezcla de Expertos (MoE) : 744B parámetros totales, pero solo ~40B se activan por token. Esto lo hace potente y (relativamente) eficiente. La ventana de contexto de 1M tokens significa que puedes alimentarlo con bases de código completas, documentación e historial de conversaciones sin truncar
Parte 3: Ornith-1.0
ORNITH-1.0
¿Qué es la Auto-Estructuración?
Agente tradicional:
1Humano escribe el arnés → LLM resuelve la tarea → Salida2 (fijo) (aprende)
Auto-Estructuración de Ornith:
1LLM genera su PROPIO arnés → LLM resuelve la tarea con ese arnés → Recompensa → Actualiza TANTO el arnés COMO la solución2 (aprende) (aprende) (bucle RL)
La diferencia clave: En Ornith-1.0, el modelo aprende no solo a resolver tareas sino también a escribir la estrategia para resolverlas
Tres capas de protección contra manipulación de recompensas:
- Entorno fijo => el modelo no puede falsificar archivos de prueba
- Monitor determinista => rastrea violaciones de reglas en tiempo real
- Juez LLM congelado => juez independiente que veta soluciones sospechosas
Ornith-1.0: El Modelo Pequeño Que Golpea por Encima de su Peso
Modelo
Parámetros
SWE-Bench Verified
Terminal-Bench 2.1
VRAM (Q4)
Mejor Para
Ornith-1.0 9B
9B Denso
69.4%
43.1
~6GB
GPUs de consumo, codificación diaria
Ornith-1.0 35B MoE
35B (~3B activos)
75.6%
64.2
~22GB
GPUs para entusiastas
Ornith-1.0 397B MoE
397B MoE
82.4%
77.5
~220GB
Clústeres empresariales
Parte 5: La Guía Completa de Hardware. Desde $900 hasta $5,500
Regla #1: La Memoria Lo Decide Todo
La matemática es simple:
- ~0.5 GB de VRAM por cada 1B parámetros (en cuantización Q4)
- Modelo de 32B = ~20 GB de VRAM solo para los pesos
- Ventana de contexto alquila espacio del mismo grupo — una larga puede consumir 10 GB
Umbral mínimo para trabajo real:
- 24 GB de VRAM — nivel de entrada (Ornith 9B, Llama 8B, Qwen 32B Q4, GLM-5.2 70B parcial)
- 32+ GB de VRAM — nivel cómodo (Ornith 35B, Llama 70B Q4)
- 128+ GB de memoria unificada — entusiasta (GLM-5.2 70B completo, lo que quieras)
Comparación de Hardware: Precio vs Rendimiento
Hardware
VRAM
Precio (Julio 2026)
tok/s (Llama 3.1 8B Q4)
Mejor Para
Advertencias
RTX 3090 usada
24GB
~
$
800
~110
Inicio económico
Usada, sin FP8, arquitectura antigua
RX 7900 XTX
24GB
~
$
900
~119
Mejor precio/rendimiento
Ecosistema ROCm, sin FP8, ~30% más lenta que CUDA
RTX 4090
24GB
~
$
1,800
~158
Máxima velocidad en 24GB
Cara, fuera de producción
RTX 5090
32GB
~
$
3,000
~220
A prueba de futuro
Muy cara
Mac M4 Max
128GB unificada
~
$
3,500
~85
Operación silenciosa, movilidad
Más lenta que GPU, ecosistema MLX
Strix Halo (Ryzen AI Max+ 395)
128GB unificada
~
$
4,000
~95
Plataforma abierta, ROCm
Nueva, pocas reseñas
Mac M3 Ultra
192GB unificada
~
$
5,500
~140
Máxima memoria unificada
La más cara
RECOMENDACIONES DE PRESUPUESTO
Presupuesto $800-1,000. El Stack Inicial:
1RX 7900 XTX 24GB — $9002+ Ornith-1.0 9B (Q4)
- Ejecuta: Ornith 9B, Llama 3.1 8B, Qwen 3 32B Q4
- Se paga sola vs la nube: ~2 meses con uso moderado
- Mejor relación calidad-precio en IA local hoy
Presupuesto $1,500-2,000. El Usuario Avanzado:
1RTX 4090 24GB — $1,8002+ Ornith-1.0 35B MoE (Q4)
- Ejecuta: todo lo anterior + Ornith 35B MoE, Llama 70B Q4
- Se paga sola: ~3.5 meses
Presupuesto $3,500-5,500. El Stack Empresarial / GLM-5.2:
1Mac M4 Max 128GB — $3,5002O Strix Halo 128GB — $4,0003O Mac M3 Ultra 192GB — $5,5004+ GLM-5.2 70B (Q4 o Q8)
- Ejecuta: GLM-5.2 70B completo, todo lo demás
- Este es el stack que supera a GPT 5.5 en codificación agentiva
Comparación de Costos: Nube vs Local (24 meses)
Escenario
Nube (24 meses)
Local (24 meses)
Ahorro
Uso ligero (
$
50/mes)
$
1,200
RX 7900 XTX:
$
1,620
-
$
420
Uso moderado (
$
200/mes)
$
4,800
RX 7900 XTX:
$
1,620
+$3,180
Uso intensivo (
$
500/mes)
$
12,000
RTX 4090:
$
2,520
+$9,480
Empresarial (
$
1,000/mes)
$
24,000
Mac M3 Ultra:
$
5,780
+$18,220
CONCLUSIÓN: Con uso moderado, el hardware local se paga solo en 2-3 meses. Con uso intensivo, la diferencia es abismal. Mi reducción del 93% es real
Parte 6: ¿Qué Funciona en Qué? La Matriz de Compatibilidad Completa
Modelo
VRAM Q4
VRAM Q8
GPU 24GB
GPU 32GB
128GB unificada
192GB unificada
Ornith-1.0 9B
~6GB
~11GB
CABE
CABE
CABE
CABE
Ornith-1.0 35B MoE
~22GB
~40GB
CABE
CABE
CABE
CABE
GLM-5.2 70B
~42GB
~80GB
NO
~ PARCIAL
CABE
CABE
GLM-5.2 744B
~450GB
~800GB
NO
NO
NO
NO
Llama 3.1 8B
~5GB
~9GB
CABE
CABE
CABE
CABE
Llama 3.3 70B
~42GB
~80GB
NO
~ PARCIAL
CABE
CABE
Qwen 3 32B
~20GB
~38GB
CABE
CABE
CABE
CABE
DeepSeek V4
~35GB
~65GB
~ PARCIAL
~ PARCIAL
CABE
CABE
📝
REGLA:
Ejecuta un modelo MÁS PEQUEÑO con ALTA calidad, no un
modelo MÁS GRANDE
con
BAJA
calidad. Un nítido 27B en Q8 supera a un 70B lobotomizado en Q4
Parte 7: Velocidad de Inferencia en el Mundo Real
Modelo
RTX 4090
RX 7900 XTX
Mac M4 Max
Strix Halo
Confort
Ornith 9B Q4
180
145
95
105
Excelente
Ornith 35B Q4
65
52
35
38
Buena
GLM-5.2 70B Q4
28
22
15
18
Lenta pero usable
GLM-5.2 744B Q4
8
6
4
5
Solo empresarial
Llama 3.1 8B Q4
158
119
85
95
Excelente
Qwen 3 32B Q4
42
33
22
28
Aceptable
UMBRAL DE CONFORT: 30 tok/s - mínimo para trabajo fluido. 100+ tok/s - ideal. GLM-5.2 70B a 28 tok/s en RTX 4090 es lento pero usable para tareas serias. Para codificación diaria, Ornith 9B a 180 tok/s es increíblemente fluido
Parte 8: Cómo Configurarlo. El Stack Completo
Tres Componentes
1┌─────────────────┐ ┌─────────────────┐ ┌─────────────────┐2│ 1. MOTOR │────→│ 2. ARNÉS │────→│ 3. EDITOR │3│ (ejecuta modelo)│ │ (le da cuerpo │ │ (VS Code, │4│ │ │ al modelo) │ │ Cursor, etc) │5│ Ollama, │ │ Aider, │ │ │6│ llama.cpp, │ │ OpenCode, │ │ Conectar a │7│ vLLM │ │ OpenHands │ │ localhost │8└─────────────────┘ └─────────────────┘ └─────────────────┘
Opción A: Inicio Rápido. Ornith-1.0 9B en Ollama (5 minutos)
Paso 1: Instalar Ollama
1# Linux/macOS2curl -fsSL https://ollama.com/install.sh | sh34# Windows — descargar de ollama.com
Paso 2: Ejecutar Ornith-1.0
1# Descargar y ejecutar modelo 9B2ollama run ornith:9b34# O 35B MoE (requiere 24GB+ VRAM)5ollama run ornith:35b
Paso 3: Verificar uso de GPU
1# Linux (AMD)2rocm-smi34# Linux (NVIDIA)5nvidia-smi67# macOS8ollama ps
Paso 4: Conectar tu editor
- VS Code: instalar "Continue" → http://localhost:11434
- Cursor: Configuración → AI Provider → Ollama → http://localhost:11434
- Aider: aider --model ollama/ornith:9b
Opción B: Avanzado. GLM-5.2 con llama.cpp
Para NVIDIA (CUDA):
1git clone https://github.com/ggerganov/llama.cpp2cd llama.cpp3cmake -B build -DGGML_CUDA=ON4cmake --build build -j56# Ejecutar GLM-5.2 70B Q47./build/bin/llama-server \8 -m glm-5.2-70b-q4.gguf \9 -ngl 999 \10 -c 32768 \11 --host 0.0.0.0 \12 --port 8080
Para AMD (ROCm 7.x):
1# Instalar ROCm2wget https://repo.radeon.com/amdgpu-install/latest/ubuntu/jammy/amdgpu-install_latest_all.deb3sudo apt install ./amdgpu-install_latest_all.deb4sudo amdgpu-install --usecase=rocm,hiplibsdk -y5sudo usermod -aG render,video $USER6sudo reboot78# llama.cpp con HIP9git clone https://github.com/ggerganov/llama.cpp10cd llama.cpp11HIPCXX="$(hipconfig -l)/clang" \12HIP_PATH="$(hipconfig -R)" \13cmake -B build -DGGML_HIP=ON -DAMDGPU_TARGETS=gfx110014cmake --build build -j1516# Ejecutar17./build/bin/llama-server -m glm-5.2-70b-q4.gguf -ngl 999 -fa
Para Apple Silicon (MLX):
1pip install mlx-lm23# Ejecutar GLM-5.24python -m mlx_lm.server --model glm/glm-5.2-70b
Opción C: Producción. vLLM
1# NVIDIA2docker run --gpus all -p 8000:8000 vllm/vllm-openai:latest \3 --model glm/glm-5.2-70b --quantization awq45# AMD6docker run --device /dev/kfd --device /dev/dri \7 --group-add video --group-add render \8 --security-opt seccomp=unconfined \9 -p 8000:8000 rocm/vllm:latest \10 vllm serve glm/glm-5.2-70b --quantization awq
Parte 9: La Estrategia Híbrida. Lo Mejor de Ambos Mundos
1┌─────────────────────────────────────────────────────────────┐2│ ESTRATEGIA HÍBRIDA │3├─────────────────────────────────────────────────────────────┤4│ FRONTERA (nube) │ IA LOCAL │5│ ───────────────── │ ─────────────────── │6│ • Claude Opus 4.8 para │ • GLM-5.2 70B para │7│ tareas más difíciles │ codificación agentiva │8│ • GPT 5.5 para contexto │ (supera a GPT 5.5) │9│ largo (>1M) │ • Ornith 9B para │10│ • Tareas desconocidas │ autocompletado y ediciones │11│ │ diarias │12│ │ • Refactorización, pruebas, │13│ │ trabajo rutinario │14│ $200-500/mes │ $0 después de comprar HW │15└─────────────────────────────────────────────────────────────┘
La Regla 80/20:
- 80% de tus tareas - modelo local (GLM-5.2 70B o Ornith 9B)
- 20% más difíciles - escalada a la nube (Claude Opus 4.8, GPT 5.5)
- Ahorro: 60-80% vs enfoque puro de nube
Parte 10: Tabla de Decisión Final
Tú
Recomendación
Hardware
Presupuesto
Modelo
Estudiante / Junior
Empieza con Ollama en tu hardware actual
Lo que tengas
$
0
Ornith 9B
Desarrollador independiente
RX 7900 XTX + Ornith 9B/35B
GPU 24GB
$
900
Ornith 9B/35B
Startup (2-5 personas)
2x RTX 3090 NVLink o RTX 4090
48GB total
$
1,600-1,800
Ornith 35B, GLM-5.2 70B
Empresa / NDA
Mac M3 Ultra 192GB o Strix Halo 128GB
Memoria unificada
$
4,000-5,500
GLM-5.2 70B
Investigador de IA
RTX 5090 32GB + nube para frontera
32GB + nube
$
3,000 + suscripción
Híbrido
Paranoico de la privacidad
Strix Halo 128GB + Linux
Control total
$
4,000
GLM-5.2 70B
Conclusión
El modelo en la caja debajo de tu escritorio no puede ser estafado, no puede ser re-preciado, no puede ser retirado de debajo de ti. Es más lento, es menos inteligente que la frontera absoluta ➔ pero es tuyo. Para un número creciente de desarrolladores, esa última palabra es la que finalmente inclina la balanza
Sigue a @beamnxw para más información sobre modelos de frontera, IA local y lo que realmente importa
Recursos y Enlaces
Recurso
Enlace
GLM-5.2 Hugging Face
GLM-5.2 Benchmarks
Ornith-1.0 Hugging Face
Ornith-1.0 Benchmarks
https://ornith.site/benchmarks/
Blog de DeepReinforce
https://deep-reinforce.com/ornith_1_0.html
Ollama
llama.cpp
https://github.com/ggerganov/llama.cpp
vLLM
https://github.com/vllm-project/vllm
Guía AMD ROCm
https://localaimaster.com/blog/radeon-7900-xtx-local-ai
Aider (agente de codificación)
OpenCode (agente de codificación)
