TL;DR
- GLM-5.2 (744B) ➔ 73,33 % de moyenne en codage agentique, bat GPT 5.5 (70,00). 62,1 % sur SWE-Bench Pro, bat GPT 5.5 (58,6 %). Licence MIT
- GLM-5.2 70B ➔ fonctionne sur 128 Go de mémoire unifiée (Mac M4 Max / Strix Halo). 68,0 % de moyenne en codage agentique
- Ornith-1.0 9B ➔ 69,4 % sur SWE-Bench Verified, fonctionne sur un GPU à 900 $ avec 6 Go de VRAM. Licence MIT
- Ornith-1.0 397B MoE ➔ 82,4 % sur SWE-Bench Verified, bat Claude Opus 4.7
- Auto-échafaudage ➔ Ornith apprend à écrire SA PROPRE orchestration de tâches, pas de règles codées en dur
- Meilleur matériel de démarrage : RX 7900 XTX 24 Go ➔ 900 $, rentabilisé en 2 mois par rapport au cloud
- Meilleur matériel pro : Mac M3 Ultra 192 Go unifié ➔ 5 500 $, fait tourner GLM-5.2 70B en Q8
- IA locale = pas de retrait de service, pas de limites de taux, pas de blocages gouvernementaux. Votre code ne quitte jamais le bâtiment
Partie 1 : Le problème à 500 $/mois qui a disparu du jour au lendemain
Je payais 500 $ par mois pour des outils d'IA
J'ai décidé de calculer les coûts...
- 500 $/mois × 24 mois = 12 000 $
- Une RX 7900 XTX d'occasion avec 24 Go de VRAM coûte 900 $
- Même avec 30 $/mois d'électricité, le total sur 24 mois est de 1 620 $
C'est une réduction de coût de 93 %. Et le modèle que j'utilise ? Je vous le dis plus bas :)
Ceci est le guide complet pour savoir comment j'ai fait, quel matériel acheter, et pourquoi l'IA locale est le choix rationnel
Partie 2 : GLM-5.2 - Le modèle open-source qui a réellement battu GPT 5.5 (+ rivalise avec Claude Fable 5)
Modèle
Moyenne Codage Agentique
Terminal-Bench 2.1
SWE-Bench Pro
SWE-Bench Verified
Licence
GLM-5.2 744B
73,33
81,0
62,1
77,8 %
MIT
GLM-5.2 70B
68,0
72,0
55,0
—
MIT
Claude Opus 4.8
72,0
85,0
69,2
87,6 %
Propriétaire (contrôle à l'export)
GPT 5.5
70,00
83,4
58,6
—
Propriétaire
Claude Opus 4.7
68,0
70,3
64,3
80,8 %
Propriétaire
Ornith-1.0 397B
65,0
77,5
62,2
82,4 %
MIT
DeepSeek V4-Pro
—
67,9
55,4
80,6 %
Ouvert
Ornith-1.0 9B
42,0
43,1
42,9
69,4 %
MIT
Ce qui rend GLM-5.2 spécial
Fonctionnalité
GLM-5.2
Frontière typique
Architecture
744B total / 40B actifs (MoE)
Dense ou propriétaire
Fenêtre de contexte
1 million de tokens
1M-2M
Multimodal
Texte, image, vidéo, audio
Variable
Licence
MIT
Propriétaire
Auto-hébergeable
Oui
Non
Ajustable (fine-tuning)
Oui
Non
Blocage gouvernemental
Non
Oui (de plus en plus)
GLM-5.2 utilise une architecture Mixture-of-Experts (MoE) : 744B paramètres au total, mais seulement ~40B s'activent par token. Cela le rend à la fois puissant et (relativement) efficace. La fenêtre de contexte d'1 million de tokens signifie que vous pouvez lui fournir des codebases entières, de la documentation et un historique de conversation sans troncature
Partie 3 : Ornith-1.0
ORNITH-1.0
Qu'est-ce que l'auto-échafaudage ?
Agent traditionnel :
1Humain écrit le harnais → LLM résout la tâche → Sortie2 (fixe) (apprend)
Auto-échafaudage Ornith :
1Le LLM génère SON PROPRE harnais → LLM résout la tâche avec ce harnais → Récompense → Met à jour LE harnais ET la solution2 (apprend) (apprend) (boucle RL)
La différence clé : Dans Ornith-1.0, le modèle apprend non seulement à résoudre des tâches mais aussi à écrire la stratégie pour les résoudre
Trois couches de protection contre le piratage des récompenses :
- Environnement fixe => le modèle ne peut pas falsifier les fichiers de test
- Moniteur déterministe => suit les violations de règles en temps réel
- Juge LLM gelé => juge indépendant qui oppose son veto aux solutions suspectes
Ornith-1.0 : Le petit modèle qui dépasse son poids
Modèle
Paramètres
SWE-Bench Verified
Terminal-Bench 2.1
VRAM (Q4)
Meilleur pour
Ornith-1.0 9B
9B Dense
69,4 %
43,1
~6 Go
GPU grand public, codage quotidien
Ornith-1.0 35B MoE
35B (~3B actifs)
75,6 %
64,2
~22 Go
GPU passionné
Ornith-1.0 397B MoE
397B MoE
82,4 %
77,5
~220 Go
Clusters d'entreprise
Partie 5 : Le guide matériel complet. De 900 $ à 5 500 $
Règle n°1 : La mémoire décide de tout
Le calcul est simple :
- ~0,5 Go de VRAM par milliard de paramètres (en quantification Q4)
- Modèle 32B = ~20 Go de VRAM rien que pour les poids
- Fenêtre de contexte loue de l'espace dans le même pool — une longue peut consommer 10 Go
Seuil minimum pour un vrai travail :
- 24 Go de VRAM — niveau d'entrée (Ornith 9B, Llama 8B, Qwen 32B Q4, GLM-5.2 70B partiel)
- 32+ Go de VRAM — niveau confortable (Ornith 35B, Llama 70B Q4)
- 128+ Go de mémoire unifiée — passionné (GLM-5.2 70B complet, tout ce que vous voulez)
Comparaison matérielle : Prix vs Performances
Matériel
VRAM
Prix (juillet 2026)
tok/s (Llama 3.1 8B Q4)
Meilleur pour
Inconvénients
RTX 3090 d'occasion
24 Go
~
$
800
~110
Démarrage économique
Occasion, pas de FP8, architecture ancienne
RX 7900 XTX
24 Go
~
$
900
~119
Meilleur rapport qualité/prix
Écosystème ROCm, pas de FP8, ~30 % plus lent que CUDA
RTX 4090
24 Go
~
$
1 800
~158
Vitesse max sur 24 Go
Cher, hors production
RTX 5090
32 Go
~
$
3 000
~220
Preuve d'avenir
Très cher
Mac M4 Max
128 Go unifié
~
$
3 500
~85
Fonctionnement silencieux, mobilité
Plus lent que GPU, écosystème MLX
Strix Halo (Ryzen AI Max+ 395)
128 Go unifié
~
$
4 000
~95
Plateforme ouverte, ROCm
Nouveau, peu d'avis
Mac M3 Ultra
192 Go unifié
~
$
5 500
~140
Mémoire unifiée maximale
Le plus cher
RECOMMANDATIONS BUDGÉTAIRES
Budget 800-1 000 $. La configuration de démarrage :
1RX 7900 XTX 24 Go — 900 $2+ Ornith-1.0 9B (Q4)
- Fait tourner : Ornith 9B, Llama 3.1 8B, Qwen 3 32B Q4
- Rentabilisé par rapport au cloud : ~2 mois en utilisation modérée
- Meilleur rapport qualité-prix en IA locale actuellement
Budget 1 500-2 000 $. L'utilisateur avancé :
1RTX 4090 24 Go — 1 800 $2+ Ornith-1.0 35B MoE (Q4)
- Fait tourner : tout ce qui précède + Ornith 35B MoE, Llama 70B Q4
- Rentabilisé : ~3,5 mois
Budget 3 500-5 500 $. La configuration Entreprise / GLM-5.2 :
1Mac M4 Max 128 Go — 3 500 $2OU Strix Halo 128 Go — 4 000 $3OU Mac M3 Ultra 192 Go — 5 500 $4+ GLM-5.2 70B (Q4 ou Q8)
- Fait tourner : GLM-5.2 70B complet, tout le reste
- C'est la configuration qui bat GPT 5.5 en codage agentique
Comparaison des coûts : Cloud vs Local (24 mois)
Scénario
Cloud (24 mois)
Local (24 mois)
Économies
Utilisation légère (50 $/mois)
1 200 $
RX 7900 XTX : 1 620 $
-420 $
Modérée (200 $/mois)
4 800 $
RX 7900 XTX : 1 620 $
+3 180 $
Intensive (500 $/mois)
12 000 $
RTX 4090 : 2 520 $
+9 480 $
Entreprise (1 000 $/mois)
24 000 $
Mac M3 Ultra : 5 780 $
+18 220 $
À RETENIR : En utilisation modérée, le matériel local est rentabilisé en 2-3 mois. En utilisation intensive, la différence est stupéfiante. Ma réduction de 93 % est bien réelle
Partie 6 : Qu'est-ce qui tourne sur quoi ? La matrice de compatibilité complète
Modèle
VRAM Q4
VRAM Q8
GPU 24 Go
GPU 32 Go
128 Go unifié
192 Go unifié
Ornith-1.0 9B
~6 Go
~11 Go
TIENT
TIENT
TIENT
TIENT
Ornith-1.0 35B MoE
~22 Go
~40 Go
TIENT
TIENT
TIENT
TIENT
GLM-5.2 70B
~42 Go
~80 Go
NON
~ PARTIEL
TIENT
TIENT
GLM-5.2 744B
~450 Go
~800 Go
NON
NON
NON
NON
Llama 3.1 8B
~5 Go
~9 Go
TIENT
TIENT
TIENT
TIENT
Llama 3.3 70B
~42 Go
~80 Go
NON
~ PARTIEL
TIENT
TIENT
Qwen 3 32B
~20 Go
~38 Go
TIENT
TIENT
TIENT
TIENT
DeepSeek V4
~35 Go
~65 Go
~ PARTIEL
~ PARTIEL
TIENT
TIENT
📝
RÈGLE :
Faites tourner un modèle PLUS PETIT en HAUTE qualité, pas un
PLUS GRAND
modèle en
BASSE
qualité. Un 27B net en Q8 bat un 70B lobotomisé en Q4
Partie 7 : Vitesse d'inférence réelle
Modèle
RTX 4090
RX 7900 XTX
Mac M4 Max
Strix Halo
Confort
Ornith 9B Q4
180
145
95
105
Excellent
Ornith 35B Q4
65
52
35
38
Bon
GLM-5.2 70B Q4
28
22
15
18
Lent mais utilisable
GLM-5.2 744B Q4
8
6
4
5
Entreprise uniquement
Llama 3.1 8B Q4
158
119
85
95
Excellent
Qwen 3 32B Q4
42
33
22
28
Acceptable
SEUIL DE CONFORT : 30 tok/s - minimum pour un travail fluide. 100+ tok/s - idéal. GLM-5.2 70B à 28 tok/s sur RTX 4090 est lent mais utilisable pour des tâches sérieuses. Pour le codage quotidien, Ornith 9B à 180 tok/s est parfaitement fluide
Partie 8 : Comment configurer le tout. La pile complète
Trois composants
1┌─────────────────┐ ┌─────────────────┐ ┌─────────────────┐2│ 1. MOTEUR │────→│ 2. HARNAIS │────→│ 3. ÉDITEUR │3│ (fait tourner │ │ (donne un │ │ (VS Code, │4│ le modèle) │ │ corps au │ │ Cursor, etc) │5│ │ │ modèle) │ │ │6│ Ollama, │ │ Aider, │ │ Connectez-vous │7│ llama.cpp, │ │ OpenCode, │ │ à localhost │8│ vLLM │ │ OpenHands │ │ │9└─────────────────┘ └─────────────────┘ └─────────────────┘
Option A : Démarrage rapide. Ornith-1.0 9B sur Ollama (5 minutes)
Étape 1 : Installer Ollama
1# Linux/macOS2curl -fsSL https://ollama.com/install.sh | sh34# Windows — télécharger depuis ollama.com
Étape 2 : Lancer Ornith-1.0
1# Télécharger et lancer le modèle 9B2ollama run ornith:9b34# Ou 35B MoE (nécessite 24 Go+ de VRAM)5ollama run ornith:35b
Étape 3 : Vérifier l'utilisation du GPU
1# Linux (AMD)2rocm-smi34# Linux (NVIDIA)5nvidia-smi67# macOS8ollama ps
Étape 4 : Connecter votre éditeur
- VS Code : installer "Continue" → http://localhost:11434
- Cursor : Paramètres → AI Provider → Ollama → http://localhost:11434
- Aider : aider --model ollama/ornith:9b
Option B : Avancé. GLM-5.2 avec llama.cpp
Pour NVIDIA (CUDA) :
1git clone https://github.com/ggerganov/llama.cpp2cd llama.cpp3cmake -B build -DGGML_CUDA=ON4cmake --build build -j56# Lancer GLM-5.2 70B Q47./build/bin/llama-server \8 -m glm-5.2-70b-q4.gguf \9 -ngl 999 \10 -c 32768 \11 --host 0.0.0.0 \12 --port 8080
Pour AMD (ROCm 7.x) :
1# Installer ROCm2wget https://repo.radeon.com/amdgpu-install/latest/ubuntu/jammy/amdgpu-install_latest_all.deb3sudo apt install ./amdgpu-install_latest_all.deb4sudo amdgpu-install --usecase=rocm,hiplibsdk -y5sudo usermod -aG render,video $USER6sudo reboot78# llama.cpp avec HIP9git clone https://github.com/ggerganov/llama.cpp10cd llama.cpp11HIPCXX="$(hipconfig -l)/clang" \12HIP_PATH="$(hipconfig -R)" \13cmake -B build -DGGML_HIP=ON -DAMDGPU_TARGETS=gfx110014cmake --build build -j1516# Lancer17./build/bin/llama-server -m glm-5.2-70b-q4.gguf -ngl 999 -fa
Pour Apple Silicon (MLX) :
1pip install mlx-lm23# Lancer GLM-5.24python -m mlx_lm.server --model glm/glm-5.2-70b
Option C : Production. vLLM
1# NVIDIA2docker run --gpus all -p 8000:8000 vllm/vllm-openai:latest \3 --model glm/glm-5.2-70b --quantization awq45# AMD6docker run --device /dev/kfd --device /dev/dri \7 --group-add video --group-add render \8 --security-opt seccomp=unconfined \9 -p 8000:8000 rocm/vllm:latest \10 vllm serve glm/glm-5.2-70b --quantization awq
Partie 9 : La stratégie hybride. Le meilleur des deux mondes
1┌─────────────────────────────────────────────────────────────┐2│ STRATÉGIE HYBRIDE │3├─────────────────────────────────────────────────────────────┤4│ FRONTIÈRE (cloud) │ IA LOCALE │5│ ───────────────── │ ─────────────────── │6│ • Claude Opus 4.8 pour │ • GLM-5.2 70B pour le │7│ les tâches les plus │ codage agentique (bat │8│ difficiles │ GPT 5.5) │9│ • GPT 5.5 pour les longs │ • Ornith 9B pour │10│ contextes (>1M) │ l'autocomplétion et les │11│ • Tâches inconnues │ modifications quotidiennes │12│ │ • Refactorisation, tests, │13│ │ travail de routine │14│ 200-500 $/mois │ 0 $ après achat du matériel │15└─────────────────────────────────────────────────────────────┘
La règle des 80/20 :
- 80 % de vos tâches - modèle local (GLM-5.2 70B ou Ornith 9B)
- 20 % les plus difficiles - escalade vers le cloud (Claude Opus 4.8, GPT 5.5)
- Économies : 60-80 % par rapport à une approche 100 % cloud
Partie 10 : Tableau de décision final
Vous
Recommandation
Matériel
Budget
Modèle
Étudiant / Junior
Commencez avec Ollama sur le matériel existant
Ce que vous avez
0 $
Ornith 9B
Développeur indépendant
RX 7900 XTX + Ornith 9B/35B
GPU 24 Go
900 $
Ornith 9B/35B
Startup (2-5 personnes)
2x RTX 3090 NVLink ou RTX 4090
48 Go total
1 600-1 800 $
Ornith 35B, GLM-5.2 70B
Entreprise / NDA
Mac M3 Ultra 192 Go ou Strix Halo 128 Go
Mémoire unifiée
4 000-5 500 $
GLM-5.2 70B
Chercheur en IA
RTX 5090 32 Go + cloud pour la frontière
32 Go + cloud
3 000 $ + abonnement
Hybride
Paranoïaque de la vie privée
Strix Halo 128 Go + Linux
Contrôle total
4 000 $
GLM-5.2 70B
Conclusion
Le modèle dans la boîte sous votre bureau ne peut pas être retiré, ne peut pas être revalorisé, ne peut pas être mis à la retraite à votre insu. Il est plus lent, il est moins intelligent que la frontière absolue ➔ mais il est à vous. Pour un nombre croissant de développeurs, ce dernier mot est celui qui fait finalement pencher la balance
Suivez @beamnxw pour plus d'infos sur les modèles de pointe, l'IA locale et ce qui compte vraiment
Ressources et liens
Ressource
Lien
GLM-5.2 Hugging Face
Benchmarks GLM-5.2
Ornith-1.0 Hugging Face
Benchmarks Ornith-1.0
https://ornith.site/benchmarks/
Blog DeepReinforce
https://deep-reinforce.com/ornith_1_0.html
Ollama
llama.cpp
https://github.com/ggerganov/llama.cpp
vLLM
https://github.com/vllm-project/vllm
Guide AMD ROCm
https://localaimaster.com/blog/radeon-7900-xtx-local-ai
Aider (agent de codage)
OpenCode (agent de codage)
