Tek Bir GPU ile AI Kodlama Maliyetlerimi %93 Azalttım: Size 11.000 $ Tasarruf Ettirecek 2026 Yerel AI Kodlama Rehberi

TL;DR

• GLM-5.2 (744B) ➔ %73,33 Agentic Kodlama Ortalaması, GPT 5.5'i (%70,00) geçiyor. %62,1 SWE-Bench Pro, GPT 5.5'i (%58,6) geçiyor. MIT lisansı
• GLM-5.2 70B ➔ 128GB birleşik bellekte çalışır (Mac M4 Max / Strix Halo). %68,0 Agentic Kodlama Ortalaması
• Ornith-1.0 9B ➔ %69,4 SWE-Bench Verified, 6GB VRAM'li 900$'lık bir GPU'da çalışır. MIT lisansı
• Ornith-1.0 397B MoE ➔ %82,4 SWE-Bench Verified, Claude Opus 4.7'yi geçiyor
• Kendi Kendine İskele Kurma (Self-Scaffolding) ➔ Ornith, sabit kodlanmış kurallar yerine KENDİ görev orkestrasyonunu yazmayı öğrenir
• En iyi başlangıç donanımı: RX 7900 XTX 24GB ➔ 900$, buluta kıyasla 2 ayda kendini amorti eder
• En iyi profesyonel donanım: Mac M3 Ultra 192GB birleşik ➔ 5.500$, GLM-5.2 70B'yi Q8'de çalıştırır
• Yerel YZ = ani kapanma yok, hız sınırı yok, hükümet kapıları yok. Kodunuz binayı asla terk etmez

Bölüm 1: Bir Gecede Ortadan Kaybolan Aylık 500$'lık Sorun

YZ araçlarına ayda 500$ ödüyordum

Maliyetleri hesaplamaya karar verdim...

• Ayda 500$ × 24 ay = 12.000$
• 24GB VRAM'li ikinci el bir RX 7900 XTX 900$ tutuyor
• Ayda 30$ elektrikle bile 24 aylık toplam maliyet 1.620$

Bu %93'lük bir maliyet düşüşü. Peki çalıştırdığım model ne? Aşağıda anlatacağım :)

Bu, nasıl yaptığıma, hangi donanımı almanız gerektiğine ve yerel YZ'nin neden mantıklı bir hamle olduğuna dair eksiksiz bir rehberdir

Bölüm 2: GLM-5.2 - GPT 5.5'i Gerçekten Yenen Açık Kaynak Model (+Claude Fable 5'e Rakip)

Model

Agentic Kodlama Ort.

Terminal-Bench 2.1

SWE-Bench Pro

SWE-Bench Verified

Lisans

GLM-5.2 744B

73,33

81,0

62,1

%77,8

MIT

GLM-5.2 70B

68,0

72,0

55,0

—

MIT

Claude Opus 4.8

72,0

85,0

69,2

%87,6

Özel (ihracat kontrollü)

GPT 5.5

70,00

83,4

58,6

—

Özel

Claude Opus 4.7

68,0

70,3

64,3

%80,8

Özel

Ornith-1.0 397B

65,0

77,5

62,2

%82,4

MIT

DeepSeek V4-Pro

—

67,9

55,4

%80,6

Açık

Ornith-1.0 9B

42,0

43,1

42,9

%69,4

MIT

GLM-5.2'yi Özel Kılan Nedir?

Özellik

GLM-5.2

Tipik Sınır Modeli

Mimari

744B toplam / 40B aktif (MoE)

Yoğun veya özel

Bağlam penceresi

1 milyon token

1M-2M

Çoklu ortam

Metin, görsel, video, ses

Değişken

Lisans

MIT

Özel

Kendi kendine barındırılabilir

Evet

Hayır

İnce ayar yapılabilir

Evet

Hayır

Hükümet kapısı

Hayır

Evet (giderek artıyor)

GLM-5.2, Uzman Karışımı (Mixture-of-Experts - MoE) mimarisi kullanır: Toplam 744B parametre, ancak token başına yalnızca ~40B aktif olur. Bu, onu hem güçlü hem de (nispeten) verimli kılar. 1 milyon tokenlik bağlam penceresi, tüm kod tabanlarını, belgeleri ve konuşma geçmişini kısaltmadan besleyebileceğiniz anlamına gelir

Bölüm 3: Ornith-1.0

ORNITH-1.0

Kendi Kendine İskele Kurma (Self-Scaffolding) Nedir?

Geleneksel ajan:

1İnsan koşum yazar → YZ görevi çözer → Çıktı
2     (sabit)              (öğrenir)

Ornith Kendi Kendine İskele Kurma:

1YZ KENDİ koşumunu üretir → YZ görevi o koşumla çözer → Ödül → HEM koşumu HEM de çözümü günceller
2      (öğrenir)                      (öğrenir)                          (PG döngüsü)

Temel fark: Ornith-1.0'da model yalnızca görevleri çözmeyi değil, aynı zamanda onları çözme stratejisini yazmayı da öğrenir

Ödül korsanlığına karşı üç koruma katmanı:

1. Sabit ortam => model test dosyalarını sahteleyemez
2. Deterministik monitör => kural ihlallerini gerçek zamanlı olarak izler
3. Dondurulmuş YZ yargıcı => şüpheli çözümleri veto eden bağımsız yargıç

Ornith-1.0: Kendi Kilosunun Üstünde Yumruk Atan Küçük Model

Model

Parametre

SWE-Bench Verified

Terminal-Bench 2.1

VRAM (Q4)

En Uygun

Ornith-1.0 9B

9B Yoğun

%69,4

43,1

~6GB

Tüketici GPU'ları, günlük kodlama

Ornith-1.0 35B MoE

35B (~3B aktif)

%75,6

64,2

~22GB

Meraklı GPU'ları

Ornith-1.0 397B MoE

397B MoE

%82,4

77,5

~220GB

Kurumsal kümeler

Bölüm 5: Eksiksiz Donanım Rehberi. 900$'dan 5.500$'a

Kural #1: Bellek Her Şeye Karar Verir

Matematik basit:

• 1 milyar parametre başına ~0,5 GB VRAM (Q4 nicelemede)
• 32B model = sadece ağırlıklar için ~20 GB VRAM
• Bağlam penceresi aynı havuzdan yer kiralar — uzun bir pencere 10 GB yiyebilir

Gerçek iş için minimum eşik:

• 24 GB VRAM — giriş seviyesi (Ornith 9B, Llama 8B, Qwen 32B Q4, GLM-5.2 70B kısmi)
• 32+ GB VRAM — rahat seviye (Ornith 35B, Llama 70B Q4)
• 128+ GB birleşik bellek — meraklı (GLM-5.2 70B tam, istediğiniz her şey)

Donanım Karşılaştırması: Fiyat vs Performans

Donanım

VRAM

Fiyat (Temmuz 2026)

tok/s (Llama 3.1 8B Q4)

En Uygun

Uyarılar

RTX 3090 ikinci el

24GB

~

$

800

~110

Bütçe başlangıcı

İkinci el, FP8 yok, eski mimari

RX 7900 XTX

24GB

~

$

900

~119

En iyi fiyat/performans

ROCm ekosistemi, FP8 yok, CUDA'dan ~%30 yavaş

RTX 4090

24GB

~

$

1.800

~158

24GB'de maksimum hız

Pahalı, üretimi durduruldu

RTX 5090

32GB

~

$

3.000

~220

Geleceğe hazır

Çok pahalı

Mac M4 Max

128GB birleşik

~

$

3.500

~85

Sessiz çalışma, taşınabilirlik

GPU'dan yavaş, MLX ekosistemi

Strix Halo (Ryzen AI Max+ 395)

128GB birleşik

~

$

4.000

~95

Açık platform, ROCm

Yeni, az inceleme var

Mac M3 Ultra

192GB birleşik

~

$

5.500

~140

Maksimum birleşik bellek

En pahalısı

BÜTÇE ÖNERİLERİ

Bütçe 800-1.000$. Başlangıç Paketi:

1RX 7900 XTX 24GB — 900$
2+ Ornith-1.0 9B (Q4)

• Çalıştırır: Ornith 9B, Llama 3.1 8B, Qwen 3 32B Q4
• Buluta kıyasla kendini amorti etme süresi: Orta düzey kullanımda ~2 ay
• Şu anda yerel YZ'de en iyi değer

Bütçe 1.500-2.000$. Güç Kullanıcısı:

1RTX 4090 24GB — 1.800$
2+ Ornith-1.0 35B MoE (Q4)

• Çalıştırır: yukarıdakilerin tümü + Ornith 35B MoE, Llama 70B Q4
• Kendini amorti etme süresi: ~3,5 ay

Bütçe 3.500-5.500$. Kurumsal / GLM-5.2 Paketi:

1Mac M4 Max 128GB — 3.500$
2VEYA Strix Halo 128GB — 4.000$
3VEYA Mac M3 Ultra 192GB — 5.500$
4+ GLM-5.2 70B (Q4 veya Q8)

• Çalıştırır: GLM-5.2 70B tam, diğer her şey
• Bu, ajan kodlamada GPT 5.5'i yenen pakettir

Maliyet Karşılaştırması: Bulut vs Yerel (24 ay)

Senaryo

Bulut (24 ay)

Yerel (24 ay)

Tasarruf

Hafif kullanım (ayda 50$)

1.200$

RX 7900 XTX: 1.620$

-420$

Orta (ayda 200$)

4.800$

RX 7900 XTX: 1.620$

+3.180$

Yoğun (ayda 500$)

12.000$

RTX 4090: 2.520$

+9.480$

Kurumsal (ayda 1.000$)

24.000$

Mac M3 Ultra: 5.780$

+18.220$

ÇIKARIM: Orta düzey kullanımda yerel donanım 2-3 ayda kendini amorti eder. Yoğun kullanımda fark akıl almaz boyutlara ulaşır. %93'lük maliyet kesintim gerçek

Bölüm 6: Neyin Üzerinde Ne Çalışır? Tam Uyumluluk Matrisi

Model

Q4 VRAM

Q8 VRAM

24GB GPU

32GB GPU

128GB birleşik

192GB birleşik

Ornith-1.0 9B

~6GB

~11GB

SIĞAR

SIĞAR

SIĞAR

SIĞAR

Ornith-1.0 35B MoE

~22GB

~40GB

SIĞAR

SIĞAR

SIĞAR

SIĞAR

GLM-5.2 70B

~42GB

~80GB

HAYIR

~ KISMİ

SIĞAR

SIĞAR

GLM-5.2 744B

~450GB

~800GB

HAYIR

HAYIR

HAYIR

HAYIR

Llama 3.1 8B

~5GB

~9GB

SIĞAR

SIĞAR

SIĞAR

SIĞAR

Llama 3.3 70B

~42GB

~80GB

HAYIR

~ KISMİ

SIĞAR

SIĞAR

Qwen 3 32B

~20GB

~38GB

SIĞAR

SIĞAR

SIĞAR

SIĞAR

DeepSeek V4

~35GB

~65GB

~ KISMİ

~ KISMİ

SIĞAR

SIĞAR

📝

KURAL:

DÜŞÜK kalitede BÜYÜK bir model yerine, YÜKSEK kalitede KÜÇÜK bir model çalıştırın. Q8'de keskin bir 27B, Q4'te lobotomize edilmiş bir 70B'yi yener

Bölüm 7: Gerçek Dünya Çıkarım Hızı

Model

RTX 4090

RX 7900 XTX

Mac M4 Max

Strix Halo

Konfor

Ornith 9B Q4

180

145

95

105

Mükemmel

Ornith 35B Q4

65

52

35

38

İyi

GLM-5.2 70B Q4

28

22

15

18

Yavaş ama kullanılabilir

GLM-5.2 744B Q4

8

6

4

5

Sadece kurumsal

Llama 3.1 8B Q4

158

119

85

95

Mükemmel

Qwen 3 32B Q4

42

33

22

28

Kabul edilebilir

KONFOR EŞİĞİ: 30 tok/s - akıcı çalışma için minimum. 100+ tok/s - ideal. RTX 4090'da GLM-5.2 70B'nin 28 tok/s olması yavaş ama ciddi görevler için kullanılabilir. Günlük kodlama için 180 tok/s'de Ornith 9B tereyağı gibi akıcı

Bölüm 8: Nasıl Kurulur? Eksiksiz Yığın

Üç Bileşen

1┌─────────────────┐     ┌─────────────────┐     ┌─────────────────┐
2│   1. MOTOR      │────→│  2. KOŞUM      │────→│  3. DÜZENLEYİCİ │
3│  (modeli çalıştırır)│  │  (modele beden  │  │  (VS Code,       │
4│                 │     │   verir)        │     │   Cursor, vb.)  │
5│  Ollama,        │     │  Aider,         │     │                 │
6│  llama.cpp,     │     │  OpenCode,      │     │  localhost'a    │
7│  vLLM           │     │  OpenHands      │     │  bağlanır      │
8└─────────────────┘     └─────────────────┘     └─────────────────┘

Seçenek A: Hızlı Başlangıç. Ollama'da Ornith-1.0 9B (5 dakika)

Adım 1: Ollama'yı Kurun

1# Linux/macOS
2curl -fsSL https://ollama.com/install.sh | sh
3
4# Windows — ollama.com'dan indirin

Adım 2: Ornith-1.0'ı Çalıştırın

1# 9B modelini indirin ve çalıştırın
2ollama run ornith:9b
3
4# Veya 35B MoE (24GB+ VRAM gerektirir)
5ollama run ornith:35b

Adım 3: GPU Kullanımını Doğrulayın

1# Linux (AMD)
2rocm-smi
3
4# Linux (NVIDIA)
5nvidia-smi
6
7# macOS
8ollama ps

Adım 4: Düzenleyicinizi Bağlayın

• VS Code: "Continue" eklentisini kurun → http://localhost:11434
• Cursor: Ayarlar → AI Sağlayıcı → Ollama → http://localhost:11434
• Aider: aider --model ollama/ornith:9b

Seçenek B: İleri Düzey. llama.cpp ile GLM-5.2

NVIDIA (CUDA) için:

1git clone https://github.com/ggerganov/llama.cpp
2cd llama.cpp
3cmake -B build -DGGML_CUDA=ON
4cmake --build build -j
5
6# GLM-5.2 70B Q4'ü çalıştırın
7./build/bin/llama-server \
8    -m glm-5.2-70b-q4.gguf \
9    -ngl 999 \
10    -c 32768 \
11    --host 0.0.0.0 \
12    --port 8080

AMD (ROCm 7.x) için:

1# ROCm'yi kurun
2wget https://repo.radeon.com/amdgpu-install/latest/ubuntu/jammy/amdgpu-install_latest_all.deb
3sudo apt install ./amdgpu-install_latest_all.deb
4sudo amdgpu-install --usecase=rocm,hiplibsdk -y
5sudo usermod -aG render,video $USER
6sudo reboot
7
8# HIP ile llama.cpp
9git clone https://github.com/ggerganov/llama.cpp
10cd llama.cpp
11HIPCXX="$(hipconfig -l)/clang" \
12HIP_PATH="$(hipconfig -R)" \
13cmake -B build -DGGML_HIP=ON -DAMDGPU_TARGETS=gfx1100
14cmake --build build -j
15
16# Çalıştırın
17./build/bin/llama-server -m glm-5.2-70b-q4.gguf -ngl 999 -fa

Apple Silicon (MLX) için:

1pip install mlx-lm
2
3# GLM-5.2'yi çalıştırın
4python -m mlx_lm.server --model glm/glm-5.2-70b

Seçenek C: Üretim. vLLM

1# NVIDIA
2docker run --gpus all -p 8000:8000 vllm/vllm-openai:latest \
3    --model glm/glm-5.2-70b --quantization awq
4
5# AMD
6docker run --device /dev/kfd --device /dev/dri \
7    --group-add video --group-add render \
8    --security-opt seccomp=unconfined \
9    -p 8000:8000 rocm/vllm:latest \
10    vllm serve glm/glm-5.2-70b --quantization awq

Bölüm 9: Hibrit Strateji. İki Dünyanın En İyisi

1┌─────────────────────────────────────────────────────────────┐
2│                    HİBRİT STRATEJİ                          │
3├─────────────────────────────────────────────────────────────┤
4│  SINIR (bulut)               │  YEREL YZ                   │
5│  ─────────────────           │  ───────────────────         │
6│  • En zor görevler için      │  • Ajan kodlama için        │
7│    Claude Opus 4.8           │    GLM-5.2 70B              │
8│  • Uzun bağlam (>1M) için    │    (GPT 5.5'i yener)       │
9│    GPT 5.5                   │  • Günlük otomatik          │
10│  • Bilinmeyen görevler       │    tamamlama ve düzenlemeler │
11│                              │    için Ornith 9B           │
12│                              │  • Yeniden düzenleme,       │
13│                              │    testler, rutin işler     │
14│  Ayda 200-500$               │  Donanım satın alındıktan   │
15│                              │  sonra 0$                  │
16└─────────────────────────────────────────────────────────────┘

80/20 Kuralı:

• Görevlerinizin %80'i - yerel model (GLM-5.2 70B veya Ornith 9B)
• En zor %20'si - buluta yükseltme (Claude Opus 4.8, GPT 5.5)
• Tasarruf: Saf bulut yaklaşımına kıyasla %60-80

Bölüm 10: Nihai Karar Tablosu

Siz

Öneri

Donanım

Bütçe

Model

Öğrenci / Stajyer

Mevcut donanımda Ollama ile başlayın

Neyiniz varsa

0$

Ornith 9B

Bağımsız geliştirici

RX 7900 XTX + Ornith 9B/35B

24GB GPU

900$

Ornith 9B/35B

Startup (2-5 kişi)

2x RTX 3090 NVLink veya RTX 4090

Toplam 48GB

1.600-1.800$

Ornith 35B, GLM-5.2 70B

Kurumsal / Gizlilik Sözleşmesi

Mac M3 Ultra 192GB veya Strix Halo 128GB

Birleşik bellek

4.000-5.500$

GLM-5.2 70B

YZ Araştırmacısı

RTX 5090 32GB + sınır için bulut

32GB + bulut

3.000$ + abonelik

Hibrit

Gizlilik takıntılısı

Strix Halo 128GB + Linux

Tam kontrol

4.000$

GLM-5.2 70B

Sonuç

Masanızın altındaki kutudaki model aniden kapatılamaz, fiyatı değiştirilemez, elinizden alınamaz. Daha yavaştır, mutlak sınırdan daha az zekidir ➔ ama sizindir. Giderek artan sayıda geliştirici için, işte bu son kelime, teraziyi nihayet dengeleyen şeydir

Sınır modelleri, yerel YZ ve gerçekten önemli olan konularda daha fazla bilgi için @beamnxw'i takip edin

Kaynaklar ve Bağlantılar

Kaynak

Bağlantı

GLM-5.2 Hugging Face

https://huggingface.co/glm

GLM-5.2 Kıyaslamaları

https://glm.ai/benchmarks

Ornith-1.0 Hugging Face

https://huggingface.co/ornith

Ornith-1.0 Kıyaslamaları

https://ornith.site/benchmarks/

DeepReinforce Blog

https://deep-reinforce.com/ornith_1_0.html

Ollama

https://ollama.com

llama.cpp

https://github.com/ggerganov/llama.cpp

vLLM

https://github.com/vllm-project/vllm

AMD ROCm Rehberi

https://localaimaster.com/blog/radeon-7900-xtx-local-ai

Aider (kodlama ajanı)

https://aider.chat

OpenCode (kodlama ajanı)

https://opencode.ai