TL;DR
- GLM-5.2 (744B) ➔ 73.33% Agentic Coding 平均、GPT 5.5 (70.00) を上回る。SWE-Bench Pro 62.1%、GPT 5.5 (58.6%) を上回る。MIT ライセンス
- GLM-5.2 70B ➔ 128GB ユニファイドメモリ（Mac M4 Max / Strix Halo）で動作。Agentic Coding 平均 68.0%
- Ornith-1.0 9B ➔ SWE-Bench Verified 69.4%、6GB VRAM の $900 GPU で動作。MIT ライセンス
- Ornith-1.0 397B MoE ➔ SWE-Bench Verified 82.4%、Claude Opus 4.7 を上回る
- Self-Scaffolding ➔ Ornith はハードコードされたルールではなく、独自のタスクオーケストレーションを記述することを学習
- 最適な入門ハードウェア: RX 7900 XTX 24GB ➔ $900、クラウド利用と比較して 2 ヶ月で元が取れる
- 最適なプロ向けハードウェア: Mac M3 Ultra 192GB ユニファイド ➔ $5,500、GLM-5.2 70B を Q8 で実行可能
- ローカル AI = 突然のサービス終了なし、レート制限なし、政府の規制なし。コードが外部に漏れることはない
パート 1: 月額 $500 の問題が一夜で消えた話
私は AI ツールに毎月 $500 を支払っていた
コストを計算してみることにした…
- 月額 $500 × 24 ヶ月 = $12,000
- 中古の RX 7900 XTX（24GB VRAM）の価格は $900
- 電気代が 月額 $30 かかっても、24 ヶ月の総額は $1,620
これは 93% のコスト削減だ。そして私が実行しているモデルは？ 以下でお伝えします :)
これが、私がどのように実現したか、どのハードウェアを買うべきか、そしてローカル AI が合理的な選択である理由の完全ガイドです
パート 2: GLM-5.2 - GPT 5.5 に実際に勝ったオープンソースモデル（+ Claude Fable 5 にも匹敵）
モデル
Agentic Coding 平均
Terminal-Bench 2.1
SWE-Bench Pro
SWE-Bench Verified
ライセンス
GLM-5.2 744B
73.33
81.0
62.1
77.8%
MIT
GLM-5.2 70B
68.0
72.0
55.0
—
MIT
Claude Opus 4.8
72.0
85.0
69.2
87.6%
プロプライエタリ（輸出規制対象）
GPT 5.5
70.00
83.4
58.6
—
プロプライエタリ
Claude Opus 4.7
68.0
70.3
64.3
80.8%
プロプライエタリ
Ornith-1.0 397B
65.0
77.5
62.2
82.4%
MIT
DeepSeek V4-Pro
—
67.9
55.4
80.6%
オープン
Ornith-1.0 9B
42.0
43.1
42.9
69.4%
MIT
GLM-5.2 の特長
機能
GLM-5.2
一般的なフロンティアモデル
アーキテクチャ
744B 総パラメータ / 40B アクティブ（MoE）
Dense またはプロプライエタリ
コンテキストウィンドウ
100 万トークン
100 万～200 万トークン
マルチモーダル
テキスト、画像、動画、音声
モデルによる
ライセンス
MIT
プロプライエタリ
セルフホスト可能
はい
いいえ
ファインチューニング可能
はい
いいえ
政府の規制
なし
あり（増加傾向）
GLM-5.2 は Mixture-of-Experts（MoE） アーキテクチャを採用：総パラメータ数 744B だが、トークンあたり約 40B のみが活性化する。これにより、高性能と（比較的）効率性を両立している。100 万トークンのコンテキストウィンドウにより、コードベース全体、ドキュメント、会話履歴を切り詰めることなくモデルに与えることができる
パート 3: Ornith-1.0
ORNITH-1.0
Self-Scaffolding とは？
従来のエージェント:
1人間がハーネスを記述 → LLM がタスクを解決 → 出力2 （固定） （学習）
Ornith Self-Scaffolding:
1LLM が独自のハーネスを生成 → そのハーネスでタスクを解決 → 報酬 → ハーネスと解決策の両方を更新2 （学習） （学習） （RL ループ）
重要な違い: Ornith-1.0 では、モデルはタスクを解決する方法だけでなく、タスクを解決するための戦略を記述することも学習する
報酬ハッキングに対する 3 層の防御:
- 固定環境 => モデルはテストファイルを偽装できない
- 決定論的モニター => ルール違反をリアルタイムで追跡
- 凍結された LLM 判定者 => 疑わしい解決策を拒否する独立した判定者
Ornith-1.0: 小さなモデルが大きな成果を上げる
モデル
パラメータ数
SWE-Bench Verified
Terminal-Bench 2.1
VRAM（Q4）
最適な用途
Ornith-1.0 9B
9B Dense
69.4%
43.1
約 6GB
コンシューマー GPU、日常的なコーディング
Ornith-1.0 35B MoE
35B（約 3B アクティブ）
75.6%
64.2
約 22GB
エンスージアスト GPU
Ornith-1.0 397B MoE
397B MoE
82.4%
77.5
約 220GB
エンタープライズクラスター
パート 5: 完全ハードウェアガイド。$900 から $5,500 まで
ルール #1: メモリがすべてを決める
計算はシンプル:
- パラメータ 10 億あたり約 0.5 GB VRAM（Q4 量子化時）
- 32B モデル = 重みだけで約 20 GB VRAM
- コンテキストウィンドウ は同じプールからメモリを消費 — 長いコンテキストは 10 GB を消費することも
実用的な作業の最低要件:
- 24 GB VRAM — エントリーレベル（Ornith 9B、Llama 8B、Qwen 32B Q4、GLM-5.2 70B 部分）
- 32+ GB VRAM — 快適レベル（Ornith 35B、Llama 70B Q4）
- 128+ GB ユニファイドメモリ — エンスージアスト（GLM-5.2 70B フル、その他何でも）
ハードウェア比較: 価格 vs パフォーマンス
ハードウェア
VRAM
価格（2026 年 7 月）
tok/s（Llama 3.1 8B Q4）
最適な用途
注意点
RTX 3090 中古
24GB
約 $800
約 110
予算重視のスタート
中古品、FP8 非対応、旧アーキテクチャ
RX 7900 XTX
24GB
約 $900
約 119
最高のコストパフォーマンス
ROCm エコシステム、FP8 非対応、CUDA 比約 30% 低速
RTX 4090
24GB
約 $1,800
約 158
24GB での最高速度
高価、生産終了
RTX 5090
32GB
約 $3,000
約 220
将来性
非常に高価
Mac M4 Max
128GB ユニファイド
約 $3,500
約 85
静音動作、モビリティ
GPU より低速、MLX エコシステム
Strix Halo（Ryzen AI Max+ 395）
128GB ユニファイド
約 $4,000
約 95
オープンプラットフォーム、ROCm
新製品、レビュー少
Mac M3 Ultra
192GB ユニファイド
約 $5,500
約 140
最大ユニファイドメモリ
最も高価
予算別おすすめ
予算 $800～1,000。スターター構成:
1RX 7900 XTX 24GB — $9002+ Ornith-1.0 9B（Q4）
- 実行可能: Ornith 9B、Llama 3.1 8B、Qwen 3 32B Q4
- クラウド比較での元が取れる期間: 中程度の使用で約 2 ヶ月
- 現在のローカル AI における最高のコストパフォーマンス
予算 $1,500～2,000。パワーユーザー:
1RTX 4090 24GB — $1,8002+ Ornith-1.0 35B MoE（Q4）
- 実行可能: 上記すべて + Ornith 35B MoE、Llama 70B Q4
- 元が取れる期間: 約 3.5 ヶ月
予算 $3,500～5,500。エンタープライズ / GLM-5.2 構成:
1Mac M4 Max 128GB — $3,5002または Strix Halo 128GB — $4,0003または Mac M3 Ultra 192GB — $5,5004+ GLM-5.2 70B（Q4 または Q8）
- 実行可能: GLM-5.2 70B フル、その他すべて
- この構成がエージェンティックコーディングで GPT 5.5 を上回る
コスト比較: クラウド vs ローカル（24 ヶ月）
シナリオ
クラウド（24 ヶ月）
ローカル（24 ヶ月）
節約額
軽度利用（月額 $50）
$1,200
RX 7900 XTX: $1,620
-$420
中程度利用（月額 $200）
$4,800
RX 7900 XTX: $1,620
+$3,180
ヘビー利用（月額 $500）
$12,000
RTX 4090: $2,520
+$9,480
エンタープライズ（月額 $1,000）
$24,000
Mac M3 Ultra: $5,780
+$18,220
結論: 中程度の利用では、ローカルハードウェアは 2～3 ヶ月で元が取れる。ヘビー利用では、その差は驚くべきものだ。私の 93% のコスト削減は現実のものだ
パート 6: 何が何で動くか？ 完全互換性マトリックス
モデル
Q4 VRAM
Q8 VRAM
24GB GPU
32GB GPU
128GB ユニファイド
192GB ユニファイド
Ornith-1.0 9B
約 6GB
約 11GB
対応
対応
対応
対応
Ornith-1.0 35B MoE
約 22GB
約 40GB
対応
対応
対応
対応
GLM-5.2 70B
約 42GB
約 80GB
不可
〜 部分的
対応
対応
GLM-5.2 744B
約 450GB
約 800GB
不可
不可
不可
不可
Llama 3.1 8B
約 5GB
約 9GB
対応
対応
対応
対応
Llama 3.3 70B
約 42GB
約 80GB
不可
〜 部分的
対応
対応
Qwen 3 32B
約 20GB
約 38GB
対応
対応
対応
対応
DeepSeek V4
約 35GB
約 65GB
〜 部分的
〜 部分的
対応
対応
📝
ルール:
低品質の大きなモデルを動かすよりも、高品質の小さなモデルを動かせ。シャープな 27B（Q8）は、ロボトミー化された 70B（Q4）に勝る
パート 7: 実世界の推論速度
モデル
RTX 4090
RX 7900 XTX
Mac M4 Max
Strix Halo
快適さ
Ornith 9B Q4
180
145
95
105
優れている
Ornith 35B Q4
65
52
35
38
良好
GLM-5.2 70B Q4
28
22
15
18
遅いが使用可能
GLM-5.2 744B Q4
8
6
4
5
エンタープライズのみ
Llama 3.1 8B Q4
158
119
85
95
優れている
Qwen 3 32B Q4
42
33
22
28
許容範囲
快適さの閾値: 30 tok/s - スムーズな作業の最低ライン。100+ tok/s - 理想的。RTX 4090 での GLM-5.2 70B（28 tok/s）は遅いが、本格的なタスクには使用可能。日常的なコーディングには、180 tok/s の Ornith 9B が極めてスムーズ
パート 8: セットアップ方法。完全スタック
3 つのコンポーネント
1┌─────────────────┐ ┌─────────────────┐ ┌─────────────────┐2│ 1. エンジン │────→│ 2. ハーネス │────→│ 3. エディター │3│ （モデル実行） │ │ （モデルに │ │ （VS Code、 │4│ │ │ 身体を与える） │ │ Cursor 等） │5│ Ollama、 │ │ Aider、 │ │ │6│ llama.cpp、 │ │ OpenCode、 │ │ localhost に │7│ vLLM │ │ OpenHands │ │ 接続 │8└─────────────────┘ └─────────────────┘ └─────────────────┘
オプション A: クイックスタート。Ollama 上の Ornith-1.0 9B（5 分）
ステップ 1: Ollama をインストール
1# Linux/macOS2curl -fsSL https://ollama.com/install.sh | sh34# Windows — ollama.com からダウンロード
ステップ 2: Ornith-1.0 を実行
1# 9B モデルをダウンロードして実行2ollama run ornith:9b34# または 35B MoE（24GB+ VRAM が必要）5ollama run ornith:35b
ステップ 3: GPU 使用状況を確認
1# Linux（AMD）2rocm-smi34# Linux（NVIDIA）5nvidia-smi67# macOS8ollama ps
ステップ 4: エディターに接続
- VS Code: "Continue" をインストール → http://localhost:11434
- Cursor: 設定 → AI Provider → Ollama → http://localhost:11434
- Aider: aider --model ollama/ornith:9b
オプション B: 上級者向け。llama.cpp を使用した GLM-5.2
NVIDIA（CUDA）の場合:
1git clone https://github.com/ggerganov/llama.cpp2cd llama.cpp3cmake -B build -DGGML_CUDA=ON4cmake --build build -j56# GLM-5.2 70B Q4 を実行7./build/bin/llama-server \8 -m glm-5.2-70b-q4.gguf \9 -ngl 999 \10 -c 32768 \11 --host 0.0.0.0 \12 --port 8080
AMD（ROCm 7.x）の場合:
1# ROCm をインストール2wget https://repo.radeon.com/amdgpu-install/latest/ubuntu/jammy/amdgpu-install_latest_all.deb3sudo apt install ./amdgpu-install_latest_all.deb4sudo amdgpu-install --usecase=rocm,hiplibsdk -y5sudo usermod -aG render,video $USER6sudo reboot78# HIP 対応 llama.cpp9git clone https://github.com/ggerganov/llama.cpp10cd llama.cpp11HIPCXX="$(hipconfig -l)/clang" \12HIP_PATH="$(hipconfig -R)" \13cmake -B build -DGGML_HIP=ON -DAMDGPU_TARGETS=gfx110014cmake --build build -j1516# 実行17./build/bin/llama-server -m glm-5.2-70b-q4.gguf -ngl 999 -fa
Apple Silicon（MLX）の場合:
1pip install mlx-lm23# GLM-5.2 を実行4python -m mlx_lm.server --model glm/glm-5.2-70b
オプション C: 本番環境。vLLM
1# NVIDIA2docker run --gpus all -p 8000:8000 vllm/vllm-openai:latest \3 --model glm/glm-5.2-70b --quantization awq45# AMD6docker run --device /dev/kfd --device /dev/dri \7 --group-add video --group-add render \8 --security-opt seccomp=unconfined \9 -p 8000:8000 rocm/vllm:latest \10 vllm serve glm/glm-5.2-70b --quantization awq
パート 9: ハイブリッド戦略。両方の長所を活かす
1┌─────────────────────────────────────────────────────────────┐2│ ハイブリッド戦略 │3├─────────────────────────────────────────────────────────────┤4│ フロンティア（クラウド） │ ローカル AI │5│ ───────────────── │ ─────────────────── │6│ • 最も難しいタスクには │ • エージェンティック │7│ Claude Opus 4.8 │ コーディングには │8│ • 長いコンテキスト（>100 万）│ GLM-5.2 70B（GPT 5.5 を │9│ には GPT 5.5 │ 上回る） │10│ • 未知のタスク │ • 日常的なオートコンプリート │11│ │ と編集には Ornith 9B │12│ │ • リファクタリング、テスト、 │13│ │ ルーチンワーク │14│ 月額 $200～500 │ ハードウェア購入後は $0 │15└─────────────────────────────────────────────────────────────┘
80/20 ルール:
- タスクの 80% - ローカルモデル（GLM-5.2 70B または Ornith 9B）
- 最も難しい 20% - クラウドにエスカレーション（Claude Opus 4.8、GPT 5.5）
- 節約額: クラウドのみのアプローチと比較して 60～80%
パート 10: 最終判断表
あなた
おすすめ
ハードウェア
予算
モデル
学生 / ジュニア
既存のハードウェアで Ollama から開始
お持ちのもの
$0
Ornith 9B
個人開発者
RX 7900 XTX + Ornith 9B/35B
24GB GPU
$900
Ornith 9B/35B
スタートアップ（2～5 人）
2x RTX 3090 NVLink または RTX 4090
合計 48GB
$1,600～1,800
Ornith 35B、GLM-5.2 70B
エンタープライズ / NDA
Mac M3 Ultra 192GB または Strix Halo 128GB
ユニファイドメモリ
$4,000～5,500
GLM-5.2 70B
AI 研究者
RTX 5090 32GB + フロンティア用クラウド
32GB + クラウド
$3,000 + サブスク
ハイブリッド
プライバシー重視
Strix Halo 128GB + Linux
完全制御
$4,000
GLM-5.2 70B
結論
机の下の箱の中にあるモデルは、突然サービスが終了することも、値上げされることも、あなたの知らないうちに廃止されることもない。遅いし、絶対的なフロンティアほど賢くはない ➔ しかし、それはあなたのものだ。増え続ける開発者にとって、その最後の一言こそが、最終的に天秤を傾ける決め手となる
フロンティアモデル、ローカル AI、そして本当に重要なことに関する最新情報は、[@beamnxw](https://x.com/@beamnxw) をフォロー
リソースとリンク
リソース
リンク
GLM-5.2 Hugging Face
GLM-5.2 ベンチマーク
Ornith-1.0 Hugging Face
Ornith-1.0 ベンチマーク
https://ornith.site/benchmarks/
DeepReinforce ブログ
https://deep-reinforce.com/ornith_1_0.html
Ollama
llama.cpp
https://github.com/ggerganov/llama.cpp
vLLM
https://github.com/vllm-project/vllm
AMD ROCm ガイド
https://localaimaster.com/blog/radeon-7900-xtx-local-ai
Aider（コーディングエージェント）
OpenCode（コーディングエージェント）
