今、どこかの開発者が月 200 ドルを AI に支払いながら、一度もその計算をしたことがない。ChatGPT Plus、Claude Pro、Cursor、そして毎月静かに積み上がる API 費用。それは永久に更新され続け、所有できるものをレンタルし続けるには、あまりに長い時間だ。
別の考え方がある。自宅に置くボックス、ローカルで AI を動作させ、電気代は月に数ドル、データは自分のマシンに保持し、他人のサーバーに 1 バイトも送信しない。
2026 年のローカル AI は、2 年前のような悲惨な妥協案ではない。より優れた量子化、より効率的なモデルアーキテクチャ、そしてユニファイドメモリチップにより、デスク上のマシンは日常の AI 作業の約 80% を処理できるようになった。執筆、コーディング支援、文書分析、要約、分類、自動化、自分のファイルに対する質問応答などだ。残りの 20%、フロンティア推論や最先端のコーディングは、依然としてクラウドに属する。しかし、その 20% のために、残りをカバーする 1 回限りのボックスを購入する場合に、月 200 ドルの請求を正当化することはできない。
これがラダー（階段）だ。すでに所有しているマシンからデスクトップスーパーコンピュータまでの 10 段階と、各ステップでの正直なトレードオフを示す。
すべてを変える 1 つの考え方
あなたが購入しているのは速度ではない。メモリだ。
"動作しない" という話は、すべて同じ壁に行き着く。モデルがボックスのメモリに収まらないのだ。モデルはロードされるか、されないかのどちらかだ。速度は、動作中の体感速度を決めるだけであり、メモリはそもそも動作するかどうかを決める。
したがって、ラダー全体は実際にはメモリのラダーである。8GB は 7B モデルを動作させる。24GB は 32B モデルを快適に動作させる。128GB は 70B モデルを動作させ、本当に大きなモデルに手を出し始める。以下の各段階をそのレンズを通して見てほしい。そして、パターンに注目してほしい。最も遠くまで伸びるボックスは、ユニファイドメモリを備えたものであり、CPU と GPU が小さな区切られた VRAM の塊を奪い合うのではなく、1 つの大きなプールを共有する。
スペックの前に、リスト全体に当てはまる 1 つの注意事項がある。世界的な DRAM 不足により、メモリ価格は 2026 年を通じて上昇傾向にあり、下降傾向ではない。ここにあるすべての数値は概算であり、上昇傾向にある。これは、来ないかもしれない値下がりを待つよりも、実際に使用するボックスを購入するべきだという根拠となる。
ラダー
第 1 段階。すでに所有しているマシン ($0)
何かに費やす前に、すでにデスクにあるものでワークフローを証明しよう。8GB の RAM を搭載した任意のラップトップは、Ollama を通じて 7B モデルを実行できる。高速ではないが、唯一重要な質問に答えてくれる。ローカル AI は、あなたが実際に行うことに対して十分なのか？ どこか他で 1 ドルも使う前に、ここで週末を過ごそう。
第 2 段階。Raspberry Pi 5、16GB (約 12,000 円)
愛好家向けの段階。16GB の Pi 5 は、Ollama を通じて 1B から 3B モデルを、ゆっくりと実行できる。これは日常使いのマシンではなく、引き出しにしまって動かし続けられる概念実証だ。小さな常時稼働アシスタント、ホームオートメーションの頭脳、週末のプロジェクト。仕事用ではなく、学習用に購入しよう。
第 3 段階。NVIDIA Jetson Orin Nano Super ($249)
最も安価な本格的なエントリーポイント。財布よりも小さいボックスに、本物の NVIDIA GPU を搭載。
1AI パフォーマンス: 67 TOPS2GPU: 1024 コア Ampere3RAM: 8GB LPDDR5 (共有)4消費電力: 7-25W5快適に動作: Llama 3.2 3B、Mistral 7B、Gemma 2、DeepSeek 1.5B
67 TOPS は、7B モデルをプライベートかつ永続的に実行する。7B クラスは、瞬時に感じるのに十分な速さで、ほとんどの日常業務に十分な性能だ。7B 以上や、8GB を超える長いコンテキストには触れられないが、月 100 ドルのサブスクリプションと比較すると、10 週間で元が取れる。
第 4 段階。Apple Mac mini M4 (599 ドルから)
デフォルトの静音ホーム AI サーバー。その理由はユニファイドメモリだ。通常の PC では、GPU の VRAM は硬い壁である。Apple は CPU と GPU 間でメモリを共有するため、Mac mini はスペックシートが示すよりも大きなモデルを実行でき、ほぼ無音で、消費電力も少ない。
1チップ: Apple M42ユニファイドメモリ: 16-32GB (CPU + GPU 共有)3消費電力: 負荷時 10-30W424/7 の電気代: 約 3-8 ドル/月5快適に動作: Llama 3.2、Mistral 7B、Qwen 2.5、Phi-3 Medium
Jetson ができることすべてに加えて、より大きなモデル、より長いコンテキスト、そして複数のサービスを同時に実行できる。これは、人々が自動化のバックエンドとして 24 時間稼働させておくボックスだ。ただし、599 ドルはベース価格であり、Apple はメモリに強気な価格設定をしている。ローカル AI にとってメモリこそが重要であるため、ステッカー価格ではなく、実際に必要な構成の価格を考慮しよう。
第 5 段階。中古 RTX 3090、24GB (カードのみ約 70,000 円)
色あせない価値のレジェンド。発売から 6 年経った今でも、コンシューマー市場で最高の VRAM 対コスト比を誇る。中古の 3090 は、約 70,000 円で 24GB の高速メモリを提供し、24B から 32B モデルを実際のスループットで実行するのに十分であり、完全な CUDA サポートにより、すべてのツールがすぐに使用できる。
1VRAM: 24GB GDDR6X2帯域幅: 約 936 GB/s3中古価格: 約 60,000 ～ 80,000 円 (カードのみ)4快適に動作: Qwen 32B、Llama 3.1 8B-70B (量子化)、ほとんどの 32B クラス
正直な注意点: GPU はコンピュータではない。周りにホスト PC が必要なので、残りのマシンに別途 40,000 ～ 60,000 円を予算に組み込もう。しかし、すでに空きスロットと十分な容量の電源を備えたデスクトップを持っているなら、このラダー上で 24GB をこれほど安く手に入れられるものは他にない。
第 6 段階。AMD Radeon RX 7900 XTX、24GB (カードのみ約 90,000 円)
3090 と同じ 24GB、新品、保証付き、そして AMD のソフトウェアもようやく追いついてきた。ROCm 7.x では、7900 XTX は Llama 3.1 8B を約 96 トークン/秒で実行し、RTX 4090 の約 4 分の 3 の速度を、はるかに低い価格で実現する。新しいハードウェアにおける純粋な VRAM 対コスト比では、コンシューマーレベルで NVIDIA の追随を許さない。
1VRAM: 24GB GDDR62ソフトウェア: ROCm 7.x (ファーストクラスサポート)3新品価格: 約 90,000 ～ 140,000 円 (カードのみ)4快適に動作: Llama 3.1 8B (約 96 tok/s)、32B クラス量子化
欠点は AMD につきまとうものと同じだ。ROCm は CUDA とのギャップをほとんど埋めたが、一部のツールは依然としてデフォルトで NVIDIA を前提としている。Ollama や Open WebUI では今日では問題なく動作する。特殊なファインチューニングスタックの場合は、もう少し手動の手順が必要になることを想定しておこう。
第 7 段階。AMD Ryzen AI Max+ 395 "Strix Halo"、128GB (約 200,000 円)
2026 年のスイートスポットであり、ほとんどのリストが見落としているボックス。AMD の Strix Halo チップは、16 コア Zen 5 CPU を大型の RDNA 3.5 iGPU と最大 128GB のユニファイドメモリと組み合わせ、小さなボックスに収めている。価格は、メモリが 4 分の 1 の NVIDIA デスクトップとほぼ同じだ。
1チップ: Ryzen AI Max+ 395 (16 コア Zen 5)2GPU: Radeon 8060S (40 コア RDNA 3.5)3NPU: XDNA 2、50 TOPS (システム全体で約 126 TOPS)4ユニファイドメモリ: 最大 128GB LPDDR5X (約 96GB を VRAM として使用可能)5価格: 約 200,000 円 (128GB / 2TB モデル)6快適に動作: Llama 3.3 70B、Mixtral、ほとんどの 70B クラスモデル
購入方法は 2 つある。GMKtec EVO-X2 は、完成済みの 128GB ミニ PC で約 200,000 円だ。Framework Desktop は、同じチップを修理可能でアップグレード可能なシャーシに搭載しており、ボード単体で 200,000 円から、完全組み立てで約 285,000 円となる。どちらにしても、会話速度で 70B モデルをロードできる。これは、この段階より下では不可能なことだ。ROCm の成熟度がトレードオフであり、第 6 段階と同じである。
第 8 段階。NVIDIA RTX 5090、32GB (カードのみ約 300,000 円)
普通の人が普通のタワー型 PC に搭載できる最速のもの。32GB の最速コンシューマーメモリと、それ以下のすべてを置き去りにする生の速度。これは、フロンティアクラスのローカル推論と時折のトレーニングを望み、1 ギガバイトあたりのコストよりも 1 秒あたりのトークンを重視する人々のための段階だ。
1VRAM: 32GB GDDR72新品価格: 約 300,000 円以上 (カードのみ)3快適に動作: 32B 高速、70B 量子化、画像および動画モデル
しかし、計算は残酷だ。中古の 3090 の 3 ～ 4 倍のコストで、8GB 多いメモリを手に入れ、さらにホスト PC が別途必要になる。効率的だからではなく、速度と余裕が必要だから購入するのだ。効率的ではない。
第 9 段階。Apple Mac Studio M3 Ultra、96GB (3,999 ドルから)
大型で静音、ユニファイドメモリのワークステーション。Mac Studio は最大 96GB を CPU と GPU 間で Metal アクセラレーションと共有し、大型モデルをほぼ無音で実行し、ジェットエンジンのようなファンカーブなしでデスクに収まるボックス内でそれを実現する。
1チップ: M3 Ultra (最大 32 コア CPU / 80 コア GPU)2ユニファイドメモリ: 最大 96GB3価格: 3,999 ドルから4快適に動作: 70B クラスモデル、長いコンテキスト、複数サービス
正直に言うと、Apple は DRAM 不足の影響で 2026 年初頭に 512GB 構成を撤回したため、以前ははるかに大きな容量に達していたところが、現在は 96GB が上限となっている。それでも、大型モデルを実行し、実際のコンピュータとしても機能する静かなオールインワンマシンとしては、これほど快適に使えるものはほとんどない。
第 10 段階。NVIDIA DGX Spark、128GB ($3,999 ～ $4,699)
データセンターだと思っているデスクトップ。オープンモデルのファインチューニング、70B プラスのアシスタントのホスティング、実際のスループットを必要とする推論パイプラインの実行に最適。
1チップ: GB10 Grace Blackwell2AI スループット: 1 PFLOP3ユニファイドメモリ: 128GB LPDDR5x4ストレージ: 4TB Gen5 NVMe5消費電力: 負荷時 150-240W6最適: 70B-200B モデル、ファインチューニング、本番推論
128GB のユニファイドメモリは、コンシューマー GPU では開くことさえできないモデルをロードし、2 台をリンクさせると 400B 領域に到達する。価格の正直なところ: 2025 年 10 月に 3,999 ドルで発売されたが、その後メモリ不足の影響で約 4,699 ドルに値上げされている (Tom's Hardware)。第 7 段階の Strix Halo ボックスと比較すると、同じ 128GB で約 2 倍のコストがかかる。あなたが支払っているのは、より多くのメモリではなく、CUDA の成熟度とスループットだ。
正直な計算
1典型的な月間 AI 支出:2ChatGPT Plus $203Claude Pro $204Cursor Pro $205API 費用 $50-2006合計 $110-260 / 月78ローカル AI 月間:9ハードウェア $0 (既に購入済み)10電気代 $2-1511API $012合計 $2-15 / 月
月 100 ドルのサブスクリプションの場合、249 ドルの Jetson は 10 週間で元が取れ、599 ドルの Mac mini は 6 ヶ月、中古の 3090 ビルドは 1 年未満、2,000 ドルの Strix Halo ボックスは約 18 ヶ月、そして 4,000 ドル以上の段階は、すでにクラウド GPU レンタルに月 4 桁の金額を費やしている場合にのみ元が取れる。
ここで、誇大広告がいつも飛ばす部分だ。ボックスはサンクコストであり、サブスクリプションを本当に支払い続けていた場合にのみ「元が取れる」。月 20 ドルを節約するために 2,000 ドルのマシンを購入するのは、サブスクリプションよりも悪い取引であり、良い取引ではない。適切な段階は、空想のバージョンではなく、実際の使用状況に合ったものである。
あなたの段階はどれか
軽い日常使用と好奇心: 第 1 段階から始めて、次に Jetson を購入しよう。家庭や小規模ビジネス向けの静かな常時稼働アシスタント: Mac mini。本物の 24GB と 32B モデルへの最も安価な道: 中古の 3090、または新品で保証付きが良く ROCm を気にしないなら RX 7900 XTX。データセンター並みの予算なしでの最高の 70B 体験: Strix Halo ボックス。最大のコンシューマー速度: RTX 5090。作業もできる静かな大容量メモリワークステーション: Mac Studio。ファインチューニングと本番パイプライン: DGX Spark。
1 回の午後で完了するセットアップ
すべての段階でプロセスは同じだ。
1. Ollama をインストールする。 オープンソースで、任意のモデルを OpenAI の言語を話すローカル API に変換する。
1curl -fsSL https://ollama.com/install.sh | sh
2. ボックスのメモリに合わせたモデルをプルする。
1# 8GB Jetson または 16GB Mac mini の場合:2ollama pull llama3.234# 24GB 3090 / 7900 XTX の場合:5ollama pull qwen2.5:32b67# 128GB Strix Halo / DGX Spark の場合:8ollama pull llama3.3:70b
3. 既存のコードの 1 行を変更する。
1# 変更前、リクエストごとに課金:2client = OpenAI(api_key="sk-...")34# 変更後、ローカルで無料:5client = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama")
コードは同じように動作する。マシン外には何も出て行かず、リクエストごとに費用は発生しない。
4. (オプション) Open WebUI でブラウザインターフェースを追加する と、localhost:3000 でプライベートな ChatGPT が手に入る。
1docker run -d -p 3000:8080 \2 --add-host=host.docker.internal:host-gateway \3 -v open-webui:/app/backend/data \4 ghcr.io/open-webui/open-webui:main
実際に何を動かすか
ハードウェアは決定の半分だ。モデルは残りの半分を占める。2026 年のおおまかなマップ:
小型で高速 (8-16GB に適合): Llama 3.2 3B、Gemma 2、Phi-3、Mistral 7B。ドラフト作成、分類、自分のメモに対する Q&A に最適。ワークホース層 (24GB に適合): Qwen 2.5 32B と量子化された Llama。実際のコーディング支援やドキュメント作業に十分な強度。ヘビー層 (64-128GB が必要): Llama 3.3 70B と大型の Qwen および Mixtral バリアント。ローカル出力が、日常的なタスクにおいてクラウドモデルに近い感覚になり始める。
量子化は、これらすべての背景にある静かなレバーだ。4 ビット量子化での 70B モデルは、フル精度バージョンでは決して収まらない場所に、小さく、通常は許容できる品質コストで収まる。Q4 から Q6 が、ほとんどの人にとって妥当な範囲だ。それ以下では、メモリ節約の価値よりも品質の低下が速い。
動かし始めたら何を構築するか
個人使用では、月数ドルで日常的なことをカバーする。興味深いのはビジネス自動化であり、ローカルモデルを n8n (オープンソースツール) に配線し、Telegram、メール、カレンダー、CRM、および数百のサービスに接続する。これらはすべて、建物の外に何も出さず、トークンごとのコストもかからずに実行される:
1AI 受付:2クライアントが Telegram でメッセージ -> n8n が受信 -> ローカルモデルが意図を読み取る3-> カレンダーが空き状況を確認 -> 予約確定45文書分析:650 の PDF をドロップ -> ローカルモデルがすべてを読む -> 主要な事実を抽出7-> 構造化されたレポートを作成89日次ブリーフ:10午前 7 時にトリガー -> モデルがメモとタスクを読む -> 重要なことを要約11-> スマートフォンに送信1213リードエンリッチメント:14シートに新しい行 -> モデルが会社を調査 -> 調整された導入文をドラフト15-> レビューのためにキューに入れる1617コンテンツのリパーパス:181 つの長い録音 -> モデルが文字起こしと編集 -> 投稿を作成19-> 承認のために下書きを保存2021受信箱のトリアージ:22新しいメール -> モデルが仕分け、ラベル付け、返信をドラフト -> あなたが送信または編集
プライバシーに敏感な作業では、これはコストの判断ではなくなり、唯一の選択肢となる。法的文書、医療記録、財務データ、NDA 下にあるものはすべて、サードパーティの API に送信すべきではない。ローカル AI はあなたのマシン上で処理し、外部に出ることはない。
実際に何がうまくいかないのか
20% は現実だ。フロンティアモデルは、難しい推論、最先端のコーディング、そして唯一の最良の答えが重要な研究において、依然として優位に立つ。ローカル AI は、残りの 80% のための信頼性が高く、プライベートで、常時稼働のワークホースであり、すべての代替品ではない。難しい 20% のために 1 つのクラウドサブスクリプションを維持し、残りを自宅で実行すれば、両方を手に入れることができる。
メモリが上限であり、TOPS ではない。実行したいモデルサイズに合わせて購入し、ユニファイドメモリボックスは、別個の VRAM を搭載した同等スペックの PC よりも遠くまで伸びることを覚えておこう。
GPU はコンピュータではない。3090、7900 XTX、5090 の段階はすべて、周りにホストマシンが必要だ。カード価格はシステム価格ではないので、完成済みのミニ PC と比較する前に、40,000 ～ 60,000 円を追加しよう。
価格は上昇している。DRAM 不足により、DGX Spark はすでに 18% 値上がりし、Apple は 512GB Mac Studio を撤回した。今日の良い取引が、来四半期にはもっと高くなる可能性がある。
AMD はコストを節約し、時間を犠牲にする。Strix Halo と 7900 XTX は、1 ドルあたりのメモリ量が最も多いが、ROCm はターンキーツールにおいて依然として CUDA に劣る。今日の Ollama には問題ないが、本格的なトレーニングにはより多くの忍耐が必要だ。
熱、騒音、量子化は細かい文字だ。大型の GPU ビルドはうるさく、熱くなる。積極的な量子化はメモリを節約するが、やりすぎると品質を損なう。どちらも決定的な問題ではないが、誰もセールストークでは言及しない。
今すぐやるべき 2 つのこと
まずは無料で試してみよう。すでに所有しているコンピュータに Ollama をインストールし、今週末に 7B モデルを実行してみよう。8GB のマシンならどれでもできる。ハードウェアに 1 セントも費やす前に、ワークフローを証明しよう。
次に、本当のニーズよりも 1 段階上のものを購入しよう。5 段階も上ではない。2025 年に静かにローカル AI をセットアップした人々は、クラウド価格が上昇し続け、ローカルハードウェアが改良され続けるにつれて、2027 年までには時代の先を行くように見えるだろう。ほとんどの人は習慣で月 200 ドルを支払い続けるだろう。少数の人は今週中に 1 回の午後を費やし、他人のサーバーに 1 バイトも送信しなくなるだろう。
私はこのように AI ツールとそれで生み出されるお金を定期的に分析しています。次の記事もフォローしてください。私の Telegram にも参加してください: https://t.me/+lzSPoQ0svRU1ZWZi
