AI コスト最適化: Claude Fable 5.1 & Gemini 3.8 Flash の併用

同僚から仕事で取るに足らない質問をされたので、エージェントに最近のチャットやドキュメントを調査させました。正解は出ましたが、コストが 38 ドル!!! かかったんです。ROI（投資対効果）としては最悪でした。確かに私の時間は貴重ですが、実際にはその時間を費やす必要はなく、このタスクに高額な計画機能は不要だったのです。

もっと良い方法があります。

Google Cloud の Gemini Enterprise Agent Platform は Model Garden を提供しており、Google 製、Anthropic 製、さらには xAI 製のモデルなど、多くのトップクラスのモデルへ簡単に API 経由でアクセスできます。実際、Hugging Face 上のすべてのモデルを独自にデプロイすることも可能ですが、本記事では Anthropic の新モデル Claude Fable 5.1 と Google の新モデル Gemini 3.8 Flash に焦点を当てます。開発者は現在、まったく異なる特性を持つ 2 つのフロンティアモデルを、同一のエントラプライズ API インターフェースを通じて利用できるようになりました。

Fable 5.1 は Mythos クラスの自律型プランニング、100 万トークンのコンテキストウィンドウ、そして深いマルチステップの検証機能を備えています。一方、Gemini 3.8 Flash は、調整可能な思考制御機能を備えた Flash エコノミー（入力トークンあたり 100 万につき 0.75 ドル、出力トークンあたり 100 万につき 3.75 ドル）で、フロンティア級に近い推論能力と驚異的なトークン処理速度を提供します。

どちらか一つを選んですべてのリクエストをルーティングするのは簡単かもしれません。しかしそれは間違いです。

ルーチンな開発作業を深いプランナーに通すと、git diff の解析にフロンティア級のトークン単価を支払うことになります。また、高速なモデルに正式な計画なしで不可逆なデータベースマイグレーションを任せるのは危険です。コーヒーを飲み終わる前に状態を破壊してしまうでしょう。

2 つのモデルを使い分け、タスクを適切にルーティングすることで、「トークンエコノミクス」を劇的に改善することは非常にシンプルです。

著者：Alan Blount (@zeroasterisk

以下に、実現するための完全な手順を示します。

両方のモデルを単一の統一ガバナンスプレーン背後に設定する。
デフォルトを選択する前に、ルーチンタスクでベンチマークを実施する。
高速モデルをフロントラインコーディネーターとして使用し、より強力な処理が必要だと判断した場合や、高速モデルがエスカレーションが必要な場合に限り、深いプランナーを使用する。
タスク ROI およびトークンの価値（単なるコストではなく）に関するメンタルモデルを構築する。

1. 両方のモデルを単一の統一ガバナンスプレーン背後に設定する

LLM 推論プラットフォームの選定には、多くの設計選択肢を検討する必要があります。コスト、キャパシティ、セキュリティ、モデルの選択、サービング機能、開発者の摩擦、さらなるセキュリティ（API キーはリスクがあります）。Gemini Enterprise Agent Platform（旧 Vertex AI）は、独自の機能を備えた包括的なオプションであり、Gemini モデルと Anthropic モデルの両方をマネージド API として公開しているため、単一の安全な認証で両方のワークロードをカバーできます。

しかし正直なところ、一部の導入プロセスは私が望むよりも摩擦が大きいです。「不可能なことは簡単だが、簡単なことは難しい」とよく冗談を言います。この記事を書く理由の一つもそこにあります。

モデルを扱う前に、gcloud にログインし、バリエーションについてはドキュメントを読んでください。

bash

1gcloud auth application-default login

Claude Fable 5.1 にアクセスするには、API を有効にし、その後 Claude Fable 5.1 を有効化し、ユースケースに関する非常に簡潔なフォームに入力する必要があります。しかし、まだ終わりではありません。

Fable は Google Cloud の Advanced AI Safety Addendum（高度な AI 安全性付則）の対象となります。aiplatform.googleapis.com にプロンプトを一つでも送信できるようにするためには、プロジェクトレベルで明示的にプロンプト・レスポンス共有を設定し、パブリッシャーの条件を受け入れる必要があります。

グローバルエンドポイントに対する正確な動作手順は以下の通りです。バリエーションについてはドキュメントを参照してください。

まず、役立つ変数をいくつか設定しましょう。URL パス内のモデル名は claude-fable-5-1 でハイフン区切りであり、ドットではないことに注意してください。また、プロジェクト ID とロケーションを入力し、地域に応じてエンドポイントを変更する必要があるかもしれないことを確認してください。

bash

1export PROJECT_ID="YOUR_PROJECT_ID"
2export LOCATION="global"
3export MODEL="claude-fable-5-1"
4
5# Global endpoint: aiplatform.googleapis.com (recommended)
6# Multi-Regional endpoints: aiplatform.eu.rep.googleapis.com
7# Regional endpoints: us-central1-aiplatform.googleapis.com
8export ENDPOINT="https://aiplatform.googleapis.com"

次に、setPublisherModelConfig API を呼び出し、dataSharingEnabledProvider を ANTHROPIC に設定します - これはすべて大文字であることに注意してください：

bash

1curl -X POST \
2  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
3  -H "Content-Type: application/json; charset=utf-8" \
4  -d '{ "publisherModelConfig": { "dataSharingEnabledProvider": "ANTHROPIC" } }' \
5"${ENDPOINT}/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/publishers/anthropic/models/${MODEL}:setPublisherModelConfig"

最初の呼び出しは、データ共有がアクティブであることを確認する完了した操作オブジェクトを返します：

json

1{
2  "name": "projects/YOUR_PROJECT_NUMBER/locations/global/operations/1234567",
3  "metadata": {
4    "@type": "type.googleapis.com/google.cloud.aiplatform.v1beta1.SetPublisherModelConfigOperationMetadata",
5    "genericMetadata": {
6      "createTime": "...",
7      "updateTime": "..."
8    }
9  },
10  "done": true,
11  "response": {
12    "@type": "type.googleapis.com/google.cloud.aiplatform.v1beta1.PublisherModelConfig",
13    "loggingConfig": {},
14    "dataSharingEnabledProvider": "ANTHROPIC"
15  }
16}

すでにこれを実行している場合は、この設定が既に存在するという HTTP 409 エラーが発生します：

text

1409 ALREADY_EXISTS: The same PublisherModelConfig already exists.

この 409 エラーは全く問題ありません。

モデルへのアクセスをテストすると、応答が得られるはずです：

bash

1curl -X POST \
2  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
3  -H "Content-Type: application/json; charset=utf-8" \
4  -d '{"anthropic_version": "vertex-2023-10-16","messages": [{"role": "user", "content": "Hello world."}], "max_tokens": 1024, "stream": true}' \
5"${ENDPOINT}/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/publishers/anthropic/models/${MODEL}:streamRawPredict"

これが正しく行われなかった場合、次のような HTTP 403 エラーが発生します：

text

1403 PERMISSION_DENIED: Access to this model requires data sharing to be enabled for publisher 'anthropic'. Please set `PublisherModelConfig.data_sharing_enabled_provider`
2to 'anthropic' via the setPublisherModelConfig API to use this model.

Gemini 3.8 Flash にアクセスするには、モデルカードで有効になっていることを確認してください。これで動作するはずです：

bash

1curl -X POST \
2  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
3  -H "Content-Type: application/json; charset=utf-8" \
4  -d '{"contents": [{"role": "user", "parts": [{"text": "Hello world"}]}],"generationConfig": {"thinkingConfig": {"thinkingLevel": "LOW"}}}' \
5"${ENDPOINT}/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/publishers/google/models/gemini-3.8-flash:streamGenerateContent"

… ふぅ。できました 🎉！

クォータが足りないですか？任意のモデルのクォータ管理が可能で、一部のモデルではプロビジョニング済みスループットを購入できます。

2. ベンチマークを信じず、自分で実行する

エージェントセットアップにどのモデルを使うべきか 5 人のエンジニアに尋ねると、Twitter の雰囲気や合成リーダーボードに基づく 5 つ以上の矛盾した意見が出てくるでしょう。

公開ベンチマークは素晴らしいリソースですが、孤立したプロンプトや、ますます真空状態でのタスクをテストしています。本番環境でのユースケースや、ローカルでのエージェント駆動型 SDLC エージェントは、公開ベンチマークと完璧に一致することはありません。あなたの仕事は、今日のいかなるベンチマークとも異なる形をしています。

したがって、あなた自身でベンチマークを構築し（Agent Ops と Evals が最高！）、これを大規模に自動化することもできますが、単に自分自身の シンプルな タスクを並べて比較するだけでも構いません。タスク内のファイルを変更しない限り、問題なく、ほとんど努力を要さずにタスクの感触を得ることができます。

promptfoo を使用して opencode で同じ 2 つのタスクを各モデルで実行する例を挙げます。タスクの説明を変更し、環境を設定する必要がありますが、それほど難しくはないはずです。

GIF

json

1# opencode.json
2{
3  "$schema": "https://opencode.ai/config.json",
4  "provider": {
5    "google-vertex": {
6      "options": { "project": "alanblount-demo", "location": "global" },
7      "models": {
8        "gemini-3.8-flash": { "id": "gemini-3.8-flash", "name": "Gemini 3.8 Flash" }
9      }
10    },
11    "google-vertex-anthropic": {
12      "options": { "project": "alanblount-demo", "location": "global" },
13      "models": {
14        "claude-fable-5-1": { "id": "claude-fable-5-1", "name": "Claude Fable 5.1" }
15      }
16    }
17  },
18...

Promptfoo を設定して、単一のプロンプトやモデルだけでなく、opencode のエージェント型タスク実行を比較します。

text

1# promptfooconfig.yaml
2description: "Benchmarking OpenCode Agent Harness: Gemini 3.8 Flash vs. Claude Fable 5.1"
3
4prompts:
5  - "Summarize git branch status in one sentence."
6  - "Design a zero-downtime database migration strategy from Postgres to Spanner."
7
8providers:
9  - id: "exec:opencode run --auto -m google-vertex/gemini-3.8-flash"
10    label: "Gemini 3.8 Flash (OpenCode Agent)"
11  - id: "exec:opencode run --auto -m google-vertex-anthropic/claude-fable-5-1"
12    label: "Claude Fable 5.1 (OpenCode Agent)"
13
14defaultTest:
15  options:
16    timeoutMs: 60000

Promptfoo を使用して、自分自身の並列比較を実行します：

promptfoo eval -c promptfooconfig.yaml --no-cache

クリーンルーム開発コンテナ内でこの評価を実行した結果は以下の通りです：

PR ブランチの確認時、Claude Fable 5.1 は変更されていないツリーハッシュを再検査するなど、複数のメタ内省ターンを実行しました。ほぼ 6 秒かかり、コストは 23 倍高くなりました。Gemini 3.8 Flash は意図を瞬時に認識し、git ツールを発火させ、1.1 秒未満で、1 セントの 10 分の 1 未満のコストで回答しました。

複雑なデータベースマイグレーションでは、状況が逆転しました。Gemini 3.8 Flash は 3 秒で堅実でクリーンな線形シーケンスを生成しました。しかし Fable 5.1 は 12 秒かけて、完全で形式のある有向非巡回グラフ（DAG）を生成しました。デュアルライトにおけるクロックスキューのリスクを特定し、冪等性キー要件を生成し、可逆的なロールバックゲートを定義しました。

これはあくまで一例に過ぎません。あなた自身のタスクで比較してみてください。

3. 日常業務および本番環境での実践的な使用

既製のコーディングツールを使用する場合でも、カスタムエージェントサービスを構築する場合でも、勝てるパターンは非対称な協調です：フロントライン実行には安価な速度を用い、アーキテクチャチェックポイントには意図的な深さを組み合わせます。難しい問題や計画作業には高額なトークンを費やしますが、単純なタスクにはデフォルトで安価なトークンを使用します。

コーディングエージェントハーネス（OpenCode、Aider など）

一つのモデルをユニバーサルなデフォルトに無理やり仕立て上げないでください。異なるモデルにマッピングされた専門化されたサブエージェントを設定します。同じ統一プロバイダーを使用することは、セキュリティとコストの面で利点があります。異なるモデルファミリーを使用することは、互いにチェックし合うことで利点をもたらす可能性があります。

深い思考エージェントを使用してこの問題の根本原因を特定し解決策を計画し、その後ワーカーエージェントを使用して各タスクを処理しステータスを報告させます。深いプランナーは彼らの仕事をチェックし、成功を確認するか再割り当てを行います。

text

1# opencode.json
2{
3  "$schema": "https://opencode.ai/config.json",
4  "model": "google-vertex/gemini-flash-latest",
5  "agent": {
6    "plan": {
7      "model": "google-vertex/gemini-flash-latest"
8    },
9    "build": {
10      "model": "google-vertex/gemini-flash-latest"
11    },
12    "worker": {
13      "model": "google-vertex/gemini-3.8-flash",
14      "mode": "primary",
15      "description": "General worker agent using gemini-3.8-flash"
16    },
17    "deep-thinker": {
18      "model": "google-vertex-anthropic/claude-fable-5-1@default",
19      "mode": "primary",
20      "description": "Deep thinking agent using Claude Fable 5.1"
21    }
22  },
23...

「サービスとしての」カスタムエージェント（Google ADK、LangGraph、カスタムコードなど）

あなた自身のエージェントハーネスやエージェントサービスを構築する場合、あなたは完全なアーキテクチャ的自由を持っています。

モデルに合わせてハーネスを再構築する： Gemini 3.8 Flash には、厳格な JSON スキーマを備えた 3〜5 個の集中化されたツール（read_file、write_file、run_tests）を与えます。高速モデルは集中化された実行に優れていますが、50 個のツールカタログはパラメータの混乱とコンテキストの無駄を引き起こします。Claude Fable 5.1 にはアーキテクチャドキュメント、スキーマ、ガイドラインを与えますが、直接的なファイル書き込み権限は剥奪します。
Evals に基づく接地： どのモデルがどのノードに適するかを推測しないでください。リポジトリタスクに対して決定的なアサーションチェックを含む自動評価スイートを実行し、小さなモデルが 10% のコストで 95% の品質を提供できる場所を見つけます。言うのは簡単ですが実行は難しく、どのようなシナリオを評価したいのかを知るのも困難です。詳細については、当社の Kaggle 5 日間コース（agents、videcoding）をご覧ください。
「助けを求める」エスカレーションパターンを使用する： すべての受信リクエストを高速ワーカーで開始します。ワーカーに明示的なツール ask_for_help(reason, failed_attempts, context) を与えます。ワーカーはリクエストの 85% から 90% を直接処理します。曖昧性、不可逆なアクション、または連続する 2 回のツール失敗時のみエスカレーションします。

自動化された「スマート」モデルルーターに対する現実的な見方

スマートルーターには予測 ML（アドテク、不正検知）において長い歴史があります。多腕バンディットアルゴリズムやコスト・品質ルーターは成熟していますが、それは特徴量が表形式であり、入力が制限され、フィードバック（クリック、チャージバック）が即時かつ長期的な時間軸で測定可能だからです。

生成 AI において、マルチターンエージェントは別の話です。動的ルーターは以下の 3 つの本番環境の現実に苦戦する可能性があります：

シングルターンコンテキストには、タスクを選択するのに十分な信号が含まれていない可能性がある
成功指標は特徴量に明確に外挿されないため、ルーターは迅速に「学習」できない
誤った選択は他のパスで再実行され、潜在的な節約分を食い潰し、レイテンシを追加する

結論： 地味に保ちましょう。エージェントを明示的に構成し、タスク境界によってルーティングします。明確な役割を定義し、具体的なコードアサーションや人間の意図によってハンドオフを制御させましょう。

4. トークン ROI 方程式：実際に何に対してお金を払っているのか？

生の価格表（$ / 1M トークン）は、本番環境の価値の良い地図ではありません。コスト計算は方程式の一部に過ぎません。コーディング、製品、製造、その他のあらゆる「片付けるべき仕事」全体にわたって常に機能する計算式を提供することは不可能です。

出発点として、あなたが得ているビジネス価値について考えるのが良いかもしれません。

人間時間の節約コスト、従業員がより多くの仕事を完了し、退屈な作業や自動化されたタスクに費やす時間が減ることによる価値。
機能を本番環境により速く出荷し、それらの機能による顧客満足度とリテンションの向上をもたらすことの価値。
改善されたセーフガードとエンジニアリングプラクティスにより回避されたエラーと本番環境の障害による価値。

トークンコストと、チームがエージェントを構築・管理するためにスキルアップさせるコストを差し引くと、おおよその ROI 計算ができます。

より少なく、より安価なトークンを使用することでこれらの計算に影響を与えることができますが、おそらく最も大きな影響を与えるのは、より速く、より多くの仕事を完了させることです。レバレッジの高いタスクを選んでください。検証可能で、自動化する価値があり、オーバーヘッドの削減や収益の増加につながるタスクを選んでください。そしてそれらのタスクを分解する際、深く考え計画を立ててより多く支払い待つことを好むのか、それとも迅速かつ確実に実行することを好むのかを考える必要があるかもしれません。両方が必要になります。

トークンエコノミクスは今ホットな話題であり、コストを削減し価値を最大化するための多くの選択肢があります。この記事の主なポイントは、異なるプロファイルを持つ 2 つのモデル上でいくつかの異なるエージェントを設定し、自分でタスクをルーティングすることが本当に簡単だということです。それが始めるのに最も簡単な場所です。

この解説が役に立った場合は、以前の記事「AI エンジニアがエージェントサンドボックスについて知っておくべき 5 つのこと」をチェックしてみてください。@GoogleCloudTech と @zeroasterisk をフォローして、ビルダーの現場からのさらに詳しい解説をお待ちください。