YouMind
登入

如何將 Jev 整合至 Grok Bot:我打造的最佳 Agent

@0x_rody
英語2026年10月20日
153K
250
22
27
854

TL;DR

本指南示範如何將 TypeSafe 的 Jev 模型與 Grok Bot 整合,建立一個決策路由器,以防止冗餘的 AI 操作(例如不必要重試或重複研究),從而最佳化效能並降低成本。

Grok Bot 給每個使用者一台雲端電腦,並讓機器人在上面執行 shell。大多數人只是把任務丟給它,然後看著它不斷重試同樣的錯誤。

你只要加上一個路由技能(router skill),讓它在真正採取行動前先記錄一週的日誌,並保留一個緊急停止開關。

只要接線正確,重試就會在造成任何損失之前被攔截下來。

以下是完整的設定流程 👇

在開始之前,我會在 Substack 上發布完整指南:https://zodchiii.substack.com/ 🧠

rody - inline image

Jev 會回傳什麼答案

Jev 是 TypeSafe 的 System One 模型。它回傳的是帶有型別的值而不是文字敘述,並且內建了三種基本類型:

  • Choice 從你定義的清單中挑選一個選項,並回傳選擇結果、機率與信心度
  • Score 根據評分標準對狀態進行打分
  • Noul 以 0 到 1 之間的數字回答某個陳述是否為真

因為答案是作為數值回傳的,你可以把它記錄下來、將兩週的決策互相比較,甚至用昨天的流量重新跑一遍。

呼叫方式如下:

text
1from typesafe_sdk import Choice, TypeSafeClient
2
3with TypeSafeClient(model="jev-latest") as client: # reads TYPESAFE_API_KEY
4 r = client.system_one(
5 state=f"goal: {goal}\ntask: {task_type}\nlast error: {err} x{repeats}",
6 questions={
7 "action": Choice(
8 instructions="What should the agent do next",
9 criteria={
10 "proceed": "Nothing suggests the next step will fail",
11 "reuse_cache": "A fresh artifact for this already exists",
12 "stop_retry": "The same approach failed the same way",
13 "research_capped": "Enough sources are already gathered",
14 "ask_human": "The step sends, publishes, pays or deletes",
15 },
16 )
17 },
18 )
19
20print(r.choices["action"].choice, r.choices["action"].confidence)

路由器會從這五個選項中挑出一個,而且無法回答其他任何內容。

步驟 1:取得 API 金鑰

開啟你的 TypeSafe 儀表板並建立一個 API 金鑰。不要把它放進聊天室、程式碼庫,或任何你打算分享的技能中。

步驟 2:把金鑰放到電腦上

使用遮罩式密鑰請求流程。金鑰絕對不會經過聊天室。

在新增之前有一件事要知道:你的 Grok Bot 雲端電腦是每個帳號一台機器,你在上面執行的每一個機器人看到的都是相同的檔案、工作階段和登入狀態。你放在那裡的金鑰,所有機器人都能讀取。

text
1我需要給你一組 TypeSafe 的 API 憑證。請使用遮罩式密鑰請求流程,不要用聊天室。這個值必須成為你電腦上的環境變數 TYPESAFE_API_KEY,而且不能出現在你建立的任何檔案、日誌、技能或程式碼庫中。只需向我確認該變數已設定且可讀取,絕對不要回傳它的值。

步驟 3:安裝 SDK 並進行冒煙測試

text
1在你的電腦上執行:pip install typesafe-sdk
2
3然後撰寫 /work/jev/smoke.py,開啟 TypeSafeClient(model="jev-latest") 並發送一次 system_one 呼叫,包含一個 Choice 問題。狀態設為:"goal: file a support ticket. task: routing. last error: none x0"。條件設為:billing、technical、sales。
4
5執行它並向我顯示原始回應物件:選擇結果、機率和信心度。如果找不到 TYPESAFE_API_KEY,就停下來告訴我,不要硬編碼任何東西。

你要在輸出中尋找三樣東西:來自你自己清單的值、機率分佈,以及信心度數值。如果缺少其中任何一項,代表 SDK 連到了別的地方。

步驟 4:建立路由器

text
1在 /work/jev/router.py 建立一個路由模組,包含一個函式:
2
3 route(goal: str, task_type: str, last_error: str, repeats: int) -> dict
4
5它會將這四個欄位作為狀態發送給 Jev,並附帶一個名為 "action" 的 Choice 問題,條件如下:
6
7 proceed 沒有任何跡象顯示下一步會失敗
8 reuse_cache 已經存在可用的新產出物
9 stop_retry 相同的方法以相同的方式失敗了
10 research_capped 已經收集到足夠的來源
11 ask_human 該步驟涉及發送、發布、付款或刪除
12
13回傳選擇結果、信心度和機率。將每次呼叫附加到 /work/jev/decisions.jsonl,包含時間戳記、四個輸入值和完整回應。從 /work/jev/config.json 讀取行為設定,包含兩個鍵值:"enabled" 和 "mode"("shadow" 或 "active")。預設 enabled 為 false。
14
15除了這四個欄位外,狀態中不要包含任何提示文字。執行前先讓我看一下檔案內容。
rody - inline image

這四個欄位就是 Jev 能看到的全部狀態。它永遠拿不到你的提示詞、程式碼庫或對話紀錄,因此呼叫內容保持精簡,日誌也易於閱讀。

rody - inline image

步驟 5:新增技能

text
1建立一個名為 jev-usage-router 的技能。
2
3觸發時機:在任何瀏覽器工作階段、任何研究流程、任何失敗步驟的重試之前,以及在產生額外機器人之前。
4
5步驟:使用目前的目標、任務類型、最後一次錯誤的文字以及重複次數,呼叫 /work/jev/router.py 中的 route()。然後遵照行動指示:
6
7 proceed 按計畫繼續
8 reuse_cache 使用現有產出物,跳過該工作
9 stop_retry 放棄此方法並回報原因
10 research_capped 在 5 個來源後停止,並整理已有內容
11 ask_human 暫停並詢問我,不要自行繼續
12
13核准邊界:無論信心度多高,ask_human 都不可被覆寫。
14輸出:在執行報告中,每個決策佔一行。

請將該技能的權威版本保存在你自己的版本控制系統中。Grok Bot 每個例行程序只保留最近 20 筆執行紀錄,所以任何你重視的內容都要在產生時推送到你自己的儲存空間。

步驟 6:在影子模式下執行一週

text
1將 /work/jev/config.json 設為 {"enabled": true, "mode": "shadow"}。
2
3在影子模式下,於每個觸發點呼叫路由器並記錄決策,然後忽略它,照常執行你原本會做的事。不要改變你的任何工作方式。
4
5每天結束時,將以下內容附加到 /work/jev/report.md:呼叫次數、行動分佈、平均信心度,以及每個記錄的行動與你實際操作不符的案例。

影子模式之所以存在,是因為廉價的判斷者也可能出錯。去查看日誌中那些不一致的地方。如果 stop_retry 在一個第四次嘗試就會成功的方法上觸發了,你肯定希望在它被允許採取行動之前就知道這件事。

一週的真實流量足以讓你解讀。時間再短的話,樣本量太小,看不出什麼端倪。

rody - inline image

步驟 7:切換為正式模式,但保留緊急停止開關

text
1將 mode 設為 "active"。從現在起,遵照行動指示執行,而不僅僅是記錄。
2
3我隨時可以使用兩個緊急停止開關:
4 1. 在任何訊息中輸入 "bypass jev",該次執行就會忽略路由器
5 2. 在 config.json 中設定 {"enabled": false},完全停用路由器
6
7ask_human 仍然會暫停等我。繼續像之前一樣寫入 decisions.jsonl。

切換後仍要持續記錄。日誌是你分辨「幫你省錢的路由器」和「悄悄中斷本該完成工作的路由器」的唯一依據。

先路由什麼

從那個一直不斷重試的例行程序開始,其餘的設定先不要動。

最值得優先路由的例行程序都有一個共同點:Agent 不知道自己已經知道了什麼。它會為了磁碟上已有的檔案重新開啟瀏覽器;在五個來源就已經能回答問題時去讀第十四個來源;或者因為沒人告訴它第二次失敗的原因相同,而第三次嘗試同一個方法。

挑一個,在影子模式下執行,並在擴展之前先閱讀日誌。

成本是多少

一次 Jev 呼叫只攜帶四個簡短欄位,因此體積很小。每一次呼叫都為你買到了跳過昂貴步驟的選擇權:瀏覽器工作階段、研究流程、額外的機器人、或是重試。

請用你自己的流量來衡量,不要輕信任何人的數字,包括我的。記錄決策、記錄你跳過的步驟,然後比較影子模式那一週和正式模式那一週的差異。

需要記住的一些限制

  • 每個帳號一台電腦。 你執行的每個機器人看到的都是相同的檔案和登入狀態,所以任何你不打算交給所有機器人的東西,都不要放在那台機器上。
  • 每個例行程序二十筆執行紀錄。 把你重視的東西推送到自己的儲存空間。
  • 用量仍然不是無限的。 路由器能減少昂貴的操作,但無法移除上限。

所以你最終得到了什麼?

Grok Bot 負責思考和執行,Jev 回傳五種行動之一,而你對任何無法挽回的操作保有最終決定權。

從那個總是以同樣方式失敗的例行程序開始,在影子模式下執行一週,然後切換過去。

感謝閱讀!

完整指南與系列文章的其他部分:https://zodchiii.substack.com/

一鍵儲存

使用 YouMind AI 深度閱讀爆款文章

保存原文、追問細節、總結觀點,並在一個 AI 工作空間裡把爆款文章沉澱成可複用筆記。

了解 YouMind
寫給創作者

把你的 Markdown 變成乾淨的 𝕏 文章

圖片上傳、表格、程式碼區塊,往 𝕏 上手動重排太痛苦。YouMind 把整篇 Markdown 一鍵轉成乾淨、可直接發佈的 𝕏 文章草稿。

試試 Markdown 轉 𝕏

更多可拆解樣本

近期爆款文章

探索更多爆款文章