YouMind
로그인

Grok Bot에 Jev를 연결하는 방법: 제가 만든 최고의 에이전트

@0x_rody
영어2026년 10월 20일
153K
250
22
27
854

TL;DR

이 가이드는 TypeSafe의 Jev 모델을 Grok Bot과 통합하여 불필요한 재시도나 중복 연구와 같은 반복적인 AI 작업을 방지하고 성능을 최적화하며 비용을 절감하는 의사 결정 라우터를 만드는 방법을 보여줍니다.

Grok Bot 은 모든 사용자에게 클라우드 컴퓨터 한 대를 제공하고, 봇이 그 위에서 셸을 실행할 수 있게 해줍니다. 대부분의 사람들은 그저 작업을 지시하고, 같은 실패를 반복하는 모습을 지켜보기만 합니다.

라우터 스킬 하나를 추가하고, 실제로 행동하기 전까지 일주일간 로그만 쌓이게 둔 다음, 킬 스위치를 유지하세요.

제대로 연결하면 비용이 발생하기 전에 재시도가 멈춥니다.

전체 설정 방법은 다음과 같습니다 👇

본격적으로 시작하기 전에, 전체 가이드는 제 Substack 에 게시하고 있습니다: https://zodchiii.substack.com/ 🧠

rody - inline image

Jev 가 답변으로 반환하는 것

Jev 는 TypeSafe 의 System One 모델입니다. 자연어 대신 타입이 지정된 값으로 답변하며, 세 가지 프리미티브를 제공합니다:

  • Choice 는 사용자가 정의한 목록에서 옵션 하나를 선택해 choice, 확률, 신뢰도를 반환합니다
  • Score 는 루브릭에 따라 상태를 평가합니다
  • Noul 은 특정 문장이 참인지 여부를 0 에서 1 사이의 숫자로 답변합니다

답변이 값으로 돌아오기 때문에 이를 기록하고, 2 주간의 의사결정을 서로 비교(diff)하거나 어제의 트래픽에 대해 다시 재생(replay)해 볼 수 있습니다.

호출은 다음과 같이 생겼습니다:

text
1from typesafe_sdk import Choice, TypeSafeClient
2
3with TypeSafeClient(model="jev-latest") as client: # TYPESAFE_API_KEY 를 읽음
4 r = client.system_one(
5 state=f"goal: {goal}\ntask: {task_type}\nlast error: {err} x{repeats}",
6 questions={
7 "action": Choice(
8 instructions="에이전트가 다음에 무엇을 해야 하는가",
9 criteria={
10 "proceed": "다음 단계가 실패할 것이라는 징후가 없음",
11 "reuse_cache": "이에 대한 새로운 아티팩트가 이미 존재함",
12 "stop_retry": "같은 접근 방식이 동일한 이유로 실패함",
13 "research_capped": "이미 충분한 자료가 수집됨",
14 "ask_human": "해당 단계가 전송, 게시, 결제 또는 삭제를 수행함",
15 },
16 )
17 },
18 )
19
20print(r.choices["action"].choice, r.choices["action"].confidence)

라우터는 이 다섯 가지 중 하나를 선택하며, 그 외의 다른 것에 답할 방법은 없습니다.

1 단계: API 키 발급받기

TypeSafe 대시보드를 열고 API 키를 생성하세요. 채팅 창, 리포지토리, 공유할 예정인 어떤 스킬에도 키를 노출하지 마세요.

2 단계: 컴퓨터에 키 등록하기

마스킹된 시크릿 요청 플로우를 사용하세요. 키는 절대 채팅을 거치지 않습니다.

추가하기 전에 알아둘 점이 하나 있습니다. Grok Bot 클라우드 컴퓨터는 계정당 단일 머신이며, 그 위에서 실행되는 모든 봇이 동일한 파일, 세션, 로그인을 공유합니다. 그곳에 넣은 키는 모든 봇이 읽을 수 있습니다.

text
1TypeSafe 용 API 자격 증명을 전달해야 해. 채팅이 아니라 마스킹된 시크릿
2요청 플로우를 사용해. 값은 내 컴퓨터의 환경 변수 TYPESAFE_API_KEY 로
3저장되어야 하고, 네가 생성하는 어떤 파일, 로그, 스킬, 리포지토리에도
4나타나서는 안 돼. 변수가 설정되었고 읽을 수 있다는 사실만 확인해 주고,
5값 자체는 절대 알려주지 마.

3 단계: SDK 설치 및 스모크 테스트

text
1컴퓨터에서 다음을 실행해: pip install typesafe-sdk
2
3그런 다음 TypeSafeClient(model="jev-latest") 를 열고 단일 Choice 질문으로
4system_one 호출을 한 번 보내는 /work/jev/smoke.py 를 작성해.
5상태(state): "goal: file a support ticket. task: routing. last error: none x0".
6기준(criteria): billing, technical, sales.
7
8실행하고 원시 응답 객체를 보여줘: choice, 확률, 신뢰도.
9TYPESAFE_API_KEY 가 없으면 중단하고 나에게 알려줘.
10절대 하드코딩하지 마.

출력에서 확인해야 할 것은 세 가지입니다. 직접 만든 목록에서 나온 값, 확률 분포, 그리고 신뢰도 수치입니다. 이 중 하나라도 없다면 SDK 가 다른 무언가와 통신하고 있는 것입니다.

4 단계: 라우터 구축하기

text
1/work/jev/router.py 에 함수 하나로 구성된 라우터 모듈을 만들어:
2
3 route(goal: str, task_type: str, last_error: str, repeats: int) -> dict
4
5정확히 이 네 개의 필드를 상태(state) 로 Jev 에게 보내고, "action" 이라는 이름의
6Choice 질문 하나와 다음 기준(criteria) 을 포함해:
7
8 proceed 다음 단계가 실패할 것이라는 징후가 없음
9 reuse_cache 이에 대한 새로운 아티팩트가 이미 존재함
10 stop_retry 같은 접근 방식이 동일한 이유로 실패함
11 research_capped 이미 충분한 자료가 수집됨
12 ask_human 해당 단계가 전송, 게시, 결제 또는 삭제를 수행함
13
14선택된 항목, 신뢰도, 확률을 반환해. 모든 호출은 타임스탬프, 네 개의 입력값,
15전체 응답과 함께 /work/jev/decisions.jsonl 에 추가해.
16동작 설정은 /work/jev/config.json 에서 "enabled" 와 "mode" ("shadow" 또는 "active")
17두 키로 읽어와. 기본값은 enabled false 로 해.
18
19네 개의 필드 외에 상태(state) 에 프롬프트 텍스트를 넣지 마.
20실행하기 전에 파일을 먼저 보여줘.
rody - inline image

이 네 개의 필드가 Jev 가 보는 상태의 전부입니다. 프롬프트, 리포지토리, 대화 내용은 절대 전달되지 않으므로 호출은 가볍게 유지되고 로그는 읽기 쉽게 남습니다.

rody - inline image

5 단계: 스킬 추가하기

text
1jev-usage-router 라는 스킬을 만들어.
2
3트리거: 브라우저 세션 시작 전, 리서치 패스 전, 실패한 단계 재시도 전,
4추가 봇 생성 전.
5
6단계: 현재 목표, 작업 유형, 마지막 오류 메시지, 반복 횟수를 인수로
7/work/jev/router.py 의 route() 를 호출해.
8그리고 결정된 액션을 따르도록 해:
9
10 proceed 계획대로 진행
11 reuse_cache 기존 아티팩트를 사용하고 작업 건너뛰기
12 stop_retry 이 접근 방식을 포기하고 이유 보고
13 research_capped 자료 5 개에서 멈추고 가진 내용 정리
14 ask_human 일시 중지하고 나에게 물어보기, 혼자 진행하지 않기
15
16승인 경계: ask_human 은 신뢰도와 관계없이 절대 무시할 수 없어.
17출력: 실행 보고서에 결정 사항당 한 줄씩 기록.

해당 스킬의 원본은 반드시 본인의 소스 컨트롤에 보관하세요. Grok Bot 은 루틴당 최근 20 개의 실행 기록만 유지하므로, 중요한 데이터는 발생하는 즉시 본인 저장소에 푸시해야 합니다.

6 단계: 일주일간 섀도우 모드로 실행하기

text
1/work/jev/config.json 을 {"enabled": true, "mode": "shadow"} 로 설정해.
2
3섀도우 모드에서는 모든 트리거에서 라우터를 호출하고 결정을 기록하되,
4실제로는 무시하고 원래 하려던 대로 진행해. 작업 방식을 아무것도 바꾸지 마.
5
6매일 끝날 때 /work/jev/report.md 에 다음을 추가해: 호출 횟수,
7액션별 분포, 평균 신뢰도, 그리고 기록된 액션과 실제 수행한 동작이
8불일치한 모든 사례.

섀도우 모드가 존재하는 이유는 저렴한 판정 모델도 틀릴 수 있기 때문입니다. 불일치가 발생한 로그를 읽어보세요. 네 번째 시도에서 성공했을 접근 방식에 stop_retry 가 발동했다면, 실제로 행동 권한을 주기 전에 이를 파악해야 합니다.

실제 트래픽 일주일 치면 판단하기에 충분합니다. 그보다 짧으면 샘플이 너무 작아 유의미한 결론을 내리기 어렵습니다.

rody - inline image

7 단계: 활성 모드로 전환하되 킬 스위치는 유지하기

text
1mode 를 "active" 로 설정해. 이제부터는 결정을 기록만 하지 말고 실제로 따르도록 해.
2
3나는 항상 두 개의 킬 스위치를 사용할 수 있어야 해:
4 1. 아무 메시지에나 "bypass jev" 를 적으면 해당 실행에서 라우터를 무시
5 2. config.json 에 {"enabled": false} 를 설정하면 완전히 비활성화
6
7ask_human 은 여전히 나를 위해 일시 중지해야 해.
8decisions.jsonl 기록은 이전과 똑같이 계속해.

전환 후에도 로그 기록을 계속하세요. 로그가 있어야 돈을 절약해 주는 라우터와, 마쳤어야 할 작업을 조용히 중단시켜 버리는 라우터를 구분할 수 있습니다.

무엇을 먼저 라우팅할 것인가

계속 재시도하는 루틴 하나만 골라 시작하고, 나머지 설정은 건드리지 마세요.

먼저 라우팅할 가치가 있는 루틴에는 공통점이 하나 있습니다. 에이전트가 자신이 이미 아는 것을 모른다는 점입니다. 디스크에 있는 파일을 열려고 브라우저를 다시 띄우고, 5 개로 충분히 답을 얻을 수 있는 질문에 14 번째 자료를 읽고, 두 번째 시도가 같은 이유로 실패했다는 사실을 아무도 알려주지 않아 세 번째로 동일한 접근 방식을 시도합니다.

하나를 골라 섀도우 모드로 실행하고, 확장하기 전에 로그를 읽어보세요.

비용은 얼마나 드는가

Jev 호출은 짧은 필드 네 개만 전달하므로 가볍습니다. 각 호출 한 번으로 브라우저 세션, 리서치 패스, 추가 봇, 재시도 같은 고비용 단계를 건너뛸 수 있는 선택지를 얻습니다.

저의 수치를 포함해 누구의 숫자를 그대로 믿지 말고, 본인의 트래픽으로 직접 측정하세요. 결정을 기록하고, 건너뛴 단계를 기록한 뒤, 섀도우 주간과 활성 주간을 비교해 보세요.

기억해야 할 몇 가지 제한 사항

  • 계정당 컴퓨터 한 대. 실행하는 모든 봇이 동일한 파일과 로그인을 보므로, 모든 봇에게 넘기고 싶지 않은 것은 해당 머신에 두지 마세요.
  • 루틴당 20 개의 실행 기록. 중요한 데이터는 본인 저장소로 푸시하세요.
  • 사용량이 여전히 무제한은 아닙니다. 라우터는 비용이 큰 동작을 줄여주지만, 상한선 자체를 없애지는 못합니다.

그래서 결국 무엇을 얻게 되는가?

Grok Bot 이 생각하고 일하고, Jev 가 다섯 가지 액션 중 하나로 답변하며, 되돌릴 수 없는 일에 대한 최종 결정권은 당신이 갖게 됩니다.

같은 방식으로 계속 실패하는 루틴부터 시작해 일주일간 섀도우 모드로 돌린 뒤, 전환하세요.

읽어주셔서 감사합니다!

전체 가이드와 시리즈의 나머지 글: https://zodchiii.substack.com/

원클릭 저장

YouMind로 바이럴 글을 AI 심층 읽기

소스를 저장하고, 핵심 질문을 던지고, 주장을 요약해 바이럴 글을 다시 활용할 수 있는 노트로 바꾸세요. 하나의 AI 워크스페이스에서 모두 할 수 있습니다.

YouMind 둘러보기
크리에이터를 위해

당신의 Markdown을 깔끔한 𝕏 글로

직접 쓴 장문을 올릴 때 이미지, 표, 코드 블록을 𝕏에 맞게 정리하는 일은 번거롭습니다. YouMind는 전체 Markdown 초안을 깔끔하고 바로 게시할 수 있는 𝕏 글로 바꿔 줍니다.

Markdown → 𝕏 사용해 보기

분석할 패턴 더 보기

최근 바이럴 아티클

더 많은 바이럴 아티클 보기