Jev in Grok Bot einbinden: Der beste Agent, den ich je gebaut habe

Grok Bot gibt jedem Nutzer einen Cloud-Computer und lässt Bots darauf eine Shell ausführen. Die meisten Leute lassen ihn auf Aufgaben los und schauen zu, wie er denselben Fehler immer wieder neu versucht.

Du fügst eine einzige Router-Skill hinzu, lässt sie eine Woche lang nur mitloggen, bevor sie handeln darf, und behältst einen Notausschalter.

Wenn du es richtig verkabelst, enden die Wiederholungsversuche, bevor sie dich etwas kosten.

Hier ist das komplette Setup 👇

Bevor wir loslegen: Ich veröffentliche die vollständigen Guides auf meinem Substack: https://zodchiii.substack.com/ 🧠

Was Jev als Antwort zurückgibt

Jev ist das System-One-Modell von TypeSafe. Es antwortet mit einem typisierten Wert statt mit Fließtext und bringt drei Primitiven mit:

• Choice wählt eine Option aus einer von dir definierten Liste und gibt Wahl, Wahrscheinlichkeiten und Konfidenz zurück
• Score bewertet den Zustand anhand eines Kriterienkatalogs
• Noul beantwortet, ob eine Aussage wahr ist, als Zahl von 0 bis 1

Weil die Antwort als Wert zurückkommt, kannst du sie loggen, zwei Wochen voller Entscheidungen gegeneinander diffen und sie über den Traffic von gestern noch einmal abspielen.

Der Aufruf sieht so aus:

1from typesafe_sdk import Choice, TypeSafeClient
2
3with TypeSafeClient(model="jev-latest") as client:   # liest TYPESAFE_API_KEY
4    r = client.system_one(
5        state=f"goal: {goal}\ntask: {task_type}\nlast error: {err} x{repeats}",
6        questions={
7            "action": Choice(
8                instructions="Was soll der Agent als Nächstes tun",
9                criteria={
10                    "proceed": "Nichts deutet darauf hin, dass der nächste Schritt fehlschlägt",
11                    "reuse_cache": "Ein aktuelles Artefakt dafür existiert bereits",
12                    "stop_retry": "Derselbe Ansatz ist auf dieselbe Weise gescheitert",
13                    "research_capped": "Es sind bereits genug Quellen gesammelt",
14                    "ask_human": "Der Schritt sendet, veröffentlicht, bezahlt oder löscht",
15                },
16            )
17        },
18    )
19
20print(r.choices["action"].choice, r.choices["action"].confidence)

Der Router wählt eine dieser fünf Optionen und hat keine Möglichkeit, etwas anderes zu antworten.

Schritt 1: API-Key besorgen

Öffne dein TypeSafe-Dashboard und erstelle einen API-Key. Halte ihn aus dem Chat, aus dem Repo und aus jeder Skill heraus, die du teilen möchtest.

Schritt 2: Den Key auf den Computer bringen

Nutze den Ablauf für maskierte Secret-Anfragen. Der Key geht niemals durch den Chat.

Eine Sache, die du wissen solltest, bevor du ihn hinzufügst: Dein Grok-Bot-Cloud-Computer ist eine einzelne Maschine pro Account, und jeder Bot, den du darauf laufen lässt, sieht dieselben Dateien, Sessions und Logins. Der Key, den du dort hinterlegst, ist für alle lesbar.

1Ich muss dir einen API-Zugang für TypeSafe geben. Nutze den Ablauf für maskierte Secrets, nicht den Chat. Der Wert muss als Umgebungsvariable TYPESAFE_API_KEY auf deinem Computer landen und darf in keiner Datei, keinem Log, keiner Skill und keinem Repo auftauchen, das du erstellst. Bestätige mir nur, dass die Variable gesetzt und lesbar ist, niemals ihren Wert.

Schritt 3: SDK installieren und kurz testen

1Führe auf deinem Computer aus: pip install typesafe-sdk
2
3Schreibe dann /work/jev/smoke.py, das TypeSafeClient(model="jev-latest") öffnet und einen einzigen system_one-Aufruf mit einer Choice-Frage sendet. State: "goal: Support-Ticket erstellen. task: Routing. last error: none x0". Kriterien: billing, technical, sales.
4
5Führe es aus und zeig mir das rohe Response-Objekt: die Wahl, die Wahrscheinlichkeiten und die Konfidenz. Wenn TYPESAFE_API_KEY fehlt, brich ab und sag mir Bescheid, hardcode nichts.

Im Output suchst du nach drei Dingen: einem Wert aus deiner eigenen Liste, einer Wahrscheinlichkeitsverteilung und einer Konfidenzzahl. Fehlt eines davon, spricht das SDK mit etwas anderem.

Schritt 4: Den Router bauen

1Baue ein Router-Modul unter /work/jev/router.py mit einer Funktion:
2
3    route(goal: str, task_type: str, last_error: str, repeats: int) -> dict
4
5Sie sendet genau diese vier Felder als State an Jev, zusammen mit einer Choice-Frage namens "action" und diesen Kriterien:
6
7  proceed          nichts deutet darauf hin, dass der nächste Schritt fehlschlägt
8  reuse_cache      ein aktuelles Artefakt dafür existiert bereits
9  stop_retry       derselbe Ansatz ist auf dieselbe Weise gescheitert
10  research_capped  es sind bereits genug Quellen gesammelt
11  ask_human        der Schritt sendet, veröffentlicht, bezahlt oder löscht
12
13Gib die Wahl, die Konfidenz und die Wahrscheinlichkeiten zurück. Hänge jeden Aufruf mit Zeitstempel, den vier Inputs und der vollständigen Antwort an /work/jev/decisions.jsonl an. Lies das Verhalten aus /work/jev/config.json mit zwei Schlüsseln: "enabled" und "mode" ("shadow" oder "active"). Standardmäßig enabled false.
14
15Kein Prompt-Text im State außer diesen vier Feldern. Zeig mir die Datei, bevor du sie ausführst.

Diese vier Felder sind der gesamte State, den Jev sieht. Es bekommt niemals deinen Prompt, dein Repo oder deine Konversation – deshalb bleibt der Aufruf klein und das Log lesbar.

Schritt 5: Die Skill hinzufügen

1Erstelle eine Skill namens jev-usage-router.
2
3Trigger: vor jeder Browser-Session, jedem Research-Durchlauf, jedem erneuten Versuch eines fehlgeschlagenen Schritts und bevor ein zusätzlicher Bot gestartet wird.
4
5Schritte: Rufe route() aus /work/jev/router.py mit dem aktuellen Ziel, dem Aufgabentyp, dem Text des letzten Fehlers und der Anzahl der Wiederholungen auf. Befolge dann die Aktion:
6
7  proceed          wie geplant weitermachen
8  reuse_cache      das bestehende Artefakt nutzen, Arbeit überspringen
9  stop_retry       diesen Ansatz aufgeben und begründen, warum
10  research_capped  bei 5 Quellen stoppen und das Vorhandene aufschreiben
11  ask_human        pausieren und mich fragen, nicht eigenständig weitermachen
12
13Freigabegrenze: ask_human wird niemals überschrieben, egal wie hoch die Konfidenz ist. Ausgabe: eine Zeile pro Entscheidung im Laufbericht.

Bewahre die maßgebliche Kopie dieser Skill in deiner eigenen Versionskontrolle auf. Grok Bot speichert nur die 20 neuesten Laufprotokolle pro Routine – schiebe also alles, was dir wichtig ist, direkt in deinen eigenen Speicher.

Schritt 6: Eine Woche im Shadow-Modus laufen lassen

1Setze /work/jev/config.json auf {"enabled": true, "mode": "shadow"}.
2
3Im Shadow-Modus rufst du den Router bei jedem Trigger auf und loggst die Entscheidung, ignorierst sie dann aber und tust, was du ohnehin getan hättest. Ändere nichts an deiner Arbeitsweise.
4
5Hänge am Ende jedes Tages an /work/jev/report.md an: wie viele Aufrufe, die Verteilung der Aktionen, die durchschnittliche Konfidenz und jeden Fall, in dem die geloggte Aktion von dem abwich, was du tatsächlich getan hast.

Den Shadow-Modus gibt es, weil ein günstiger Richter falschliegen kann. Lies das Log auf die Abweichungen hin. Wenn stop_retry bei einem Ansatz greift, der beim vierten Versuch funktioniert hätte, willst du das wissen, bevor er handeln darf.

Eine Woche echter Traffic reicht zum Auswerten. Bei weniger ist die Stichprobe zu klein, um dir viel zu sagen.

Schritt 7: Aktiv schalten, aber den Notausschalter behalten

1Setze mode auf "active". Ab jetzt befolgst du die Aktion, statt sie nur zu loggen.
2
3Zwei Notausschalter bleiben mir jederzeit verfügbar:
4  1. "bypass jev" in einer beliebigen Nachricht, wodurch der Router für diesen Lauf ignoriert wird
5  2. {"enabled": false} in config.json, wodurch er komplett deaktiviert wird
6
7ask_human pausiert weiterhin für mich. Schreibe decisions.jsonl exakt wie bisher weiter.

Logge auch nach dem Umschalten weiter. Das Log ist der einzige Weg, um einen Router, der dir Geld spart, von einem zu unterscheiden, der still Arbeit abbricht, die er hätte beenden sollen.

Was du zuerst routen solltest

Fang mit der einen Routine an, die ständig neu versucht, und lass den Rest deines Setups in Ruhe.

Die Routinen, die sich zuerst lohnen, haben eines gemeinsam: Der Agent weiß nicht, was er bereits weiß. Er öffnet erneut einen Browser für eine Datei, die schon auf der Festplatte liegt, liest eine vierzehnte Quelle, obwohl fünf die Frage beantwortet haben, oder probiert denselben Ansatz ein drittes Mal, weil ihm niemand gesagt hat, dass der zweite aus demselben Grund gescheitert ist.

Such dir eine aus, lass sie im Shadow-Modus laufen und lies das Log, bevor du ausweitest.

Was es kostet

Ein Jev-Aufruf transportiert vier kurze Felder, bleibt also klein. Jeder davon kauft dir die Option, einen teuren Schritt zu überspringen: eine Browser-Session, einen Research-Durchlauf, einen zusätzlichen Bot, einen Wiederholungsversuch.

Miss es an deinem eigenen Traffic, statt irgendjemandem Zahlen zu glauben – auch meinen nicht. Logge die Entscheidung, logge den übersprungenen Schritt und vergleiche eine Shadow-Woche mit einer aktiven Woche.

Ein paar Grenzen, die du im Kopf behalten solltest

• Ein Computer pro Account. Jeder Bot, den du startest, sieht dieselben Dateien und Logins. Halte also alles, was du nicht allen geben würdest, von dieser Maschine fern.
• Zwanzig Laufprotokolle pro Routine. Schiebe alles, was dir wichtig ist, in deinen eigenen Speicher.
• Das Kontingent ist weiterhin nicht unbegrenzt. Der Router reduziert teure Aktionen, hebt aber die Obergrenze nicht auf.

Was kommt dabei also heraus?

Grok Bot denkt und arbeitet, Jev antwortet mit einer von fünf Aktionen, und du behältst das letzte Wort bei allem, was sich nicht rückgängig machen lässt.

Starte mit der Routine, die immer wieder auf dieselbe Weise scheitert, lass sie eine Woche im Shadow-Modus laufen und schalte sie dann aktiv.

Danke fürs Lesen!

Vollständige Guides und der Rest der Serie: https://zodchiii.substack.com/