Jev'i Grok Bot'a Nasıl Bağlanır: Kurduğum En İyi Ajan

Grok Bot her kullanıcıya bir bulut bilgisayar veriyor ve botların üzerinde shell çalıştırmasına izin veriyor. Çoğu kişi onu görevlere yönlendirip aynı hatayı tekrar tekrar denemesini izliyor.

Sen bir yönlendirici (router) yeteneği ekliyorsun, harekete geçmesine izin vermeden önce bir hafta boyunca log tutmasını sağlıyorsun ve bir acil durdurma anahtarı bulunduruyorsun.

Doğru bağlarsan, yeniden denemeler sana bir şey kaybettirmeden durur.

İşte tam kurulum 👇

Başlamadan önce, tüm rehberleri Substack'imde yayınlıyorum: https://zodchiii.substack.com/ 🧠

Jev'in yanıt olarak ne döndürdüğü

Jev, TypeSafe'in System One modelidir. Düzyazı yerine tipli bir değerle yanıt verir ve üç temel yapı taşını beraberinde getirir:

• Choice, tanımladığın bir listeden tek bir seçenek seçer; seçimi, olasılıkları ve güven skorunu döndürür
• Score, durumu bir değerlendirme kriterine göre puanlar
• Noul, bir ifadenin doğru olup olmadığını 0 ile 1 arasında bir sayı olarak yanıtlar

Yanıt bir değer olarak geldiği için bunu loglayabilir, iki haftalık kararları birbirleriyle karşılaştırabilir ve dünkü trafik üzerinden yeniden oynatabilirsin.

Çağrı şu şekilde görünür:

1from typesafe_sdk import Choice, TypeSafeClient
2
3with TypeSafeClient(model="jev-latest") as client:   # TYPESAFE_API_KEY değişkenini okur
4    r = client.system_one(
5        state=f"goal: {goal}\ntask: {task_type}\nlast error: {err} x{repeats}",
6        questions={
7            "action": Choice(
8                instructions="Ajanın bundan sonra ne yapması gerekiyor",
9                criteria={
10                    "proceed": "Hiçbir şey bir sonraki adımın başarısız olacağını göstermiyor",
11                    "reuse_cache": "Bunun için zaten yeni bir çıktı mevcut",
12                    "stop_retry": "Aynı yaklaşım aynı şekilde başarısız oldu",
13                    "research_capped": "Zaten yeterli sayıda kaynak toplandı",
14                    "ask_human": "Bu adım gönderim, yayınlama, ödeme veya silme işlemi yapıyor",
15                },
16            )
17        },
18    )
19
20print(r.choices["action"].choice, r.choices["action"].confidence)

Yönlendirici bu beşinden birini seçer ve başka hiçbir şeye yanıt verme imkânı yoktur.

Adım 1: API anahtarını al

TypeSafe panelini aç ve bir API anahtarı oluştur. Bunu sohbetten, repodan ve paylaşmayı planladığın herhangi bir yetenekten (skill) uzak tut.

Adım 2: Anahtarı bilgisayara aktar

Maskelenmiş gizli bilgi talep akışını kullan. Anahtar asla sohbetten geçmez.

Eklemeden önce bilmen gereken bir şey: Grok Bot bulut bilgisayarın hesap başına tek bir makinedir ve üzerinde çalıştırdığın her bot aynı dosyaları, oturumları ve girişleri görür. Oraya koyduğun anahtar hepsi tarafından okunabilir.

1Sana TypeSafe için bir API kimlik bilgisi vermem gerekiyor. Sohbeti değil, maskelenmiş gizli bilgi
2talep akışını kullan. Değer, bilgisayarında TYPESAFE_API_KEY ortam değişkeni olarak yer almalı
3ve oluşturduğun hiçbir dosyada, logda, yetenekte veya repoda görünmemelidir. Sadece değişkenin ayarlandığını
4ve okunabilir olduğunu doğrula, asla değerini yazma.

Adım 3: SDK'yı kur ve hızlı bir test yap

1Bilgisayarında şunu çalıştır:  pip install typesafe-sdk
2
3Sonra TypeSafeClient(model="jev-latest") açan ve tek bir Choice sorusuyla
4bir system_one çağrısı gönderen /work/jev/smoke.py dosyasını yaz. Durum:
5"goal: file a support ticket. task: routing. last error: none x0".
6Kriterler: billing, technical, sales.
7
8Çalıştır ve bana ham yanıt nesnesini göster: seçimi, olasılıkları
9ve güven skorunu. Eğer TYPESAFE_API_KEY eksikse dur ve bana söyle,
10hiçbir şeyi elle koda yazma.

Çıktıda üç şey arıyorsun: kendi listenden bir değer, bir olasılık dağılımı ve bir güven skoru. Bunlardan herhangi biri yoksa, SDK başka bir şeyle konuşuyor demektir.

Adım 4: Yönlendiriciyi oluştur

1/work/jev/router.py konumunda tek bir fonksiyonu olan bir yönlendirici modülü oluştur:
2
3    route(goal: str, task_type: str, last_error: str, repeats: int) -> dict
4
5Tam olarak bu dört alanı durum (state) olarak Jev'e gönderir, "action" adında tek bir Choice
6sorusu ve şu kriterleri içerir:
7
8  proceed          hiçbir şey bir sonraki adımın başarısız olacağını göstermiyor
9  reuse_cache      bunun için zaten yeni bir çıktı mevcut
10  stop_retry       aynı yaklaşım aynı şekilde başarısız oldu
11  research_capped  zaten yeterli sayıda kaynak toplandı
12  ask_human        bu adım gönderim, yayınlama, ödeme veya silme işlemi yapıyor
13
14Seçimi, güven skorunu ve olasılıkları döndür. Her çağrıyı bir zaman damgası, dört girdi ve tam
15yanıtla birlikte /work/jev/decisions.jsonl dosyasına ekle. Davranışı iki anahtar içeren
16/work/jev/config.json dosyasından oku: "enabled" ve "mode" ("shadow" veya "active"). Varsayılan olarak enabled false olsun.
17
18Durumda bu dört alan dışında hiçbir prompt metni olmasın. Çalıştırmadan önce
19dosyayı bana göster.

Bu dört alan, Jev'in gördüğü durumun tamamıdır. Prompt'unu, reponu veya konuşmanı asla almaz; böylece çağrı küçük kalır ve log okunabilir olur.

Adım 5: Yeteneği ekle

1jev-usage-router adında bir yetenek (skill) oluştur.
2
3Tetikleyici: herhangi bir tarayıcı oturumundan, araştırma turundan, başarısız bir adımın
4yeniden denenmesinden ve ekstra bir bot oluşturmadan önce.
5
6Adımlar: /work/jev/router.py dosyasındaki route() fonksiyonunu mevcut hedef,
7görev türü, son hatanın metni ve kaç kez tekrarlandığı bilgileriyle çağır.
8Sonra aksiyona uy:
9
10  proceed          planlandığı gibi devam et
11  reuse_cache      mevcut çıktıyı kullan, işi atla
12  stop_retry       bu yaklaşımdan vazgeç ve nedenini bildir
13  research_capped  5 kaynakta dur ve elindekini yaz
14  ask_human        durakla ve bana sor, kendi başına ilerleme
15
16Onay sınırı: ask_human, güven skoru ne olursa olsun asla geçersiz kılınmaz.
17Çıktı: çalışma raporunda her karar için bir satır.

Bu yeteneğin asıl kopyasını kendi sürüm kontrol sisteminde tut. Grok Bot, rutin başına yalnızca en son 20 çalışma kaydını tutar; bu yüzden önemsediğin her şeyi gerçekleştiği anda kendi depolama alanına aktar.

Adım 6: Bir hafta boyunca shadow (gölge) modda çalıştır

1/work/jev/config.json dosyasını {"enabled": true, "mode": "shadow"} olarak ayarla.
2
3Shadow modda, her tetikleyicide yönlendiriciyi çağır ve kararı logla, sonra onu
4görmezden gel ve normalde ne yapacaksan onu yap. Çalışma şeklinde
5hiçbir şey değiştirme.
6
7Her günün sonunda /work/jev/report.md dosyasına şunları ekle: kaç çağrı yapıldığı,
8aksiyon dağılımı, ortalama güven skoru ve loglanan aksiyonun gerçekte yaptığın şeyle
9uyuşmadığı her durum.

Shadow modun var olma sebebi, ucuz bir yargıcın hata yapabilmesidir. Uyuşmazlıklar için logu oku. Eğer stop_retry, dördüncü denemede işe yarayacak bir yaklaşım için tetiklenirse, harekete geçmesine izin verilmeden önce bunu bilmek istersin.

Okumak için bir haftalık gerçek trafik yeterlidir. Daha kısa sürede örneklem, sana pek bir şey söylemeyecek kadar küçük olur.

Adım 7: Aktif moda geç ama acil durdurma anahtarını elinde tut

1Mode'u "active" olarak ayarla. Bundan sonra kararı sadece loglamak yerine ona uy.
2
3Bana her zaman açık olan iki acil durdurma anahtarı kalıyor:
4  1. Herhangi bir mesajda "bypass jev" yazmak, o çalışma için yönlendiriciyi devre dışı bırakır
5  2. config.json içinde {"enabled": false} yapmak, onu tamamen kapatır
6
7ask_human benim için hâlâ duraklıyor. decisions.jsonl dosyasına tıpkı eskisi gibi yazmaya devam et.

Geçişi yaptıktan sonra da log tutmaya devam et. Log, sana para kazandıran bir yönlendirici ile bitirmesi gereken işi sessizce durduran bir yönlendiriciyi birbirinden ayırmanın yoludur.

Önce neyi yönlendirmeli

Sürekli yeniden deneme yapan o tek rutinden başla ve kurulumunun geri kalanını olduğu gibi bırak.

Önce yönlendirilmeye değer rutinlerin ortak bir özelliği vardır: ajan, zaten ne bildiğini bilmez. Diskte duran bir dosya için tarayıcıyı yeniden açar, beş tanesi soruyu yanıtlamışken on dördüncü bir kaynağı okur ya da ikinci denemenin aynı nedenden başarısız olduğunu ona söyleyen bir şey olmadığı için aynı yaklaşımı üçüncü kez dener.

Birini seç, shadow modda çalıştır ve genişletmeden önce logu oku.

Maliyeti ne kadar

Bir Jev çağrısı dört kısa alan taşır, bu yüzden küçük kalır. Her biri sana pahalı bir adımı atlama seçeneği satın alır: bir tarayıcı oturumu, bir araştırma turu, ekstra bir bot, bir yeniden deneme.

Benimki de dahil olmak üzere kimsenin rakamlarını almak yerine kendi trafiğinde ölç. Kararı logla, atladığın adımı logla ve bir shadow haftasını aktif bir haftayla karşılaştır.

Hatırlaman gereken bazı sınırlar

• Hesap başına bir bilgisayar. Çalıştırdığın her bot aynı dosyaları ve girişleri görür; bu yüzden hepsine vermek istemediğin hiçbir şeyi o makinede tutma.
• Rutin başına yirmi çalışma kaydı. Önemsendiğin her şeyi kendi depolama alanına aktar.
• Kullanım hâlâ sınırsız değil. Yönlendirici pahalı hamleleri azaltır ama üst sınırı ortadan kaldırmaz.

Peki sonuçta elinde ne kalıyor?

Grok Bot düşünmeyi ve işi yapar, Jev beş aksiyondan biriyle yanıt verir ve sen de geri alınamayacak her şeyde son sözü elinde tutarsın.

Aynı şekilde sürekli hata veren rutinden başla, bir hafta shadow modda çalıştır, sonra aktif moda geç.

Okuduğun için teşekkürler!

Tam rehberler ve serinin devamı: https://zodchiii.substack.com/