Jev Nedir? Kapsamlı Açıklama

LLM'leri her yapay zeka problemi için, basit kararlar dahil olmak üzere bir çekiç gibi kullanıyoruz. Jev bu kararları milisaniyeler içinde ve maliyetin çok küçük bir kısmıyla ele alıyor. Nasıl çalıştığını ve nereye oturduğunu anlayalım.

TypeSafe AI, 15 Eylül 2026'da Jev'i piyasaya sürdü ve bir sohbeti sürdüremeyen, kod yazamayan veya tek bir faydalı paragraf üretemeyen bir model için alışılmadık derecede güçlü bir tepki aldı.

Evet, bu kısıtlama tam da amaçlanan şey.

Çoğu yazılımın başka bir sohbota ihtiyacı yoktur. Binlerce küçük yargıda bulunması gerekir; örneğin: Bu talep acil mi? Bu isteği hangi model ele almalı? Bu shell komutu tehlikeli mi? Alınan pasaj soruyu yanıtlıyor mu?

Ekipler genellikle her yargıyı genel amaçlı bir LLM'e gönderir. Model yanıtı token token üretir, uygulama bunu ayrıştırır, doğrular ve yapı yanlışsa yeniden dener. Bu işe yarar, ancak beş olası yanıtı olan bir karar için yavaş ve pahalıdır.

Jev özellikle bu kararlar için tasarlanmıştır. TypeSafe buna Sistem Bir (System One) modeli diyor: Yapılandırılmamış durum girer, tipli yanıtlar ve olasılıklar çıkar.

Bunun ne anlama geldiğini, nereye oturduğunu ve pazarlamanın nerede biraz daha ölçülü olması gerektiğini inceleyelim.

Önce Jev'in Çözdüğü Sorun

Araç çağrısı (tool calling) ve yapılandırılmış çıktılar geldiğinde, LLM'lerin yazılımlara bağlanması çok daha kolay hale geldi.

Araç çağrısı, modelin tahmin edilebilir bir şekilde bir fonksiyon istemesini sağlar. Yapılandırılmış çıktılar ise şemaya uyan JSON döndürmesine olanak tanır. Her ikisi de büyük miktarda kırılgan ayrıştırma işlemini ortadan kaldırdı.

Ancak altta yatan model hala üretken (generative). Yanıt yalnızca "billing" tek bir kelime olsa bile, token'ları sırayla üretir. Girdi için ödeme yaparsınız, üretimi beklersiniz ve genellikle çıktı için daha fazla ödeme yaparsınız.

Şimdi bunu bir ajan döngüsünün içine yerleştirin.

1while not done:
2    action = llm(context)
3    result = run_tool(action)
4    context += result

Model, bir araç seçmek, sonucu değerlendirmek, risk algılamak, görevin tamamlandığına karar vermek ve sonraki modeli seçmek için tekrar çağrılabilir. Tek bir ajan çalıştırması, yargı gerektiren ancak üretilmiş nesir içermeyen birçok çağrı barındırabilir.

Jev bu tür çağrıları hedefler.

Bahsi basittir: Kod zaten olası yanıtları biliyorsa, dil üretimi yanlış arayüzdür.

Jev Aslında Nedir?

En kısa ve doğru tanım, semantik bir karar motorudur.

Jev'e iki şey gönderirsiniz:

• Durum: Mevcut durumu açıklayan metin veya JSON.
• Sorular: O durum hakkında yapılmasını istediğiniz kararlar.

Her soru, yanıt biçimini önceden bildirir. Jev üç temel ilkeyi destekler:

• Choice (Seçim), sizin tanımladığınız listeden bir seçenek seçer ve her seçenek için bir olasılık döndürür.
• Score (Skor), girdiyi düşük, orta ve yüksek gibi sizin tanımladığınız sıralı bir ölçek üzerinde konumlandırır.
• Noul, evet-hayır sorusunu, doğru olma olasılığını döndürerek yanıtlar.

Noul, TypeSafe'nin Boolean tarzı temel ilke için kullandığı isimdir. Olağandışı ismi, çıktıdan (kodunuzun işlem yapabileceği 0 ile 1 arasında bir sayı) daha az önemlidir.

1{
2  "model": "jev-latest",
3  "state": "The deploy failed twice and customers are seeing 500s.",
4  "questions": {
5    "urgent": {
6      "type": "noul",
7      "instructions": "Does this need attention right now?"
8    },
9    "owner": {
10      "type": "choice",
11      "instructions": "Which team should handle this?",
12      "criteria": {
13        "engineering": "Product failures and outages",
14        "billing": "Charges, invoices, and refunds",
15        "sales": "Pricing and new accounts"
16      }
17    }
18  }
19}

Yanıt, bir aciliyet olasılığı ve üç ekip üzerindeki bir olasılık dağılımını içerir. Yorumlanacak bir paragraf yoktur ve modelin icat edeceği dördüncü bir ekip yoktur.

Programınız kontrolü elinde tutar:

1if urgent > 0.9 and owner == "engineering":
2    page_on_call()
3elif confidence < 0.6:
4    send_to_human_review()
5else:
6    add_to_queue(owner)

İnsanların Jev'i akıllı bir switch ifadesi olarak nitelendirmesinin nedeni budur. Bu ifade küçümseyici gelebilir, ancak tasarımın faydalı kısmını yakalar. Sıradan kod dalları yönetir. Model ise sıradan kodun güvenilir bir şekilde hesaplayamadığı bulanık yargıyı sağlar.

Bir LLM'den Önemli Fark

Geleneksel bir LLM ve Jev, her ikisi de bir destek talebini sınıflandırabilir. Ancak yanıta farklı yollarla ulaşırlar ve sistemin farklı bölümlerinde faydalıdırlar.

TypeSafe, Jev'in bir istekteki her soruyu paralel olarak değerlendirdiğini belirtiyor. Bu, iş akışını nasıl tasarladığınızı değiştirir. Bir soru sormak, beklemek ve hangi sorunun geleceğine karar vermek yerine, aynı duruma ilişkin tüm bağımsız soruları tek bir istekte sorabilir ve kodunuzun ihtiyaç duyduğu yanıtları kullanmasına izin verebilirsiniz.

Şirket, uçtan uca gecikmenin 70 ile 500 milisaniye arasında olduğunu ve milyon girdi token başına 0,042 $ fiyat verdiğini, çıktıların ise ücretsiz olduğunu raporluyor. Ana iddiaları, karşılaştırılabilir LLM iş akışlarına kıyasla yaklaşık 200 kat daha hızlı ve 400 kat daha ucuz olduğu yönünde.

Bu büyük çarpanlar, TypeSafe'nin kendi iş akışı değerlendirmelerinden geliyor ve karşılaştırmanın lehine olan uç noktada yer alıyor. Bunları her uygulama için bir söz değil, bir tavan olarak değerlendirin. Altta yatan avantaj yine de inandırıcıdır: Jev, sınırlı kararlar için tasarlandığından uzun akıl yürütme izlerinden ve üretilen çıktılardan kaçınır.

Olasılıklar Neden Önemlidir?

Tipli bir yanıt, sorunun sadece yarısını çözer.

Diyelim ki Jev bir talebi faturalandırmaya yönlendiriyor. Seçilen etiket kimin kazandığını söyler. Olasılık dağılımı ise yarışın ne kadar yakın geçtiğini gösterir.

1{
2  "choice": "billing",
3  "probabilities": {
4    "billing": 0.52,
5    "technical": 0.46,
6    "sales": 0.02
7  },
8  "confidence": 0.18
9}

Bu talebi otomatik olarak yönlendirmek aceleci olurdu. Faturalandırma kazandı ama zar zor. Düşük güven düzeyine sahip bir yanıt farklı bir dalı tetiklemelidir.

Bu, geliştiricilere pratik bir desen sunar:

• Yüksek güven: Sonuç küçükse otomatik olarak hareket edin.
• Orta güven: Onay isteyin veya daha güçlü bir modele başvurun.
• Düşük güven: Vakayı bir insana gönderin veya daha fazla bilgi toplayın.

Eşikler, gözden geçirilip değiştirilebilecekleri kodda yer almalıdır. Bir panel etiketi zayıf bir tahmini tolere edebilir. Verileri silen bir komut ise çok daha yüksek bir standart gerektirmelidir.

TypeSafe, Jev'i Kalibre Edilmiş Kararlar İçin Pekiştirmeli Öğrenme (RLCD - Reinforcement Learning for Calibrated Decisions) kullanarak eğitiyor. Amaç, güvenin birçok tahminde doğruluğu yansıtmasıdır. Eğer bir model bir dizi yanıt için %90 olasılık verirse, bu yanıtların yaklaşık %90'ının doğru olması gerekir.

Halüsinasyon İddiası Kesinlik Gerektiriyor

TypeSafe, Jev'in halüsinasyon göremeyeceğini söylüyor. Bu ifade ancak dar bir tanım altında doğrudur.

Jev, şemanın dışındaki bir seçeneği döndüremez. Faturalandırma, teknik ve satış olarak tanımladıysanız, yanıt "hukuk" icat edemez. Ayrıca kodunuzun bir etiket beklediği yerde bozuk nesir de üretemez.

Ancak geçerli ama yanlış bir seçeneği kendinden emin bir şekilde tercih edebilir.

Tip güvenliği geçersiz yapıları önler. Doğru yargıyı garanti etmez. Bu ayrım önemlidir çünkü şema açısından geçerli bir hata yine de yanlış müşteriyi iade edebilir, bir olayı yanlış yönlendirebilir veya tehlikeli bir komutu onaylayabilir.

Daha güvenli bir cümle şudur: "Jev beyan edilen çıktı şemasını bozamaz, ancak yine de yanlış olabilir."

Jev Ajan İçinde Nereye Oturur?

Jev, bir LLM'in yerini aldığında değil, onunla birlikte kullanıldığında en iyi performansı gösterir.

LLM, dil veya daha derin akıl yürütme gerektiren işleri halleder. Planlar, yazar, açıklar ve araçları kullanır. Jev ise bu işin etrafındaki sık kararları ele alır.

Üç yerleşim özellikle dikkat çekicidir.

Model Yönlendirme

Basit bir arama, mimari incelemesiyle aynı modele ihtiyaç duymaz. Jev isteği puanlayabilir ve onu tamamlaması muhtemel en ucuz modeli seçebilir.

1route = jev.choice(
2    state=user_request,
3    options={
4        "fast": "Lookups, extraction, and small local edits",
5        "powerful": "Architecture, ambiguity, and high-stakes work",
6    },
7)
8
9model = fast_model if route == "fast" else powerful_model

Yönlendirici isteği yanıtlamaz. Hangi modelin yanıtlayacağına karar verir.

Araç Risk Kapıları

Bir ajan bir shell komutu çalıştırmadan önce, Jev bunu salt okunur, geri alınabilir veya yıkıcı olarak sınıflandırabilir. Bağımsız sorular dosya silip silmediğini, Git geçmişini değiştirip değiştirmediğini, üretim ortamına dokunup dokunmadığını veya depoyu terk edip etmediğini kontrol edebilir.

Yüksek güven düzeyine sahip salt okunur eylemler devam edebilir. Yıkıcı veya belirsiz eylemler insan onayı için durdurulabilir. LangChain'in Jev entegrasyonu, bu deseni bir araç çağrısını çalıştırmadan önce kontrol eden ara yazılım (middleware) aracılığıyla uygular.

Doğrulama ve Denetim

Bir ajan testler başarısız olmaya devam ederken görevin tamamlandığını iddia edebilir. Jev durumu inceleyebilir ve sınırlı soruları yanıtlayabilir: Testler geçti mi? Ajan aynı eylemi tekrarlıyor mu? Çıktı politikaya uygun mu? Bu sonuç gözden geçirilmeli mi?

Var olan sert bir testin yerini almaz. Kuralın anlama bağlı olduğu yerde semantik bir kontrol ekler.

Jev'in Bugün Çözebildiği Sorunlar

En iyi kullanım senaryoları üç özelliği paylaşır. Olası yanıtları adlandırabilirsiniz, dikkatli bir insan girdiyi hızla değerlendirebilir ve karar, gecikme veya maliyetin önemli hale gelmesi için yeterince sık gerçekleşir.

Destek ve Operasyonlar

• Niyeti, aciliyeti, departmanı, spam'i ve müşteri memnuniyetsizliğini sınıflandırın.
• İadeleri ve politika istisnalarını birkaç küçük kontrol üzerinden yönlendirin.
• Bir kişi okumadan önce günlükleri ve olayları semantik önemlerine göre sıralayın.

Tek bir istek, aynı talep hakkında bu soruların hepsini sorabilir. Kod daha sonra yanıtları şirketin gerçek yönlendirme politikasına göre birleştirir.

Arama ve Geri Getirme (Retrieval)

• Geri getirilen pasajları sorguyu yanıtlayıp yanıtlamadıklarına göre yeniden sıralayın.
• Bir atıfın bir iddiayı destekleyip desteklemediğini kontrol edin.
• Bağlamı pahalı bir LLM'e göndermeden önce alakasız parçaları filtreleyin.

Embedding'ler semantik olarak ilgili metni bulmakta mükemmeldir. Jev ise belirli bir pasajın bu soru için faydalı olup olmadığına dair daha dar kapsamlı kararı verebilir.

Kalite ve Güvenlik

• Prompt'ları jailbreak veya prompt injection'a karşı tarayın.
• Üretilen içeriği bir politikaya veya rubriğe karşı kontrol edin.
• Çalıştırılmadan önce riskli kod değişikliklerini veya araç çağrılarını işaretleyin.

Bu kontroller deterministik kontrollerin yanında yer almalıdır. Semantik bir sınıflandırıcı bulanık riskler için faydalıdır; ancak izinler, sandbox'lar ve testler, yazılımın tam olarak doğrulayabildiği kuralları uygular.

Yüksek Hacimli Sınıflandırma

• Belgeleri, araştırma makalelerini, ürün listelerini veya müşteri mesajlarını etiketleyin.
• Serbest metni geleneksel bir makine öğrenmesi modeli için özelliklere dönüştürün.
• Büyük bir korpusdaki her öğeyi aynı rubrik üzerinden puanlayın.

Burada düşük çağrı başına maliyet, sadece bir benchmark rakamından fazlası haline gelir. Her satırda çalıştırmak için çok pahalı olan bir yargı, normal veri hattına taşınabilir.

Gerçek Zamanlı Arayüzler

• Bilinen sayfa öğelerinden sonraki tarayıcı eylemini seçin.
• Bir kişi yazarken tonu veya netliği puanlayın.
• Yapılandırılmış oyun veya simülatör durumundan bir eylem seçin.

Jev bugün yalnızca metin tabanlıdır, bu nedenle bu sistemlerin ortamı önce metne veya JSON'a dönüştürmesi gerekir. Ekrana bakmıyor veya piksellerden oynayamıyor.

Jev'in Yanlış Tercih Olduğu Yerler

Cevap uzayı bilinen olmaktan çıktığı anda Jev'in faydası azalır.

• Bir yanıt yazamaz, belge özetleyemez, kod üretemez veya akıl yürütmesini açıklayamaz.
• Aritmetik, sayma, tarih karşılaştırma veya kesin dize manipülasyonu için güvenilmezdir. Bu işlemleri kodda tutun.
• Bir karar birden fazla gizli akıl yürütme adımı gerektirdiğinde zorlanır. Yargıyı daha küçük sorulara bölün veya bir akıl yürütme modeli kullanın.
• Bilinmeyen bir değeri doğrudan çıkaramaz. Önce aday değerleri bulun, ardından Jev'in bunlar arasından seçim yapmasına izin verin.
• Alakasız bağlam doğruluğu düşürebilir. Yalnızca karar için gereken durumu gönderin.
• Kapalı ağırlıklar, erken erişim, yalnızca metin girişi ve sınırlı bağımsız kalibrasyon verisi, körü körüne güvenmek için henüz çok erken olduğunu gösterir.

Daha basit bir kural da var: Deterministik kod sorunu zaten doğru şekilde çözüyorsa, kodu bırakmayın. Normal bir ifadesi herhangi bir modelden daha hızlı, daha ucuz ve test edilmesi daha kolaydır.

Yeni Bir Hata Modu Oluşturmadan Jev'i Nasıl Kullanırsınız?

Hataları yeniden deneme, manuel inceleme veya üretim olaylarına yol açıyorsa, ucuz bir model yine de pahalı olabilir. Token fiyatını değil, tüm iş akışını ölçün.

Mantıklı bir dağıtım şöyle görünür:

1. Net olası yanıtları olan tek bir sınırlı, düşük riskli karar seçin.
2. Modeli çağırmadan önce rubriği yazın. Her seçeneğe neyin ait olduğunu tanımlayın.
3. Beklenen yanıtlarla birlikte temsilci örnekleri toplayın; belirsiz ve hasmane vakaları da dahil edin.
4. Jev'i mevcut iş akışının yanında gölge modunda çalıştırın ve davranışı değiştirmesine izin vermeyin.
5. Doğruluk ile güven arasındaki ilişkiyi grafiklendirin ve eşikleri verilerinize göre ayarlayın.
6. En güvenli dalı ilk olarak otomatikleştirin ve belirsiz vakalar için bir insanı veya daha güçlü bir modeli elde tutun.
7. Değişikliklerin aynı değerlendirme setine karşı tekrarlanabilmesi için model sürümünü, soruları, kriterleri ve eşikleri sabitleyin veya günlüğünü tutun.

Sorular programın bir parçasıdır. Onlara kod gibi davranın: Sürümlerini yönetin, gözden geçirin ve model veya rubrik değiştiğinde test edin.

Gerçek Dönüşüm

Jev, bir LLM'i yazmada yendiği için ilginç değildir. Yazmayı reddettiği için ilginçtir.

Katkısı, yazılıma benzer şekillendirilmiş bir model arayüzüdür: Sabit yanıt türleri, açık belirsizlik, paralel sorular ve kod kontrollü dallanma.

Bu, onu üretken modeller için faydalı bir arkadaş yapar. LLM planı, açıklamayı veya kodu üretir. Jev isteği yönlendirir, riskli eylemi kapılar, sonucu kontrol eder ve belirsizliğin yükseltmek için yeterli olduğuna karar verir.

Başka bir model nihayetinde Jev'in yerini alsa bile daha geniş fikir önemlidir. Yıllardır üretken modellerden metin yoluyla her türlü zekayı sergilemelerini istedik. Birçok üretim sistemi daha fazla kelimeye ihtiyaç duymaz. Sıradan yazılımın güvenle kullanabileceği küçük, hızlı bir yargıya ihtiyaç duyarlar.

Jev'in inşa etmeye çalıştığı kategori budur.

Nereden Başlamalı?

Ajanınızı Jev etrafında yeniden inşa ederek başlamayın. Şu anda yavaş bir LLM çağrısı veya sürekli bozulan bir regex gerektiren tek bir kararı bulun.

Jev'e minimum durumu verin, olası yanıtları tanımlayın ve olasılıklarını mevcut sonucun yanında günlüğünü tutun. Tüm iş akışını ona teslim etmeden önce bir dalı hak ettiğini kanıtlamasına izin verin.

En faydalı zihinsel model en basit olanıdır → Jev, sıradan bir ifadenin değerleri anladığı ancak anlamlarını anlamadığı yerde yargı ekler.

Kaynaklar ve Daha Fazla Okuma

• TypeSafe AI: Sistem Bir Modelleri ve Jev'in Tanıtımı
• LangChain: Jev ile Bir Kafes İnşa Etmek
• Flavio Copes: Jev'e Derinlemesine Bir Bakış

Okuduğunuz için umarım keyif almışsınızdır.

Sonraki yazıda görüşmek üzere.

Selamlar! :)