Jev: Normal Kullanıcılar İçin Açıklama

İnternette son birkaç gündür takılıyorsanız, muhtemelen AI topluluğunu kasıp kavuran yeni bir yapay zeka modeli olan Jev ile karşılaşmışsınızdır. Jev geleneksel bir LLM değildir. Metin yazmak için değil, karar vermek için tasarlanmıştır. Son birkaç günde Jev’i derinlemesine inceledim ve hype’ın (abartının) gerçek olduğuna ve ürün geliştiriciler için burada büyük bir potansiyel bulunduğuna gerçekten inanıyorum.

Daha önce de belirttiğim gibi, teknik olmayan rollerdeki kişiler de dahil olmak üzere herkesin, yapay zekanın arkasındaki teknolojinin gerçekte nasıl çalıştığını öğrenmesi kritik öneme sahiptir. Ajan tabanlı (agentic) bir sistemin nasıl çalıştığını anlamak, bu teknolojiyi kendi ürünlerinize bilinçli bir şekilde uygulamanızı sağlar.

Jev hakkında mevcut her şeyi okuduklarını ancak yine de gerçekte ne olduğunu anlayamadıklarını açıklayan birçok kişiyle iletişime geçtim. Bu makale onlar için. Sıradan kullanıcılar (normies) için bir Jev rehberi niteliğinde. Jev hakkında okuduğunuz diğer her şey size cevaplardan çok soru bıraktıysa, bu makale farklı olacak. Sonunda Jev’in ne olduğu, bir LLM’den nasıl farklı olduğu ve onu geliştirdiğiniz ürünlere nasıl uygulayabileceğiniz konusunda temel bir anlayışa sahip olacaksınız.

Yazılımda kararların önemi

Yazılım, kararlarla doludur. Bu müşteri mesajı acil ilgi gerektiriyor mu? Bu ödeme sahtekarlık mı? Sayfayı İngilizce mi yoksa Fransızca mı göstermeliyiz?

Bir ürün, günde milyonlarca kez bu tür kararlar almak zorunda kalabilir.

Ancak bilgisayarların alabildiği kararların karmaşıklığı sınırlıdır. Yukarıdaki sorular basit kurallarla yanıtlanabilir. Örneğin, sayfayı İngilizce mi yoksa Fransızca mı göstereceğimize, kullanıcının dil ayarlarına veya belki de IP adresine bakarak karar verebiliriz. Ancak tüm sorular o kadar basit değildir.

Örneğin, bir sosisli sandviç fotoğrafını ele alalım. Hiçbir basit kural seti, bilgisayarın benim fotoğrafımın gerçekten bir sosisli sandviç içerip içermediğini belirlemesini sağlayamaz.

Bu nedenle bilgisayar bilimcileri, bilgisayarların daha karmaşık kararlar alması için yeni bir yöntem geliştirdiler: Makine öğrenimi. Görünüşe göre, havalı algoritmaları, içinde sosisli sandviç bulunan birçok örnekle birleştirmek, bir bilgisayarın sosisli sandviç içeren fotoğrafları tanımlama konusunda oldukça yetkin hale gelmesini sağlıyor.

GIF

Sosisli modelimiz, sınıflandırıcı (classifier) adı verilen bir model türüdür. Buna böyle denmesinin nedeni, şeyleri sınıflandırmasıdır. Sınıflandırıcılar, günümüzde karmaşık kararlar almak için yazılımda yaygın olarak kullanılır.

Ancak sınıflandırıcıların sorunu, eğitildikleri alanın dışına genelleme yapamamalarıdır. Sosisli fotoğraflarını tanımlayabilen sınıflandırıcım, sahte işlemleri tanımlamama yardımcı olamaz. Bir sınıflandırıcıyı eğitmek için gereken veri ve uzmanlık nedeniyle, bilgisayarların çözemeyeceği birçok problem türü vardı. Ta ki...

Büyük dil modelleri

OpenAI, Kasım 2022'de ChatGPT'yi piyasaya sürdüğünde dünyayı kasıp kavurdu. Bu kadar popüler olmasının nedeni, mutlak zekası değil, genelleme yeteneğiydi.

ChatGPT'nin, hem sosisliler hem de sahte işlemler hakkında tek seferde sohbet edebilmesini sağlayan temelsel bir dünya bilgisi vardı.

ChatGPT, Claude, Grok ve Kimi gibi büyük dil modellerinin birincil işlevi metin üretmektir. Ancak bu modelleri kullanan herkes, düşünebildiklerini, akıl yürütebildiklerini ve nihayetinde karar verebildiklerini bilir. Örnek olarak, bir LLM'in belirli bir görüntünün sosisli olup olmadığına dair kararını şöyle verebilir.

GIF

Evet, büyük dil modelleri karar verebilir. Ve geniş bir bilgi alanı yelpazesinde kararlar alabilirler.

LLM'ler kutsal kase olabilir mi? Bugün yazılımdaki kararlar için uygulayabileceğimiz genel bir karar verme modeline sonunda sahip olabilir miyiz?

Pratikte, hayır. İnanılmaz güçlerine rağmen LLM'ler nispeten yavaş ve pahalıdır. Yazılımın uygulanacağı uygulama türlerinin çoğu için kullanılamayacak kadar yavaş ve pahalılar.

Keşke geniş bir genel bilgi alanı yelpazesinde hızlı ve ucuz bir şekilde karar verebilen bir modele sahip olsaydık...

Genelleme yapan bir sınıflandırıcı: Jev'i Tanıyalım

Jev, metin üretmek yerine karar vermek için optimize edilmiş yeni bir model sınıfıdır.

Jev, bir sınıflandırıcı gibi nispeten hızlı ve ucuzken, bir LLM gibi genelleme özelliğini korur. İddialara göre Jev, karşılaştırılabilir LLM'lere kıyasla 20-200 kat daha hızlı ve 40-400 kat daha ucuzdur.

Bu, Jev'in bir LLM gibi token token cevap döndürmemesi, sadece bir karar döndürmesi sayesinde başarılır.

Mühendislerin bundan bu kadar heyecan duymasının nedeni budur. Jev, daha önce görülmemiş bir zeka seviyesi değildir; daha önce görülmemiş bir zeka seviyesinin bu kadar hızlı ve bu kadar ucuz çalışmasıdır.

Jev ile sohbet edemezsiniz. O bir sohbet botu değildir. Jev girdi olarak üç şey bekler:

• Yanıtlamak istediğiniz soru
• Bu sorunun olası cevapları kümesi
• Soruyu yanıtlamak için gereken bağlam (Jev buna "state" yani durum diyor)

Ve Jev size şu çıktıyı verir:

• Seçtiği cevap
• Cevabın doğru olma olasılığı

Hepsi bu. Sohbet yok, sadece bir karar.

Jev üç tür kararı destekler:

• Evet/hayır, Jev'in "Noul" dediği tür: Bir ifadenin doğru olma tahmini olasılığını döndürür
• Seçim: En fazla 255 çoktan seçmeli seçenek arasından seçim yapar ve her birinin doğru olma olasılığını sunar
• Skor: Bir şeyi 2 ile 10 düzey arasında bir ölçeğe göre puanlar

Bu seçenekler, önceki yaklaşımların zaman ve maliyetinin çok küçük bir kısmında ileri düzey karar vermeyi mümkün kılar. Her biri için bir örnek inceleyelim.

Noul (Evet/Hayır)

Diyelim ki yeni bir sosisli standı açtım ve gelen müşteri geri bildirimlerini, buna göre tepki verebilmek veya yanıtlayabilmek için gözden geçirmek istiyorum.

Her geri bildirim için, ilk olarak basit bir soru soralım: Bu geri bildirim yiyeceklerle ilgili bir şikayet mi? Jev'e girdi olarak verilecek şey aşağıdakine benzer görünebilir.

1{
2  "model": "jev-latest",
3  "state": "Yirmi dakika bekledim ama sosisli sandviç değdi. Kuyruk daha kısa olsa tekrar gelirim.",
4  "questions": {
5    "food_complaint": {
6      "type": "noul",
7      "instructions": "Bu değerlendirme yiyeceğin kendisinden duyulan memnuniyetsizliği ifade ediyor mu?",
8      "criteria": {
9        "true": "Yiyeceğin tadı, sıcaklığı veya kalitesinden şikayetçi.",
10        "false": "Yiyecekten şikayetçi değil. Sadece kuyruk veya hizmetle ilgili şikayetler sayılmaz."
11      }
12    }
13  }
14}

Gördüğünüz gibi, yanıtlamak istediğimiz soruyu ("instructions"), evet veya hayırı seçme kriterlerini ve Jev'in doğru bir karar vermesi için gereken durumu tanımladık.

Yukarıdaki soruyu Jev'e verdik. Jev ardından şunu döndürüyor.

1{
2  "answers": {
3    "food_complaint": {
4      "type": "noul",
5      "noul": 0.04
6    }
7  }
8}

Jev, bu özel geri bildirimin yiyeceklerden şikayet etme olasılığının yalnızca %4 olduğunu belirliyor. Bu nedenle bu değerlendirmeyi daha düşük öncelikli olarak sınıflandırabilir ve zamanımız olduğunda takip edebiliriz.

Seçim

Jev'den geri bildirimi bir kategoriye yerleştirmesini isteyerek her geri bildirim öğesini biraz daha iyi anlayalım. Jev'e isteğimiz aşağıdakine benzeyebilir.

1{
2  "model": "jev-latest",
3  "state": "Yirmi dakika bekledim ama sosisli sandviç değdi. Kuyruk daha kısa olsa tekrar gelirim.",
4  "questions": {
5    "main_topic": {
6      "type": "choice",
7      "instructions": "Bu değerlendirmenin ana konusu nedir? Ana odağını en iyi yansıtan seçeneği işaretleyin.",
8      "criteria": {
9        "queue": "Kuyruk uzunluğu veya bekleme süresi ana odak noktasıdır.",
10        "food": "Yiyeceğin tadı, sıcaklığı veya kalitesi ana odak noktasıdır.",
11        "service": "Personelin arkadaş canlısı olması, yardımseverliği veya siparişi nasıl yönettiği ana odak noktasıdır. Sadece bekleme süresiyle ilgili yorumlar kuyruk kategorisine girer.",
12        "other": "Ana odak noktası yiyecek, bekleme süresi veya personel hizmeti dışında bir şeydir."
13      }
14    }
15  }
16}

Jev'in yapabileceği her seçimi, hangisinin ne zaman kullanılacağını açıklayan bir tanım ("criteria") ile tanımladık. Jev şunu döndürüyor.

1{
2  "answers": {
3    "main_topic": {
4      "type": "choice",
5      "choice": "queue",
6      "probabilities": {
7        "queue": 0.80,
8        "food": 0.15,
9        "service": 0.03,
10        "other": 0.02
11      },
12      "confidence": 0.60
13    }
14  }
15}

Tamam, Jev cevap olarak "queue" (kuyruk) seçti. Ayrıca her seçeneğe olasılıklar atadığını da görebilirsiniz.

Skor

Şimdi Jev'den, müşterinin sosisli standımızdaki genel deneyimden ne kadar memnun olduğunu, tanımladığımız beş düzey üzerinden puanlamasını isteyelim.

1{
2  "model": "jev-latest",
3  "state": "Yirmi dakika bekledim ama sosisli sandviç değdi. Kuyruk daha kısa olsa tekrar gelirim.",
4  "questions": {
5    "overall_satisfaction": {
6      "type": "score",
7      "instructions": "Bu müşteri genel deneyiminden ne kadar memnun? Hem olumlu hem de olumsuz yorumları dikkate alın.",
8      "criteria": [
9        "Çok memnun değil: Deneyim genel olarak güçlü bir şekilde olumsuz.",
10        "Memnun değil: Olumlu yönler olsa bile çoğunlukla olumsuz.",
11        "Karışık: Belirgin olumlu ve olumsuz yönler var, hiçbiri net bir şekilde baskın değil.",
12        "Memnun: Bazı şikayetlere rağmen çoğunlukla olumlu.",
13        "Çok memnun: Anlamlı şikayet yok, güçlü bir şekilde olumlu."
14      ]
15    }
16  }
17}

Yine, net bir soru, olası cevaplar kümesi ve durum sağlıyoruz. Jev şunu döndürüyor.

1{
2  "answers": {
3    "overall_satisfaction": {
4      "type": "score",
5      "score": 2.1,
6      "probabilities": {
7        "0": 0.05,
8        "1": 0.15,
9        "2": 0.50,
10        "3": 0.25,
11        "4": 0.05
12      }
13    }
14  }
15}

4 üzerinden 2.1, iyileştirme payı var.

Jev'in sihri, bu kararları bir LLM'den çok daha hızlı ve ucuz bir şekilde alabilmesidir. İşte sosisli standımıza bırakılan 60 geri bildirim öğesinin incelenmesine dair yan yana bir karşılaştırma. Solda Jev, sağda ise bir LLM (gpt-5.6 Luna).

Jev'in hız ve maliyet avantajı, yazılımla karar alma engelini düşürür.

Jev'i Uygulamak

Ürününüzde, bir kullanıcı için sonucu iyileştirmek amacıyla bir kararın alınabileceği her yerde Jev'i uygulamayı düşünün. İşte bazı örnekler.

Bir şeyin doğru veya yanlış olduğunu bilmenin eylemi değiştirmenizi sağladığı her yerde Evet/Hayır kullanın.

• Bu müşterinin mesajı aboneliğini iptal etmek üzere olduğuna mı işaret ediyor?
• Bu tedarikçi güncellemesi, sevkiyatın teslim tarihini kaçıracğına mı işaret ediyor?
• Bu öğrencinin açıklaması, ele alınmaya değer bir yanlış anlama ortaya koyuyor mu?
• Bu toplantı tutanağı, kimseye atanmamış bir taahhüt içeriyor mu?
• Bu oyuncunun mesajı, takıldığını ve bir ipucuna ihtiyacı olduğunu mu ima ediyor?

Bir seçenekler kümesinden seçim yapmanın, bir sonraki adımı belirlemenizi sağladığı her yerde Seçim kullanın.

• Bu alışılmadık müşteri talebiyle hangi uzman ekip ilgilenmeli?
• Hangi ürün eğitimi, bu kullanıcının ulaşmaya çalıştığı şeyle en iyi eşleşiyor?
• Oyundaki hangi karakter, oyuncunun az önce söylediğine yanıt vermeli?
• Hangi müze sesli rehber bölümü, ziyaretçinin sorusuna en iyi yanıtı veriyor?
• Hangi mevcut ikame, eksik bir malzemenin tarifteki rolünü en iyi şekilde koruyor?

Bir şeyin bir kritere ne kadar, ne kadar iyi veya ne kadar yakın olduğunu yargılamanın, bir eylemi önceliklendirmenizi veya ayarlamanızı sağladığı her yerde Skor kullanın.

• Bu yazılım hatası, müşterinin gerçek iş akışı için ne kadar kesintiye yol açıyor?
• Bu seyahat planı, birinin iyi bir tatil fikriyle ne kadar örtüşüyor?
• Bu müşteri görüşmesi, belirli bir ürün hipotezini ne ölçüde destekliyor?
• Bu sahnedeki diyalog, karakterin oturmuş sesinden ne kadar sapıyor?
• Oyuncunun zaten bildiklerini göz önüne aldığımızda, bu oyun ipucu ne kadar açıklayıcı olur?

Jev ile Geliştirme Zamanı

Jev, kullanıcılar için inşa edebileceğimiz yazılım ve deneyim türlerinde yeni bir dünya açtı.

Artık Jev'in ne olduğunu ve nasıl çalıştığını bildiğinize göre, bunu geliştirdiğiniz ürünlere nasıl uygulayacaksınız?