Kendini geliştirme yeni bir savunma siperi haline geldi ve ürün şirketlerinin sadece LLM API'lerini sarmalamanın ötesine geçmesini sağlıyor.
Bu öğrenmeyi toplayabileceğiniz iki yer var: tarayıcı etkinliği (kullanıcıların uygulamalarda gerçekte ne yaptığı) ve ajan izleri (ajanınızın gerçekte ne yaptığı).
Doğru yapılırsa, ürününüz sadece kullanılarak gelişebilir.
Ürününüz her gün yüzlerce, binlerce veya milyonlarca ajan-kullanıcı etkileşimine sahip olabilir. Bu bir veri altın madenidir.
Ancak bugün, bu değerin çoğu yakalanamıyor.
Kullanıcılarınız ajana "öğretiyor" ve bu "ders" kaybolup gidiyor.
Veri sinyallerini yakalamak, birikimli bir varlıktır.
Ancak yakalamak yeterli değildir -- ajan hala bunu bağlam içinde boğulmadan kullanmak zorundadır. Modellerin sınırlı bir dikkat bütçesi vardır ve bağlamı her şeyle doldurmak çözüm değildir...
Makaleye genel bakış
Kendini geliştiren ajanlar ve bunların etrafında nasıl bir iş savunma siperi oluşturabileceğinizi inceleyeceğiz, bunlar dahil:
- Ajan izlerinden ve tarayıcı içi etkinliklerden öğrenme
- Öğrenmelerin uygulanabileceği yerler: model ağırlıkları, koşum takımı ve bağlam
- Farklı öğrenme türleri: prosedürel, anlamsal, epizodik
- Veri gizliliği: kullanıcı verilerinizi güvende tutun
- Veri sahipliği: bir iş savunma siperi oluşturun
- AG-UI kullanarak herhangi bir ajan için kendi kendine öğrenmeyi kolayca uygulamaya yönelik pratik ipuçları
Kendi Kendine Öğrenme çözümümüzü önümüzdeki haftalarda yayınlıyoruz.
Erken erişim ve tasarım ortaklığı için buradan kaydolun.
Ajanınız 2 yerden öğrenmeli
Ajanlar, ajan izlerinden ve tarayıcı içi ortam etkinliklerinden öğrenmelidir.
Çoğu öğrenme yaklaşımı yalnızca birini veya diğerini kullanır, ancak her ikisini de kullanan ürünler, kullanmayanlardan önemli ölçüde daha iyi performans gösterecektir.
1. Ajan İzleri
Ajan çalışır ve her adım bir iz olarak kaydedilir. Ne istendiği, hangi araçları çağırdığı, neyin geri döndüğü, nerede başarısız olduğu.
Bu izlere başka bir ajan yönlendirin; başarısızlık modellerini bulur ve istemleri, araçları ve talimatları yeniden yazar.
Eksik yarı: Çoğu etkinliğin hala gerçekleştiği, ajan etkileşiminin dışındaki her şey.
2. Tarayıcı içi ortam kullanıcı etkinliği
Yani, kullanıcıyı izlemek.
Tıklamaları, düzenlemeleri, yanıtları ve iş akışları.
Brex, işe alım sürecini bu şekilde oluşturdu. Analistlerinin çalışmasını izlediler ve her insan düzeltmesini bir eğitim sinyali olarak geri beslediler.
Her insan düzeltmesi, bir sonraki çalıştırmayı keskinleştiren etiketli bir veri noktası oluşturur.
Eksik yarı: Bu yöntem insanı mükemmel görür. Ancak ajanın ne denediği veya neden başarısız olduğu hakkında hiçbir şey bilmez.
Her iki sinyali de yakalıyor olmalısınız
Nasıl? Ya da daha iyisi, nerede?
Bugün neredeyse her üründe her ikisini de aynı anda gören tek bir yer var: kişi ve ajanın yan yana çalıştığı yüzey.
Yani, arayüz.
Nasıl olduğu ise Ajan-Kullanıcı Etkileşim Protokolü (AG-UI) aracılığıyladır: uygulamanız, kullanıcılarınız ve ajan arasındaki her olayı akış haline getiren açık bir standart. Bunun neden önemli olduğu hakkında daha fazlası aşağıda.
Öğrenmenin uygulanabileceği yerler
Her birinin kendi ödünleşimleri olan üç yer vardır.
→ Model ağırlıkları: Dersi modelin kendisine ince ayar yapın.
→ Koşum takımı: Modelin etrafındaki her şey. İzlediği döngü, çağırmasına izin verilen araçlar, harekete geçmeden önce onu yakalayan kontroller.
→ Bağlam içi: Yeni bilgileri doğrudan isteme ekleyin. Ajan her çağrıda onu okur.
Bu üç katmandaki 10 yaklaşımın tamamını ilk makalede ele aldım ↓
https://x.com/svpino/status/2070210421995569537
Farklı öğrenme türleri
Ajanlarınızın zamanla gelişmesine yardımcı olacak üç ana tür vardır.
1. Prosedürel (iş akışları/bir şeylerin nasıl yapılacağı)
Prosedürel bellek, çoğumuzun becerilere veya agents.md dosyalarına dahil ettiği şeydir:
Bir görevi tamamlamak için öğrenilmiş iş akışları ve kurallar.
Örneğin:
Sadık bir müşteri için limit üstü bir iadeyi onaylayan bir yönetici. Ajan bunu öğrenir ve bir dahaki sefere aynısını yapar.
Artı: Ajan aynı durumu her seferinde aynı şekilde ele alır. Tutarlı ve bağımsız.
Eksi: Yanlış iş akışını öğrenirse, her seferinde kendinden emin bir şekilde yanlış olanı yapar.
2. Epizodik (olan şeyler)
Belirli geçmiş olayların ve etkileşimlerin bir kaydı.
Örneğin:
"5 Ocak'ta, Joe Jonas'ın iadesi kartının süresi dolduğu için geri döndü."
Artı: Gerçek bir geçmiş vaka, soyut bir kuraldan daha iyidir. Ajan nasıl sonuçlandığını görür ve işe yarayanı kopyalar.
Eksi: Geçmiş vakaların çoğu işe yaramaz gürültüdür. Birinin bunları gözden geçirmesi ve yalnızca hatırlamaya değer olanları tutması gerekir, aksi takdirde yararlı olan gömülür.
3. Anlamsal (gerçekler)
Ajanın bilmesi gereken sabit gerçekler.
Örneğin:
"Tüm kredi kartı planlarının bir limiti vardır, ancak limit plana göre değişir"
Artı: Her yerde yeniden kullanılabilir. Gerçek gerçektir.
Eksi: Uyarı vermeden güncelliğini yitirir. Limitin değiştiği gün, ajan kendinden emin bir şekilde yanlıştır ve yine de ona göre hareket eder.
CopilotKit Intelligence ve AG-UI aracılığıyla kendi kendine öğrenme eylem halinde
Anlamsal doğru olanı tutar.
Epizodik olan vakayı tutar.
Prosedürel onu ele alma kuralını tutar.
Ajan-kullanıcı etkileşiminden kendi kendine öğrenmeye akış yolculuğu
Döngüye kendiniz sahip olmak ve bir savunma siperi oluşturmak
Öğrenme verileri, ürününüzün en önemli parçasıdır ve sıfırdan yazılım oluşturma maliyeti düştükçe değeri giderek artacaktır.
Öğrenme verilerine sahip olmak, bir LLM API'sinin sadece bir sarmalayıcısı olmanın ötesine geçmenizi sağlar.
Ajanın hatası ve insanın düzeltmesi genellikle iki farklı yerde son bulur.
Ve kimse bunları birbirine bağlamaz.
Bunu yapmak için yüzey, ürününüzün içinde zaten var: arayüz.
İzleme araçları yalnızca ajanı görür.
Tarayıcıyı izleyen türden ortam araçları ise yalnızca insanı görür ve bunu elde etmek için gizliliği ihlal eder.
Ancak CopilotKit her iki sinyali de görür.
CopilotKit, uygulamanızda akan olayları okur: ajan ve onu kullanan kişiden gelen her araç çağrısı, durum değişikliği, onay ve düzenleme.
Bunu, uygulamanız, kullanıcılarınız ve ajan arasındaki her olayı gerçek zamanlı olarak taşıyan AG-UI (Ajan-Kullanıcı Etkileşim Protokolü) aracılığıyla yapar.
Artık ajanın girişimi ve insanın düzeltmesi aynı akışa ulaşır.
AG-UI herhangi bir ajan ve herhangi bir koşum takımı ile çalışır
AG-UI, çerçeveden bağımsız, açık bir standarttır.
AWS, Google, Microsoft, Oracle, LangChain, Mastra, Pydantic AI, CrewAI, LlamaIndex ve daha fazlası tarafından benimsenmiştir.
AG-UI olayları görür ve öğrenilen bağlamı, altta yatan koşum takımı ne olursa olsun, doğrudan ajana enjekte eder.
Bu, aynı öğrenmenin, bugün veya gelecek yıl, herhangi bir yeni ajan için özel bir entegrasyon çalışması gerektirmeden, otomatik olarak getirdiğiniz herhangi bir ajana uygulandığı anlamına gelir.
Müşterilerimizden biri, CopilotKit'in ajanı + Google ADK + Microsoft Agent Framework ile konuşan bir UI çalıştırıyor ve tüm anılar her üçü arasında paylaşılıyor.
Anının çerçeve seçiminden ayrılması = taşınabilirlik
Her şey sizin altyapınızda çalışır, böylece öğrenmeye siz sahip olursunuz
CopilotKit Intelligence, kendi Kubernetes kümenizde kendi kendine barındırılır. Tam veri egemenliği, SOC 2 Tip II, ihtiyacınız olursa hava boşluklu dağıtım.
Veri sizde kalır. Ajanın ondan öğrendiği her şey de öyle.
Diğer herkesin yaklaşımı ya öğrenmenizi kendi bulutlarında tutar ya da Meta'nınki gibi, onu elde etmek için gözetleme kullanır.
@CopilotKit Intelligence, bugün Fortune 500 şirketlerinde üretimde canlı olarak çalışıyor ve erken erişime açık. Ajanınızın, insanlar onu ne kadar çok kullanırsa o kadar iyileşmesini istiyorsanız, bize ulaşın.
Öğrenme Konteynerleri: yeni öğrenmeleri kimin alacağına karar vermek
Ürününüzde öğrenmeyi etkinleştirir etkinleştirmez şu soru ortaya çıkar: öğrenme ne kadar uzağa uzanır? Bir kullanıcıya ait hassas bilgiler, başka bir kullanıcının ajan bağlamına sızmamalıdır.
CopilotKit'in çözümü Öğrenme Konteynerleridir: kontrol edebileceğiniz, geliştirici dostu kapsamlar; her dersin ne kadar 'uzağa' yayılacağına karar verirsiniz.
CopilotKit, farklı kullanıcı grupları için öğrenme konteynerlerini kolayca tanımlamanızı sağlar:
- Kullanıcı başına. Belirli tercihler gibi.
- Ekip başına. Onay prosedürleri gibi.
- Uygulama başına. Şirket genelindeki kurallar gibi.
Öğrenme konteynerleri tamamen denetlenebilirdir. Tam olarak neyin öğrenildiğini ve hangi konteynere düştüğünü görebilirsiniz.
Bundan çok daha fazlası var.
Geçtiğimiz günlerde, az önce bahsettiğim her şeyi ele aldığımız derinlemesine bir canlı yayın gerçekleştirdik.
Tam kaydı buradan izleyin.
Kısaca özet
Bu grafiği bir özet olarak ağınızla paylaşın
@CopilotKit Intelligence, bunu büyük işletmelerde üretimde zaten çalıştırıyor ve erken erişime açık.
Kullanıcılarınız onu ne kadar çok kullanırsa o kadar iyileşen bir ajan istiyorsanız, bize ulaşın ve sizi dahil edelim.
Daha fazlası için @ataiiam'i takip edin.
