आत्म-सुधार नई खाई (moat) है, जो उत्पाद कंपनियों को केवल LLM API को रैप करने से आगे जाने में सक्षम बनाता है।
इस सीख को प्राप्त करने के दो स्थान हैं: ब्राउज़र गतिविधि (उपयोगकर्ता वास्तव में एप्लिकेशन में क्या करते हैं) और एजेंट ट्रेस (आपके एजेंट ने वास्तव में क्या किया)।
यदि सही ढंग से किया जाए, तो आपका उत्पाद केवल उपयोग किए जाने से ही बेहतर हो सकता है।
आपके उत्पाद में हर दिन सैकड़ों, हजारों या लाखों एजेंट-उपयोगकर्ता इंटरैक्शन हो सकते हैं। यह डेटा की एक सोने की खान है।
हालाँकि, आज, उस मूल्य का अधिकांश भाग अप्राप्त रह जाता है।
आपके उपयोगकर्ता एजेंट को "सिखाते" हैं और वह "सबक" बस गायब हो जाता है।
डेटा सिग्नल कैप्चर करना एक चक्रवृद्धि संपत्ति है।
लेकिन केवल कैप्चर करना पर्याप्त नहीं है -- एजेंट को अभी भी इसका उपयोग बिना संदर्भ में डूबे करना होता है। मॉडल के पास एक सीमित ध्यान बजट (attention budget) होता है, और संदर्भ में सब कुछ भर देना समाधान नहीं है...
लेख अवलोकन
हम स्व-सुधार करने वाले एजेंटों के बारे में बात करेंगे जिनके चारों ओर आप एक व्यावसायिक खाई (business moat) बना सकते हैं, जिनमें शामिल हैं:
- एजेंट-ट्रेस और इन-ब्राउज़र गतिविधि से सीखना
- सीख को कहाँ लागू किया जा सकता है: मॉडल वेट, हार्नेस, और संदर्भ
- विभिन्न प्रकार की सीख: प्रक्रियात्मक, सिमैंटिक, एपिसोडिक
- डेटा गोपनीयता: अपने उपयोगकर्ताओं का डेटा सुरक्षित रखें
- डेटा स्वामित्व: एक व्यावसायिक खाई (business moat) बनाएँ
- AG-UI का उपयोग करके किसी भी एजेंट के लिए स्व-शिक्षा को आसानी से लागू करने के लिए व्यावहारिक सुझाव
हम आने वाले हफ्तों में अपना स्व-शिक्षा समाधान जारी कर रहे हैं।
शीघ्र पहुँच और डिज़ाइन साझेदारी के लिए यहाँ साइन अप करें।
आपके एजेंट को 2 स्थानों से सीखना चाहिए
एजेंटों को एजेंट-ट्रेस और आस-पास की इन-ब्राउज़र गतिविधि से सीखना चाहिए।
सीखने के अधिकांश दृष्टिकोण केवल एक या दूसरे का उपयोग करते हैं, लेकिन जो उत्पाद दोनों का लाभ उठाते हैं, वे ऐसा न करने वालों से काफी बेहतर प्रदर्शन करेंगे।
1. एजेंट ट्रेस
एजेंट चलता है और प्रत्येक चरण एक ट्रेस के रूप में लॉग हो जाता है। उससे क्या पूछा गया, उसने कौन से टूल कॉल किए, क्या वापस आया, वह कहाँ विफल हुआ।
उन ट्रेस पर एक और एजेंट लगाएँ, और वह विफलता पैटर्न ढूँढता है और प्रॉम्प्ट, टूल और निर्देशों को फिर से लिखता है।
गायब आधा: एजेंट इंटरैक्शन के बाहर की कोई भी चीज़, जहाँ अधिकांश गतिविधि अभी भी होती है।
2. इन-ब्राउज़र परिवेशी उपयोगकर्ता गतिविधि
उर्फ, उपयोगकर्ता को देखना।
उनके क्लिक, संपादन, प्रतिक्रियाएँ और वर्कफ़्लो।
Brex ने इसी तरह अपना ऑनबोर्डिंग बनाया। उन्होंने अपने विश्लेषकों को काम करते देखा और हर मानव सुधार को एक प्रशिक्षण संकेत के रूप में वापस खिलाया।
प्रत्येक मानव सुधार एक लेबल वाला डेटा पॉइंट बनाता है जो अगले रन को तेज करता है।
गायब आधा: यह विधि मानव को पूरी तरह से देखती है। लेकिन यह इस बारे में कुछ नहीं जानती कि एजेंट ने क्या प्रयास किया या वह क्यों विफल हुआ।
आपको दोनों सिग्नल कैप्चर करने चाहिए
कैसे? या बेहतर होगा, कहाँ?
आज लगभग हर उत्पाद में एक जगह है जो दोनों को एक साथ देखती है: वह सतह जहाँ व्यक्ति और एजेंट साथ-साथ काम करते हैं।
उर्फ, इंटरफ़ेस।
कैसे एजेंट-उपयोगकर्ता इंटरैक्शन प्रोटोकॉल (AG-UI) के माध्यम से है: एक खुला मानक जो आपके ऐप, आपके उपयोगकर्ताओं और एजेंट के बीच हर ईवेंट को स्ट्रीम करता है। यह क्यों मायने रखता है, इसके बारे में नीचे और अधिक जानकारी दी गई है।
सीख कहाँ लागू की जा सकती है
तीन स्थान हैं, प्रत्येक के अपने ट्रेडऑफ़ हैं।
→ मॉडल वेट: सबक को सीधे मॉडल में फ़ाइन-ट्यून करें।
→ हार्नेस: मॉडल के आस-पास की हर चीज़। वह चक्र जिसका वह पालन करता है, वे टूल जिन्हें वह कॉल कर सकता है, वे जाँचें जो उसे कार्य करने से पहले पकड़ती हैं।
→ इन-कॉन्टेक्स्ट: नई जानकारी सीधे प्रॉम्प्ट में जोड़ें। एजेंट इसे हर कॉल पर पढ़ता है।
मैंने पहले लेख में इन तीनों परतों के सभी 10 दृष्टिकोणों को कवर किया था ↓
https://x.com/svpino/status/2070210421995569537
विभिन्न प्रकार की सीख
तीन मुख्य प्रकार हैं जो आपके एजेंटों को समय के साथ बेहतर बनाने में मदद करेंगे।
1. प्रक्रियात्मक (वर्कफ़्लो/काम कैसे करें)
प्रक्रियात्मक मेमोरी वह है जो हम में से कई लोग skills या agents.md फ़ाइलों में शामिल करते हैं:
किसी कार्य को पूरा करने के लिए सीखे गए वर्कफ़्लो और नियम।
उदाहरण के लिए:
एक प्रबंधक एक वफादार ग्राहक के लिए सीमा से अधिक रिफंड को मंजूरी दे रहा है। एजेंट यह सीखता है और अगली बार भी ऐसा ही करता है।
लाभ: एजेंट हर बार उसी मामले को उसी तरह से संभालता है। सुसंगत और स्वतंत्र।
नुकसान: यदि वह गलत वर्कफ़्लो सीखता है, तो वह हर बार आत्मविश्वास से गलत काम करेगा।
2. एपिसोडिक (जो चीज़ें हुईं)
विशिष्ट पिछली घटनाओं और इंटरैक्शन का रिकॉर्ड।
उदाहरण के लिए:
"5 जनवरी को, जो जोनास का रिफंड बाउंस हो गया क्योंकि उसका कार्ड एक्सपायर हो गया था।"
लाभ: एक वास्तविक पिछला मामला एक अमूर्त नियम से बेहतर है। एजेंट देखता है कि यह कैसे हुआ और जो काम किया उसे कॉपी करता है।
नुकसान: अधिकांश पिछले मामले बेकार शोर होते हैं। किसी को केवल उन्हीं को रखने के लिए उनमें से गुज़रना होता है जो याद रखने लायक हैं, अन्यथा उपयोगी मामला दब जाता है।
3. सिमैंटिक (तथ्य)
स्थिर तथ्य जो एजेंट को पता होने चाहिए।
उदाहरण के लिए:
"सभी क्रेडिट कार्ड योजनाओं की कुछ सीमा होती है, लेकिन सीमा योजना के अनुसार भिन्न होती है"
लाभ: हर जगह पुन: प्रयोज्य। एक तथ्य एक तथ्य है।
नुकसान: बिना चेतावनी के पुराना हो जाता है। जिस दिन सीमा बदलती है, एजेंट आत्मविश्वास से गलत होता है और फिर भी उस पर कार्य करता है।
CopilotKit Intelligence और AG-UI के माध्यम से कार्रवाई में स्व-शिक्षा
सिमैंटिक वह रखता है जो सच है।
एपिसोडिक उस मामले को रखता है जो हुआ।
प्रक्रियात्मक उसे संभालने का नियम रखता है।
एजेंट-उपयोगकर्ता इंटरैक्शन से स्व-शिक्षा तक प्रवाह यात्रा
लूप का स्वामित्व स्वयं लेना और एक खाई (moat) बनाना
सीखने का डेटा आपके उत्पाद का सबसे महत्वपूर्ण हिस्सा है, और यह तेजी से मूल्यवान होता जाएगा क्योंकि खरोंच से सॉफ्टवेयर बनाने की लागत कम होती जाएगी।
सीखने के डेटा का स्वामित्व आपको LLM API के एक रैपर से अधिक बनने की अनुमति देता है।
एजेंट की चूक और मानव का सुधार आमतौर पर दो अलग-अलग जगहों पर समाप्त होते हैं।
और कोई उन्हें जोड़ता नहीं है।
ऐसा करने की सतह आपके उत्पाद के अंदर पहले से मौजूद है: इंटरफ़ेस।
ट्रेस टूल केवल एजेंट को देखते हैं।
परिवेशी उपकरण, जो ब्राउज़र देखते हैं, केवल मानव को देखते हैं, और इसे प्राप्त करने के लिए गोपनीयता पर आक्रमण करते हैं।
लेकिन CopilotKit दोनों सिग्नल देखता है।
CopilotKit आपके ऐप के माध्यम से बहने वाली घटनाओं को पढ़ता है: हर टूल कॉल, स्थिति परिवर्तन, अनुमोदन और संपादन, एजेंट और इसका उपयोग करने वाले व्यक्ति दोनों से।
यह AG-UI (एजेंट-उपयोगकर्ता इंटरैक्शन प्रोटोकॉल) के माध्यम से करता है जो वास्तविक समय में आपके ऐप, आपके उपयोगकर्ताओं और एजेंट के बीच हर ईवेंट को ले जाता है।
अब एजेंट का प्रयास और मानव का सुधार एक ही स्ट्रीम में आते हैं।
AG-UI किसी भी एजेंट और किसी भी हार्नेस के साथ काम करता है
AG-UI एक खुला मानक है जो फ्रेमवर्क-अज्ञेयवादी है।
इसे AWS, Google, Microsoft, Oracle, LangChain, Mastra, Pydantic AI, CrewAI, LlamaIndex और अधिक द्वारा अपनाया गया है।
AG-UI घटनाओं को देखता है और सीखे गए संदर्भ को सीधे एजेंट में इंजेक्ट करता है, चाहे उस एजेंट का अपना हार्नेस अंतर्निहित रूप से कैसा भी दिखता हो।
इसका मतलब है कि वही सीख किसी भी एजेंट पर लागू होती है जिसे आप आज या अगले साल लाते हैं, स्वचालित रूप से, प्रत्येक नए के लिए किसी कस्टम एकीकरण कार्य की आवश्यकता नहीं है।
हमारा एक ग्राहक एक UI चलाता है जो CopilotKit के एजेंट + Google ADK + Microsoft Agent Framework से बात करता है, और सभी मेमोरी तीनों में साझा की जाती हैं।
फ्रेमवर्क पसंद से अलग मेमोरी = पोर्टेबिलिटी
सब कुछ आपके इंफ्रा पर चलता है ताकि आप सीख के मालिक हों
CopilotKit Intelligence आपके अपने Kubernetes क्लस्टर पर सेल्फ-होस्ट करता है। पूर्ण डेटा संप्रभुता, SOC 2 टाइप II, यदि आपको आवश्यकता हो तो एयर-गैप्ड डिप्लॉयमेंट।
डेटा आपके पास रहता है। साथ ही वह सब कुछ जो एजेंट उससे सीखता है।
बाकी सभी का दृष्टिकोण या तो आपकी सीख को अपने क्लाउड में रखता है या मेटा की तरह, इसे प्राप्त करने के लिए निगरानी का सहारा लेता है।
@CopilotKit Intelligence आज Fortune 500 कंपनियों में प्रोडक्शन में लाइव है, और शीघ्र पहुँच के लिए खुला है। यदि आप चाहते हैं कि आपका एजेंट जितना अधिक लोग इसका उपयोग करें, उतना बेहतर हो, संपर्क करें।
लर्निंग कंटेनर: यह तय करना कि "किसे" नई सीख मिलेगी
जैसे ही आप अपने उत्पाद में सीखने को सक्षम करते हैं, सवाल उठता है: सीख कितनी दूर तक फैलती है? एक उपयोगकर्ता के संवेदनशील तथ्य दूसरे उपयोगकर्ता के एजेंट संदर्भ में लीक नहीं होने चाहिए।
CopilotKit का समाधान लर्निंग कंटेनर है: डेवलपर-अनुकूल स्कोप जिन्हें आप नियंत्रित कर सकते हैं, यह तय करते हुए कि प्रत्येक सबक कितनी 'दूर' तक फैलता है।
CopilotKit आपको उपयोगकर्ताओं के विभिन्न समूहों के लिए आसानी से लर्निंग कंटेनर परिभाषित करने की अनुमति देता है:
- प्रति-उपयोगकर्ता। जैसे विशिष्ट प्राथमिकताएँ।
- प्रति-टीम। जैसे अनुमोदन प्रक्रियाएँ।
- प्रति-ऐप। जैसे कंपनी-व्यापी नियम।
लर्निंग कंटेनर पूरी तरह से ऑडिटेबल हैं। आप ठीक से देख सकते हैं कि क्या सीखा गया और वह किस कंटेनर में गया।
इसमें और भी बहुत कुछ है।
हाल ही में, हमने अभी-अभी बताई गई सभी चीज़ों पर एक गहन लाइवस्ट्रीम आयोजित की।
पूरी रिकॉर्डिंग [यहाँ](https://www.youtube.com/watch?v=TvUWDQ21y4w) देखें।
संक्षेप में सारांश
TL;DR के रूप में इस ग्राफिक को अपने नेटवर्क के साथ साझा करें
@CopilotKit Intelligence पहले से ही बड़े उद्यमों के अंदर प्रोडक्शन में यह चला रहा है, और यह शीघ्र पहुँच के लिए खुला है।
यदि आप एक ऐसा एजेंट चाहते हैं जो आपके उपयोगकर्ताओं के इसका उपयोग करने पर बेहतर होता जाए, तो संपर्क करें और हम आपको शामिल कर लेंगे।
अधिक जानकारी के लिए @ataiiam को फ़ॉलो करें।
