การพัฒนาตนเองคือเกราะป้องกันใหม่ ที่ช่วยให้บริษัทผลิตภัณฑ์ก้าวข้ามการเป็นแค่ตัวห่อหุ้ม LLM API
มีสองแหล่งที่คุณสามารถเก็บเกี่ยวการเรียนรู้เหล่านี้ได้: กิจกรรมบนเบราว์เซอร์ (สิ่งที่ผู้ใช้ทำจริงในแอปพลิเคชัน) และ ร่องรอยของเอเจนต์ (สิ่งที่เอเจนต์ของคุณทำจริง)
ถ้าทำถูกต้อง ผลิตภัณฑ์ของคุณจะพัฒนาขึ้นได้เพียงแค่ถูกใช้งาน
ผลิตภัณฑ์ของคุณอาจมีการโต้ตอบระหว่างผู้ใช้กับเอเจนต์หลายร้อย หลายพัน หรือหลายล้านครั้งทุกวัน นั่นคือเหมืองทองคำของข้อมูล
แต่ในปัจจุบัน คุณค่าส่วนใหญ่นั้นไม่ได้ถูกเก็บไว้
ผู้ใช้ของคุณ "สอน" เอเจนต์ และ "บทเรียน" นั้นก็หายไป
การเก็บสัญญาณข้อมูลคือทรัพย์สินที่ทวีค่าเพิ่มขึ้นเรื่อยๆ
แต่การเก็บอย่างเดียวไม่พอ -- เอเจนต์ยังต้องใช้มันโดยไม่จมอยู่กับบริบท โมเดลมีงบประมาณความสนใจที่จำกัด และการยัดเยียดทุกอย่างเข้าไปในบริบทไม่ใช่ทางแก้...
ภาพรวมบทความ
เราจะพูดถึง เอเจนต์ที่พัฒนาตนเองได้ ซึ่งคุณสามารถสร้างเกราะป้องกันทางธุรกิจ ได้ รวมถึง:
- การเรียนรู้จาก ร่องรอยของเอเจนต์ และกิจกรรม ภายในเบราว์เซอร์
- จุดที่สามารถ นำการเรียนรู้ไปใช้: น้ำหนักของโมเดล, โครงสร้างควบคุม, และบริบท
- ประเภทของการเรียนรู้ ที่แตกต่างกัน: เชิงขั้นตอน, เชิงความหมาย, เชิงเหตุการณ์
- ความเป็นส่วนตัวของข้อมูล: รักษาความปลอดภัยให้ข้อมูลผู้ใช้ของคุณ
- ความเป็นเจ้าของข้อมูล: สร้างเกราะป้องกันทางธุรกิจ
- เคล็ดลับเชิงปฏิบัติ สำหรับการนำการเรียนรู้ด้วยตนเองไปใช้กับเอเจนต์ใดๆ ได้อย่างง่ายดาย โดยใช้ AG-UI
เรากำลังจะปล่อยโซลูชันการเรียนรู้ด้วยตนเองของเราในอีกไม่กี่สัปดาห์ข้างหน้า
ลงทะเบียน ที่นี่ เพื่อรับสิทธิ์เข้าถึงก่อนใครและเป็นพันธมิตรด้านการออกแบบ
เอเจนต์ของคุณควรเรียนรู้จาก 2 แหล่ง
เอเจนต์ควรเรียนรู้จากร่องรอยของเอเจนต์ และจากกิจกรรมภายในเบราว์เซอร์โดยรอบ
วิธีการเรียนรู้ส่วนใหญ่ใช้เพียงอย่างใดอย่างหนึ่ง แต่ผลิตภัณฑ์ที่ใช้ ทั้งสองอย่าง จะมีประสิทธิภาพเหนือกว่าผลิตภัณฑ์ที่ไม่ได้ใช้
1. ร่องรอยของเอเจนต์
เอเจนต์ทำงาน และทุกขั้นตอนจะถูกบันทึกเป็นร่องรอย สิ่งที่ถูกถาม เครื่องมือที่เรียกใช้ สิ่งที่ส่งกลับมา จุดที่ล้มเหลว
ชี้เอเจนต์อีกตัวไปที่ร่องรอยเหล่านั้น แล้วมันจะค้นหารูปแบบความล้มเหลวและเขียนพรอมต์ เครื่องมือ และคำแนะนำใหม่
ครึ่งที่หายไป: สิ่งใดก็ตามที่อยู่นอกเหนือการโต้ตอบของเอเจนต์ ซึ่งกิจกรรมส่วนใหญ่ยังคงเกิดขึ้นที่นั่น
2. กิจกรรมผู้ใช้ภายในเบราว์เซอร์โดยรอบ
หรือก็คือ การเฝ้าดูผู้ใช้
การคลิก การแก้ไข การตอบสนอง และขั้นตอนการทำงานของพวกเขา
Brex สร้างระบบเริ่มต้นใช้งานของพวกเขาด้วยวิธีนี้ พวกเขาเฝ้าดูนักวิเคราะห์ทำงาน และป้อนการแก้ไขของมนุษย์ทุกครั้งกลับเป็นสัญญาณสำหรับการฝึกอบรม
การแก้ไขของมนุษย์แต่ละครั้งจะสร้างจุดข้อมูลที่มีป้ายกำกับ ซึ่งช่วยให้การทำงานครั้งต่อไปแม่นยำยิ่งขึ้น
ครึ่งที่หายไป: วิธีนี้เห็นมนุษย์ได้อย่างสมบูรณ์แบบ แต่มันไม่รู้อะไรเลยเกี่ยวกับสิ่งที่เอเจนต์พยายามทำหรือสาเหตุที่มันล้มเหลว
คุณควรเก็บสัญญาณทั้งสองอย่าง
ทำอย่างไร? หรือดีกว่านั้น ที่ไหน?
มีที่เดียวในผลิตภัณฑ์เกือบทุกชนิดในปัจจุบันที่เห็นทั้งสองอย่างพร้อมกัน: พื้นผิวที่มนุษย์และเอเจนต์ทำงานเคียงข้างกัน
หรือก็คือ อินเทอร์เฟซ
วิธีการคือผ่าน Agent-User Interaction Protocol (AG-UI): มาตรฐานเปิดที่สตรีมทุกเหตุการณ์ระหว่างแอปของคุณ ผู้ใช้ของคุณ และเอเจนต์ อ่านเพิ่มเติมว่าทำไมถึงสำคัญด้านล่าง
จุดที่สามารถนำการเรียนรู้ไปใช้
มีสามจุด แต่ละจุดมีข้อแลกเปลี่ยนของตัวเอง
→ น้ำหนักของโมเดล: ปรับแต่งบทเรียนลงในตัวโมเดลโดยตรง
→ โครงสร้างควบคุม: ทุกสิ่งที่อยู่รอบโมเดล วงจรที่มันทำตาม เครื่องมือที่มันได้รับอนุญาตให้เรียกใช้ การตรวจสอบที่จับมันก่อนที่มันจะลงมือทำ
→ ในบริบท: เพิ่มข้อมูลใหม่เข้าไปในพรอมต์โดยตรง เอเจนต์จะอ่านมันทุกครั้งที่เรียกใช้
ฉันครอบคลุมทั้ง 10 วิธีในสามชั้นนี้ใน บทความแรก ↓
https://x.com/svpino/status/2070210421995569537
ประเภทของการเรียนรู้ที่แตกต่างกัน
มีสามประเภทหลักที่จะช่วยให้เอเจนต์ของคุณพัฒนาขึ้นเมื่อเวลาผ่านไป
1. เชิงขั้นตอน (ขั้นตอนการทำงาน/วิธีการทำสิ่งต่างๆ)
ความจำเชิงขั้นตอนคือสิ่งที่พวกเราหลายคนรวมไว้ในไฟล์ skills หรือ agents.md:
ขั้นตอนการทำงานและกฎที่เรียนรู้มาเพื่อทำงานให้สำเร็จ
ตัวอย่างเช่น:
ผู้จัดการอนุมัติการคืนเงินที่เกินวงเงินสำหรับลูกค้าที่ภักดี เอเจนต์เรียนรู้สิ่งนี้และทำแบบเดียวกันในครั้งต่อไป
ข้อดี: เอเจนต์จัดการกรณีเดียวกันในลักษณะเดียวกันทุกครั้ง สม่ำเสมอและเป็นอิสระ
ข้อเสีย: ถ้ามันเรียนรู้ขั้นตอนการทำงานที่ผิด มันจะทำสิ่งที่ผิดอย่างมั่นใจทุกครั้ง
2. เชิงเหตุการณ์ (สิ่งที่เกิดขึ้น)
บันทึกของเหตุการณ์และการโต้ตอบในอดีตที่เฉพาะเจาะจง
ตัวอย่างเช่น:
"เมื่อวันที่ 5 มกราคม การคืนเงินของโจ โจนัสล้มเหลวเพราะบัตรของเขาหมดอายุ"
ข้อดี: กรณีในอดีตจริงดีกว่ากฎนามธรรม เอเจนต์เห็นว่ามันดำเนินไปอย่างไรและเลียนแบบสิ่งที่ได้ผล
ข้อเสีย: กรณีในอดีตส่วนใหญ่เป็นสัญญาณรบกวนที่ไร้ประโยชน์ ต้องมีคนคัดกรองและเก็บเฉพาะกรณีที่ควรค่าแก่การจดจำ มิฉะนั้นกรณีที่มีประโยชน์จะถูกฝัง
3. เชิงความหมาย (ข้อเท็จจริง)
ข้อเท็จจริงที่มั่นคงที่เอเจนต์ควรรู้
ตัวอย่างเช่น:
"แผนบัตรเครดิตทั้งหมดมีวงเงินจำกัด แต่ขีดจำกัดแตกต่างกันไปตามแผน"
ข้อดี: นำกลับมาใช้ใหม่ได้ทุกที่ ข้อเท็จจริงคือข้อเท็จจริง
ข้อเสีย: ล้าสมัยโดยไม่มีการเตือนล่วงหน้า ในวันที่ขีดจำกัดเปลี่ยนไป เอเจนต์จะมั่นใจในสิ่งที่ผิดและยังคงดำเนินการตามนั้น
การเรียนรู้ด้วยตนเองในการทำงานผ่าน CopilotKit Intelligence และ AG-UI
เชิงความหมาย เก็บสิ่งที่จริง
เชิงเหตุการณ์ เก็บกรณีที่เกิดขึ้น
เชิงขั้นตอน เก็บกฎสำหรับการจัดการมัน
เส้นทางการไหลจากการโต้ตอบระหว่างผู้ใช้กับเอเจนต์สู่การเรียนรู้ด้วยตนเอง
การเป็นเจ้าของวงจรด้วยตัวเองและการสร้างเกราะป้องกัน
ข้อมูลการเรียนรู้คือส่วนที่สำคัญที่สุดของผลิตภัณฑ์ของคุณ และมันจะมีมูลค่าเพิ่มขึ้นเรื่อยๆ เมื่อต้นทุนในการสร้างซอฟต์แวร์จากศูนย์ลดลง
การเป็นเจ้าของข้อมูลการเรียนรู้ช่วยให้คุณเป็นมากกว่าแค่ตัวห่อหุ้ม LLM API
ความพลาดของเอเจนต์และการแก้ไขของมนุษย์มักจะจบลงที่คนละที่
และไม่มีใครเชื่อมโยงพวกมันเข้าด้วยกัน
พื้นผิวสำหรับการทำเช่นนั้นมีอยู่แล้วภายในผลิตภัณฑ์ของคุณ: อินเทอร์เฟซ
เครื่องมือติดตามร่องรอยเห็นเฉพาะเอเจนต์
เครื่องมือติดตามสภาพแวดล้อมแบบที่เฝ้าดูเบราว์เซอร์เห็นเฉพาะมนุษย์ และรุกล้ำความเป็นส่วนตัวเพื่อให้ได้ข้อมูลนั้นมา
แต่ CopilotKit เห็นสัญญาณทั้งสองอย่าง
CopilotKit อ่านเหตุการณ์ที่ไหลผ่านแอปของคุณ: ทุกการเรียกใช้เครื่องมือ การเปลี่ยนแปลงสถานะ การอนุมัติ และการแก้ไข จากทั้งเอเจนต์และบุคคลที่ใช้งานมัน
มันทำสิ่งนี้ผ่าน AG-UI (Agent-User Interaction Protocol) ซึ่งนำพาทุกเหตุการณ์ระหว่างแอปของคุณ ผู้ใช้ของคุณ และเอเจนต์แบบเรียลไทม์
ตอนนี้ความพยายามของเอเจนต์และการแก้ไขของมนุษย์มาถึงในสตรีมเดียวกันแล้ว
AG-UI ทำงานร่วมกับเอเจนต์ใดๆ และโครงสร้างควบคุมใดๆ
AG-UI เป็นมาตรฐานเปิดที่ไม่ยึดติดกับเฟรมเวิร์ก
มันถูกนำไปใช้โดย AWS, Google, Microsoft, Oracle, LangChain, Mastra, Pydantic AI, CrewAI, LlamaIndex และอื่นๆ อีกมากมาย
AG-UI เห็นเหตุการณ์และฉีดบริบทที่เรียนรู้เข้าไปในเอเจนต์โดยตรง ไม่ว่าโครงสร้างควบคุมของเอเจนต์นั้นจะเป็นอย่างไรก็ตาม
นั่นหมายความว่า การเรียนรู้เดียวกันนี้ใช้ได้กับเอเจนต์ใดๆ ที่คุณนำมาใช้ ไม่ว่าจะวันนี้หรือปีหน้า โดยอัตโนมัติ โดยไม่ต้องทำงานผสานรวมแบบกำหนดเองสำหรับเอเจนต์ใหม่แต่ละตัว
ลูกค้าคนหนึ่งของเราใช้ UI ที่สื่อสารกับเอเจนต์ของ CopilotKit + Google ADK + Microsoft Agent Framework และ ความทรงจำทั้งหมดถูกแชร์ร่วมกันทั้งสามตัว
ความทรงจำที่แยกออกจากตัวเลือกเฟรมเวิร์ก = ความสามารถในการพกพา
ทุกอย่างทำงานบนโครงสร้างพื้นฐานของคุณ ดังนั้นคุณจึงเป็นเจ้าของการเรียนรู้
CopilotKit Intelligence โฮสต์ตัวเองบนคลัสเตอร์ Kubernetes ของคุณเอง อธิปไตยเหนือข้อมูลอย่างสมบูรณ์, SOC 2 Type II, การปรับใช้แบบตัดขาดจากเครือข่ายหากคุณต้องการ
ข้อมูลอยู่กับคุณ เช่นเดียวกับทุกสิ่งที่เอเจนต์เรียนรู้จากมัน
แนวทางของคนอื่นๆ ทั้งเก็บการเรียนรู้ของคุณไว้ในคลาวด์ของพวกเขา หรืออย่างของ Meta ใช้การสอดแนมเพื่อให้ได้ข้อมูลนั้นมา
@CopilotKit Intelligence ทำงานจริงในองค์กร Fortune 500 ในปัจจุบัน และเปิดให้เข้าถึงก่อนใคร ถ้าคุณต้องการให้เอเจนต์ของคุณเก่งขึ้นเมื่อมีคนใช้มันมากขึ้น ติดต่อเรา
Learning Containers: การตัดสินใจว่า "ใคร" จะได้รับการเรียนรู้ใหม่
ทันทีที่คุณเปิดใช้งานการเรียนรู้ในผลิตภัณฑ์ของคุณ คำถามก็เกิดขึ้น: การเรียนรู้ขยายไปไกลแค่ไหน? ข้อเท็จจริงที่ละเอียดอ่อนจากผู้ใช้รายหนึ่งไม่ควรรั่วไหลไปยังบริบทของเอเจนต์ของผู้ใช้รายอื่น
วิธีแก้ปัญหาของ CopilotKit คือ Learning Containers: ขอบเขตที่เป็นมิตรกับนักพัฒนาซึ่งคุณสามารถควบคุมได้ โดยตัดสินใจว่าแต่ละบทเรียนจะ 'แพร่กระจาย' ไปไกลแค่ไหน
CopilotKit ช่วยให้คุณกำหนด Learning Containers สำหรับกลุ่มผู้ใช้ต่างๆ ได้อย่างง่ายดาย:
- ต่อผู้ใช้ เช่น ความชอบเฉพาะ
- ต่อทีม เช่น ขั้นตอนการอนุมัติ
- ต่อแอป เช่น กฎของทั้งบริษัท
Learning Containers สามารถ ตรวจสอบได้ อย่างสมบูรณ์ คุณสามารถดูได้อย่างชัดเจนว่ามีการเรียนรู้อะไรบ้างและอยู่ใน Container ใด
ยังมีอีกมากมายในเรื่องนี้
เมื่อเร็วๆ นี้ เราได้จัดไลฟ์สตรีมเชิงลึกเพื่ออธิบายทุกอย่างที่ฉันเพิ่งกล่าวถึง
ชมบันทึกเต็ม ที่นี่.
สรุปโดยย่อ
แชร์อินโฟกราฟิกนี้กับเครือข่ายของคุณเป็น TL;DR
@CopilotKit Intelligence กำลังรันสิ่งนี้ในระบบการผลิตภายในองค์กรขนาดใหญ่แล้ว และเปิดให้ เข้าถึงก่อนใคร
ถ้าคุณต้องการเอเจนต์ที่เก่งขึ้นเมื่อผู้ใช้ของคุณใช้งานมันมากขึ้น ติดต่อเรา แล้วเราจะพาคุณเข้าร่วม
ติดตาม @ataiiam เพื่อรับข้อมูลเพิ่มเติม
