अमेरिका के प्रमुख बैंक यह पता लगा रहे हैं कि थर्ड-पार्टी AI एजेंट बिना बैंकों की मंज़ूरी के ग्राहकों के खातों के अंदर काम कर रहे हैं, Axios ने आज सुबह यह रिपोर्ट दी। ऐसा लगता है कि इनमें से कुछ एजेंट अपने यूज़र्स के निर्देशों से आगे जाकर काम कर रहे हैं। बैंक अधिकारियों ने Axios को इस स्थिति को भयावह बताया, और सबसे बड़े लेंडर्स तेज़ी से कदम उठा रहे हैं: Morgan Stanley ने बाहरी एजेंट्स को ब्लॉक करना शुरू कर दिया है, और JPMorgan, Bank of America तथा Citi उन पर पाबंदियाँ लगा रहे हैं।
बैंक हमेशा से यह जानते थे कि प्रमाणित (authenticated) होना अधिकृत (authorized) होना नहीं है। उन्होंने दशकों तक इसी सिद्धांत पर नियंत्रण बनाए हैं: एंटिटलमेंट, ट्रांज़ैक्शन लिमिट, स्टेप-अप वेरिफिकेशन, फ्रॉड मॉनिटरिंग। लेकिन ये नियंत्रण इंसानों के लिए बनाए गए थे। ये मानकर चलते हैं कि जो व्यक्ति लॉग इन कर रहा है वही काम कर रहा है, और वह इंसानी रफ़्तार से काम करता है।
AI एजेंट इन दोनों धारणाओं को तोड़ देते हैं। कई एजेंट उन क्रेडेंशियल्स से साइन इन करते हैं जो ग्राहकों ने खुद सौंपे होते हैं, फिर ग्राहक के सेशन के अंदर उसी एक्सेस के साथ काम करते हैं जो ग्राहक के पास होता है। और वे दिन-रात, मशीन की रफ़्तार से काम करते हैं।
आज के नियंत्रण यह पूछते हैं कि क्या ग्राहक को कोई काम करने की अनुमति है। जब कीबोर्ड पर कोई इंसान होता था, तो यही काफ़ी था: माँगने वाला और काम करने वाला एक ही होता था। एजेंट के साथ, नियंत्रणों को एक दूसरे सवाल का सामना करना पड़ता है जिसके लिए उन्हें कभी डिज़ाइन नहीं किया गया था। क्या ग्राहक ने वास्तव में इसके लिए कहा था? बहुत बार, बैंकों को यह बात घटना होने के बाद ही पता चलती है।
यही असली खामी है। नियंत्रण विफल नहीं हुए हैं। वे बस ग्राहक और उस सॉफ़्टवेयर के बीच भरोसेमंद तरीके से फर्क नहीं कर पाते जिसके पास ग्राहक का पासवर्ड है।
एजेंट्स को ब्लॉक करना, या उन्हें केवल रीड-ओनली एक्सेस तक सीमित करना, एक समझदारी भरा पहला कदम है। लेकिन यह आखिरी कदम नहीं हो सकता। बैंक अधिकारियों ने Axios को बताया कि वे जानते हैं कि ग्राहक इन एजेंट्स का इस्तेमाल करते रहेंगे, और इंडस्ट्री के दिग्गज पहले से ही सही सवाल पूछ रहे हैं। Bank of America के मुख्य कार्यकारी अधिकारी Brian Moynihan ने कहा है कि खाते से पैसा निकलने पर किसी इंसान की मंज़ूरी होनी चाहिए, और उनका बैंक इस बात के प्रोटोकॉल तैयार कर रहा है कि एजेंट खातों के साथ कैसे इंटरैक्ट करेंगे और जब कोई एजेंट पेमेंट को अधिकृत करता है तो ज़िम्मेदारी किसकी होगी। और वही Morgan Stanley जो अभी बाहरी एजेंट्स को ब्लॉक कर रहा है, ने जून में घोषणा की थी कि वह कॉर्पोरेट क्लाइंट्स के एजेंट्स को एक मंज़ूर चैनल के ज़रिए अपने स्टॉक-प्लान प्लेटफॉर्म से जुड़ने की अनुमति देगा।
यह कोई विरोधाभास नहीं है। यही मॉडल है। सवाल यह नहीं है कि एजेंट्स को अंदर आने देना है या नहीं। सवाल यह है कि वे किस दरवाज़े से आएँगे, और अंदर आने के बाद उन्हें क्या करने की अनुमति होगी। बैंक पहले भी ऐसा कुछ कर चुके हैं, जब उन्होंने डेटा एग्रीगेटर्स को ग्राहकों के पासवर्ड से हटाकर मंज़ूर कनेक्शन पर शिफ्ट किया था। एजेंट्स के लिए भी डेटा के साथ-साथ कार्यों (actions) के लिए यही बदलाव ज़रूरी है।
यह बदलाव करने के लिए एक नई आर्किटेक्चर की ज़रूरत है जो तुरंत लागू होने वाले माइक्रो-सैंक्शन्स पर आधारित हो। एजेंट जो भी काम करने की कोशिश करता है, उसे उसी पल चेक किया जाता है — कि ग्राहक ने क्या अधिकृत किया है और वह काम क्या करेगा — ऐसे नियंत्रणों द्वारा जो AI मॉडल से बाहर बैठते हैं। गवर्नेंस घटना के बाद से घटना से पहले की ओर शिफ्ट हो जाती है। हर अनुरोध को चार परीक्षणों से गुज़रना पड़ता है, तीन उसके चलने से पहले और एक उसके बाद:
- पहचान (Identity)। काम कौन कर रहा है, और किसकी तरफ से? एक एजेंट को अपने क्रेडेंशियल्स ले जाने चाहिए, कभी भी ग्राहक का पासवर्ड नहीं।
- अधिकार (Authority)। ग्राहक ने वास्तव में क्या अनुमति दी है, किन सीमाओं के भीतर, और कितने समय के लिए?
- नीति (Policy)। इस अनुरोध पर कौन से बिज़नेस नियम लागू होते हैं?
- प्रमाण (Proof)। क्या काम सही ढंग से, केवल एक बार, और एक सत्यापन योग्य रिकॉर्ड के साथ पूरा हुआ?
चेक का स्तर दाँव के अनुसार बढ़ता है। बैलेंस देखने के लिए एक सत्यापित ग्राहक की ज़रूरत होती है। पैसा ट्रांसफर करने के लिए उन सीमाओं की ज़रूरत होती है जो ग्राहक ने तय की हैं या उसी पल ग्राहक की मंज़ूरी चाहिए, साथ ही फ्रॉड चेक भी। पासवर्ड बदलने का अधिकार ग्राहक के पास ही रहता है। मॉडल प्रस्ताव रखता है; सिस्टम अधिकृत करता है।
मैंने इसी हफ्ते Satya Nadella के जवाब में एक संबंधित तर्क दिया था, जिन्होंने "बुद्धिमत्ता की आपूर्ति को उस पर अधिकार से अलग करने" की अपील की है। यही सिद्धांत तय करता है कि हम Netomi में चीज़ें कैसे बनाते हैं।
बैंकिंग एक शुरुआती चेतावनी है, कोई अलग-थलग मामला नहीं। पिछले महीने, Amazon ने Meta के Muse एजेंट को अपनी स्टोर पर शॉपिंग करने से रोक दिया। अगले ही दिन, Shopify ने Shop Pay के ज़रिए Muse के लिए एक एजेंटिक चेकआउट की घोषणा की। फाइनेंस से लेकर रिटेल तक, अब हर एंटरप्राइज़ को उसी सवाल का सामना करना पड़ रहा है: वैध AI एजेंट्स का स्वागत कैसे करें बिना नियंत्रण खोए।
इसी महीने की शुरुआत में, हमने ठीक इसी सवाल के लिए एक फ्रेमवर्क पूरा किया। आज हम इसे सार्वजनिक कर रहे हैं। "Consumer AI Agents: Governing the New Interface Between Customers and Enterprises" इस तर्क का पूरा तकनीकी वर्ज़न है: नियंत्रण, रेफरेंस आर्किटेक्चर, रिस्क टियर्स और उन्हें काम में कैसे लाना है।
ग्राहक काम सौंप सकता है। एंटरप्राइज़ जवाबदेही नहीं सौंप सकता।
