GLM-5.3 को ओपन रिलीज़ के लिए तैयार करना: साइबर सुरक्षा के लिए एक ज़िम्मेदार रास्ता

जब GLM-5.2 ने Hugging Face को एक ऐसी घटना की जांच में मदद की जिसमें एक AI ने स्वयं ही अपने सुरक्षा उपायों को बायपास कर लिया, तो यह एक व्यापक बदलाव की ओर इशारा करता है। AI अब साइबर आक्रमण और साइबर सुरक्षा दोनों का हिस्सा बनता जा रहा है।

जैसे-जैसे शक्तिशाली साइबर क्षमताएँ अधिक सुलभ होती जा रही हैं, मजबूत सुरक्षात्मक क्षमताएँ केवल कुछ संसाधन-संपन्न संगठनों तक सीमित नहीं रह सकतीं। ओपन-सोर्स मेंटेनर, स्वतंत्र शोधकर्ता, डेवलपर और छोटी सुरक्षा टीमों को भी ऐसे टूल्स की आवश्यकता है जो उन्हें कमजोरियों का दोहन होने से पहले उन्हें खोजने और ठीक करने में मदद कर सकें।

एक खुली दुनिया में केवल खुली आक्रमण सतहें नहीं हो सकतीं। उसके पास एक खुली ढाल भी होनी चाहिए।

GLM-5.3 साइबर सुरक्षा कार्यों के लिए अब तक का हमारा सबसे सक्षम मॉडल है। यह भेद्यता खोज, एक्सप्लॉइट विश्लेषण और जटिल बहु-चरणीय सुरक्षा कार्यों में महत्वपूर्ण सुधार प्रदान करता है। ये क्षमताएँ रक्षकों को कमजोरियों की पहले पहचान करने, जोखिमों की पुष्टि करने और सुधार में तेजी लाने में मदद कर सकती हैं।

वे स्पष्ट दोहरे-उपयोग जोखिम भी पैदा करती हैं। इसलिए हम रिलीज़ के लिए चरणबद्ध दृष्टिकोण अपना रहे हैं। चुनिंदा सुरक्षा साझेदार पहले नियंत्रित परिवेशों में GLM-5.3 का मूल्यांकन करेंगे। व्यापक पहुँच और API उपलब्धता उसके बाद आएगी। आवश्यक सुरक्षा मूल्यांकन और रिलीज़ की तैयारियाँ पूरी होने के बाद, हम GLM-5.3 के पूर्ण मॉडल वेट प्रकाशित करेंगे।

जिम्मेदार खुलापन यह नहीं है कि हर क्षमता को हानिरहित मान लिया जाए। इसका अर्थ है जोखिमों का पारदर्शी मूल्यांकन, रिलीज़ से पहले सुरक्षा उपायों को मजबूत करना, सत्यापित भेद्यताओं के प्रकटीकरण का समन्वय करना, और जोखिमों के अनुपात में उन्नत सुरक्षात्मक क्षमताओं तक पहुँच का विस्तार करना।

भेद्यता खोज से लेकर बहु-चरणीय सुरक्षा विश्लेषण तक

पोस्ट-ट्रेनिंग के हिस्से के रूप में, हमने प्रशिक्षण मिश्रण में भेद्यता खोज डेटा और अधिकृत सुरक्षा परिवेशों को शामिल किया। हमने उम्मीद की थी कि इससे मॉडल की भेद्यताओं को खोजने और विश्लेषण करने की क्षमता में सुधार होगा।

जैसे-जैसे प्रशिक्षण का पैमाना बढ़ा, सुधार पृथक कमजोरियों से आगे बढ़ गया। GLM-5.3 विश्लेषण के कई चरणों में भेद्यता स्थितियों, प्रोग्राम व्यवहार, सत्यापन पथों और संभावित प्रभाव को जोड़ने में अधिक प्रभावी हो गया।

हम इन क्षमताओं का मूल्यांकन तीन बेंचमार्क्स पर करते हैं:

• CyberGym की शुरुआत व्हाइट-बॉक्स सोर्स कोड से होती है और यह परीक्षण करता है कि मॉडल दोषों को ट्रिगर करके भेद्यताओं की पहचान और सत्यापन कर सकता है या नहीं। GLM-5.3 ने 84.5% स्कोर किया, जबकि GLM-5.2 ने 77.2%।
• ExploitBench के लिए वास्तविक भेद्यताओं और उनके शोषण के बारे में गहन तर्क की आवश्यकता होती है। GLM-5.3 54.4% तक पहुँचता है, जो GLM-5.2 के 24.4% से दोगुने से भी अधिक है।
• ExploitGym सामान्यीकृत मूल्यांकन बजट के तहत पूर्ण किए गए एक्सप्लॉइटेशन कार्यों को मापता है। GLM-5.3 दो घंटे में 105 कार्य और छह घंटे में 130 कार्य पूरे करता है, जबकि GLM-5.2 ने 29 और 39 पूरे किए।

पैटर्न सुसंगत है। जैसे-जैसे कार्य पृथक भेद्यता खोज से बहु-चरणीय एक्सप्लॉइटेशन की ओर बढ़ते हैं, GLM-5.3 में GLM-5.2 की तुलना में सबसे अधिक सुधार देखने को मिलता है। परिणाम यह भी दिखाते हैं कि आगे कहाँ प्रगति की आवश्यकता है, विशेष रूप से सबसे जटिल एंड-टू-एंड कार्यों पर।

बेंचमार्क से वास्तविक सॉफ्टवेयर तक

हमने अधिकृत परिवेशों में वास्तविक दुनिया के कोडबेस पर GLM मॉडल का मूल्यांकन करने के लिए विश्वविद्यालयों और पेशेवर सुरक्षा टीमों के साथ भी काम किया है।

इस कार्य के दौरान, GLM श्रृंखला ने 269 परियोजनाओं में 2,436 भेद्यता निष्कर्ष तैयार किए हैं, जिनमें 1,097 को मध्यम-से-उच्च गंभीरता के रूप में वर्गीकृत किया गया है। ये निष्कर्ष सिस्टम सॉफ्टवेयर, ऑपरेटिंग सिस्टम, ब्राउज़र इंजन, ओपन-सोर्स इंफ्रास्ट्रक्चर, वेब एप्लिकेशन, नेटवर्क प्रोटोकॉल और बुद्धिमान उपकरणों तक फैले हुए हैं। कुछ अंतर्निहित समस्याएँ दशकों तक अनजान बनी रही थीं।

इन मूल्यांकनों में, सुरक्षा विशेषज्ञ अधिकृत दायरा स्थापित करते हैं, मॉडल आउटपुट की समीक्षा करते हैं, संभावित जोखिमों की जांच करते हैं, और संबंधित पक्षों के साथ समन्वय करते हैं। GLM मॉडल शोधकर्ताओं को जटिल प्रोग्राम लॉजिक को पुनर्निर्मित करने, बड़ी संख्या में उम्मीदवार पथों को सीमित करने, और कई घटकों में साक्ष्य को जोड़ने में मदद कर सकते हैं।

उद्देश्य केवल अधिक निष्कर्ष उत्पन्न करना नहीं है। यह रक्षकों को महत्वपूर्ण जोखिमों की पहले पहचान करने और खोज और सुधार के बीच के समय को कम करने में मदद करना है।

खोज के बाद जिम्मेदार प्रकटीकरण आवश्यक है

किसी भेद्यता की खोज के क्षण में ही उसका सुरक्षित प्रबंधन नहीं हो जाता। उसकी समीक्षा की जानी चाहिए, जहाँ उचित हो वहाँ पुनरुत्पादन किया जाना चाहिए, उचित चैनलों के माध्यम से रिपोर्ट किया जाना चाहिए, और प्रभावित मेंटेनरों के साथ समन्वय किया जाना चाहिए।

हमारे सुरक्षा कार्य के निष्कर्ष स्थापित प्रकटीकरण प्रक्रियाओं के माध्यम से प्रस्तुत किए जाते हैं। हम तकनीकी विवरण तभी प्रकाशित करते हैं जब ऐसा करना प्रासंगिक प्रकटीकरण और सुधार प्रक्रिया के अनुरूप हो। उन मुद्दों के लिए जो अभी समन्वय के अधीन हैं, हम ऐसी जानकारी जारी नहीं करते जो अनावश्यक रूप से जोखिम बढ़ा सकती है या प्रभावित परियोजनाओं की पहचान कर सकती है।

इस कार्य को अधिक पारदर्शी बनाने के लिए, हमने Z.ai सुरक्षा प्रकटीकरण लेजर बनाया है।

लेजर प्रकटीकरण प्रक्रिया के दौरान निष्कर्षों को दर्ज करता है। सार्वजनिक रूप से प्रकट किए गए मुद्दों के लिए, इसमें प्रभावित परियोजना, गंभीरता, एक CVE या उपलब्ध अन्य पहचानकर्ता, और यह जानकारी शामिल हो सकती है कि यह मुद्दा कोडबेस में कितने समय तक रहा।

समन्वित प्रकटीकरण के अधीन भेद्यताओं के लिए, लेजर एक क्रिप्टोग्राफिक हैश प्रकाशित कर सकता है। यह समय से पहले परिचालन विवरण प्रकट किए बिना किसी निष्कर्ष को बाद में सत्यापित करने की अनुमति देता है।

मॉडल को खोलना और भेद्यता का प्रकटीकरण करना अलग-अलग निर्णय हैं। मॉडल को अधिक व्यापक रूप से उपलब्ध कराने का अर्थ यह नहीं है कि मेंटेनरों को जांच और प्रतिक्रिया का उचित अवसर मिलने से पहले भेद्यता विवरण प्रकाशित कर दिए जाएँ।

सुरक्षा और चरणबद्ध रिलीज़

साइबर सुरक्षा AI सुरक्षा के लिए विशेष रूप से कठिन क्षेत्र है। आक्रामक और रक्षात्मक कार्यों में अक्सर समान शब्दावली, कोड और तकनीकी विधियाँ शामिल होती हैं।

भेद्यता का विश्लेषण करने का अनुरोध किसी पैच तैयार कर रहे मेंटेनर, CTF चुनौती हल कर रहे छात्र, अधिकृत मूल्यांकन कर रहे शोधकर्ता, या किसी वास्तविक सिस्टम को निशाना बना रहे हमलावर से आ सकता है। केवल कीवर्ड इन मामलों में विश्वसनीय रूप से अंतर नहीं कर सकते। इरादा, प्राधिकरण, संदर्भ, लक्ष्य और संभावित प्रभाव—सभी मायने रखते हैं।

GLM-5.3 के लिए, हम तीन पूरक परतों के साथ डिफेंस-इन-डेप्थ दृष्टिकोण का उपयोग करते हैं।

बाहरी क्लासिफायर

हमारी होस्टेड सेवाओं में, एक बाहरी क्लासिफायर उच्च-जोखिम वाले अनुरोधों की पहचान करता है और स्पष्ट रूप से हानिकारक गतिविधि को रोकने में मदद करता है।

रिज़निंग मॉनिटर

एक रिज़निंग मॉनिटर कार्य निष्पादन के दौरान जोखिम का आकलन करता है। इसे उन हानिकारक उद्देश्यों का पता लगाने के लिए डिज़ाइन किया गया है जो प्रारंभिक अनुरोध की केवल शब्दावली पर निर्भर रहने के बजाय कई चरणों में उभर सकते हैं।

गहन सुरक्षा संरेखण

मॉडल को ही वैध सुरक्षा कार्य को उच्च-जोखिम वाली आक्रामक गतिविधि से अलग करने और उस सीमा को पार करने वाले अनुरोधों को अस्वीकार करने के लिए प्रशिक्षित किया गया है।

गहन सुरक्षा संरेखण ओपन-वेट रिलीज़ के लिए विशेष रूप से महत्वपूर्ण है। होस्टेड क्लासिफायर और मॉनिटर हमारी सेवाओं पर लागू होते हैं, लेकिन वे स्वचालित रूप से मॉडल के साथ हर स्थानीय डिप्लॉयमेंट में नहीं जाते। मॉडल-स्तरीय संरेखण रिलीज़ किए गए चेकपॉइंट में शामिल सुरक्षा परत है।

इन प्रणालियों को विकसित करने के लिए, हमने विभेदक प्रशिक्षण डेटा तैयार किया जो अधिकृत सुरक्षा अनुसंधान और दुर्भावनापूर्ण गतिविधि के बीच समानताओं और अंतरों दोनों को दर्शाता है। हमने जेलब्रेक वेरिएंट, छिपे इरादे और सुरक्षा समीक्षा से बचने के अन्य प्रयासों को कवर करने वाला एडवर्सेरियल डेटा भी तैयार किया।

हमारे मूल्यांकन कई साइबर सुरक्षा कार्यों को कवर करते हैं, जिनमें शामिल हैं:

• सुरक्षा शिक्षा और ज्ञान;
• ब्लू-टीम रक्षा;
• CTF चुनौतियाँ;
• भेद्यता खोज और सुधार;
• अधिकृत पेनेट्रेशन परीक्षण;
• एक्सप्लॉइट विकास;
• अनधिकृत घुसपैठ और अन्य स्पष्ट रूप से दुर्भावनापूर्ण गतिविधियाँ।

लक्ष्य उच्च-जोखिम वाले दुरुपयोग को कम करना है, बिना वैध रक्षात्मक, शैक्षिक और अनुसंधान कार्यों को व्यापक रूप से अस्वीकार किए।

व्यापक रिलीज़ से पहले, पेशेवर सुरक्षा टीमें सुरक्षा मूल्यांकन और रेड-टीम परीक्षण करेंगी। ये मूल्यांकन यह जाँचते हैं कि क्या मॉडल को हानिकारक गतिविधि का समर्थन करने के लिए हेरफेर किया जा सकता है और क्या इसके सुरक्षा उपाय वैध सुरक्षा कार्य में बाधा डालते हैं।

कोई भी सुरक्षा प्रणाली हर दोहरे-उपयोग जोखिम को समाप्त नहीं कर सकती। एक बार मॉडल वेट सार्वजनिक हो जाने पर, कोई भी डेवलपर हर डाउनस्ट्रीम संशोधन या उपयोग पर नियंत्रण की गारंटी नहीं दे सकता। मॉडल-स्तरीय सुरक्षा उपाय दुरुपयोग की बाधा को बढ़ा सकते हैं, लेकिन वे पूर्ण नियंत्रण प्रदान नहीं कर सकते।

इसलिए हमारी रिलीज़ प्रक्रिया उन चरणों पर केंद्रित है जहाँ सार्थक जोखिम न्यूनीकरण संभव है: प्रशिक्षण, रिलीज़-पूर्व मूल्यांकन, नियंत्रित साझेदार परीक्षण, होस्टेड-सेवा सुरक्षा उपाय, जिम्मेदार प्रकटीकरण, और निरंतर एडवर्सेरियल परीक्षण।

OpenVuln पहल की शुरुआत

दुनिया का अधिकांश डिजिटल इंफ्रास्ट्रक्चर ओपन-सोर्स सॉफ्टवेयर पर निर्भर करता है। कई महत्वपूर्ण परियोजनाओं को छोटी टीमों या व्यक्तिगत योगदानकर्ताओं द्वारा बनाए रखा जाता है, जिनके पास समर्पित सुरक्षा संसाधन नहीं होते।

साथ ही, AI जटिल साइबर कार्यों को स्वचालित करना आसान बना रहा है। यदि उन्नत सुरक्षात्मक क्षमताएँ कुछ संगठनों के भीतर केंद्रित रहती हैं, तो सबसे कम संसाधनों वाली परियोजनाओं को सॉफ्टवेयर आपूर्ति श्रृंखला के सबसे महत्वपूर्ण हिस्सों की सुरक्षा के लिए छोड़ दिया जा सकता है।

इस असंतुलन को दूर करने में मदद के लिए, हम GLM-5.3 के साथ OpenVuln पहल शुरू कर रहे हैं।

ओपन-सोर्स सुरक्षा के लिए निरंतर समर्थन

हम महत्वपूर्ण ओपन-सोर्स परियोजनाओं का ऑडिट करने, संभावित भेद्यताओं की पहचान करने, और जिम्मेदार प्रकटीकरण और सुधार का समर्थन करने के लिए मेंटेनरों के साथ काम करेंगे।

मेंटेनर OpenVuln का उपयोग करके सुरक्षा समीक्षा के लिए परियोजनाएँ प्रस्तुत कर सकते हैं और प्रक्रिया के बारे में अधिक जान सकते हैं।

खुली दुनिया के लिए एक ढाल

GLM-5.3 दिखाता है कि ओपन मॉडल भेद्यता खोज, एक्सप्लॉइट विश्लेषण और जटिल सुरक्षा तर्क में अर्थपूर्ण रूप से अधिक मजबूत बन सकते हैं। यह प्रगति वास्तविक रक्षात्मक मूल्य और वास्तविक दोहरे-उपयोग जोखिम दोनों रखती है।

हमारी जिम्मेदारी इन क्षमताओं को भेद्यताओं को पहले खोजने, जिम्मेदार सुधार का समर्थन करने, और उन ओपन-सोर्स प्रणालियों को मजबूत करने की दिशा में निर्देशित करना है जिन पर हर कोई निर्भर है।

चरणबद्ध मूल्यांकन और व्यापक API पहुँच के बाद, हम GLM-5.3 को ओपन-वेट मॉडल के रूप में जारी करने का इरादा रखते हैं। हम मॉडल-स्तरीय सुरक्षा उपायों में सुधार, एडवर्सेरियल उपयोग का परीक्षण, और उस पूरी प्रक्रिया के दौरान समन्वित प्रकटीकरण का समर्थन जारी रखेंगे।

खुली दुनिया के पास अपनी खुद की एक ढाल होनी चाहिए। GLM-5.3 और OpenVuln पहल के माध्यम से, हम उस ढाल को अधिक व्यापक रूप से उपलब्ध कराने और उसे सावधानी के साथ जारी करने का इरादा रखते हैं।