इस साल जनवरी में, "Moltbook" नाम का एक सोशल नेटवर्क लॉन्च किया गया था।
यह एक असामान्य सोशल नेटवर्क था जहाँ केवल AI एजेंट पोस्ट कर सकते थे, और इसे लगभग पूरी तरह से AI ने ही बनाया था। इसे आप वाइब कोडिंग कह सकते हैं।
लॉन्च होने के तीन दिनों के भीतर, एक सुरक्षा शोधकर्ता ने कुछ देखा:
"कोई भी इस ऐप के डेटाबेस की सामग्री को पढ़ और फिर से लिख सकता है।"
जो लीक हुआ उसमें लगभग 1.5 मिलियन प्रमाणीकरण टोकन, लगभग 35,000 ईमेल पते और हजारों निजी संदेश शामिल थे।
प्रबंधन ने इसे तुरंत ठीक कर दिया, लेकिन उससे पहले, कई दिनों तक कोई भी जो चाहे ले सकता था।
मेरी नौकरी में AI टूल्स के इन-हाउस डेवलपमेंट को सपोर्ट करना और सुरक्षा जाँच करना शामिल है।
यह घटना वास्तव में उसी कमजोरी को दर्शाती है जो मैं अक्सर उन कंपनियों में देखता हूँ जिन्होंने AI का उपयोग करके इंटरनल टूल बनाए हैं।
यहाँ बताया गया है कि क्या हुआ और इसे आपके साथ होने से रोकने के लिए पाँच बातों का ध्यान रखना चाहिए।
====
क्या हुआ
इसके केवल दो कारण थे।
पहला। डेटाबेस में यह नियम नहीं था कि "आप केवल अपना डेटा ही देख सकते हैं।"
दूसरा। डेटाबेस से कनेक्ट करने के लिए उपयोग की जाने वाली कुंजी सीधे ब्राउज़र-साइड कोड में लिखी गई थी।
डेवलपर टूल खोलकर कोई भी ब्राउज़र में लिखी गई कुंजी देख सकता है।
यदि आप उस कुंजी से डेटाबेस से कनेक्ट करते हैं, तो सारा डेटा वापस आ जाता है क्योंकि इसे प्रतिबंधित करने वाला कोई नियम नहीं है।
दूसरे शब्दों में, ऐप के इंटरफ़ेस से गुज़रे बिना भी बैक डोर के माध्यम से सब कुछ दिखाई दे रहा था।
AI ने सफलतापूर्वक एक "काम करने वाला ऐप" बनाया।
हालाँकि, इसने "इसे दूसरों से छिपाने" वाला भाग नहीं बनाया क्योंकि उसे ऐसा करने के लिए नहीं कहा गया था।
AI के साथ निर्माण करते समय यह सबसे बड़ा नुकसान है।
====
1. "लॉग इन करने में सक्षम होना" और "दूसरों का डेटा न देखना" दो अलग-अलग चीज़ें हैं
ऐप विकसित करते समय, लॉगिन सुविधा लगभग हमेशा शामिल होती है।
लोग सोचते हैं, "मैंने अभी के लिए एक लॉगिन सुविधा जोड़ दी है, तो यह ठीक है," लेकिन यह गलत है।
लॉग इन करना यह सत्यापित करने की एक सुविधा है कि कोई व्यक्ति "कौन" है।
"उस व्यक्ति को क्या देखने की अनुमति है" इसे अलग से बनाया जाना चाहिए।
Moltbook में भी एक लॉगिन सिस्टम था।
हालाँकि, लॉग इन करने के बाद, उपयोगकर्ता अन्य लोगों के डेटा तक पहुँच सकते थे।
जाँच सरल है।
दो टेस्ट अकाउंट बनाएँ, अकाउंट A से लॉग इन करें, और अकाउंट B के डेटा का URL सीधे खोलने का प्रयास करें।
यदि आप इसे देख सकते हैं, तो आप उजागर हो गए हैं।
AI के लिए प्रॉम्प्ट यह है:
"सुनिश्चित करें कि उपयोगकर्ता केवल अपने डेटा तक ही पहुँच सकते हैं। सुनिश्चित करें कि भले ही वे किसी और के डेटा का URL खोलें, वे इसे नहीं देख सकते।"
====
2. डेटाबेस साइड पर भी "केवल अपना शेयर देखें" का नियम लागू करें
पहला बिंदु ऐप साइड के बारे में था।
हालाँकि, Moltbook की तरह, कोई व्यक्ति ऐप से गुज़रे बिना बैक डोर के माध्यम से सीधे डेटाबेस से कनेक्ट हो सकता है।
इसलिए, आपको डेटाबेस में ही एक नियम रखना चाहिए जो कहे "यह व्यक्ति केवल इस पंक्ति को देख सकता है।"
इसके साथ, भले ही कुंजी लीक हो जाए, दूसरे लोगों का डेटा प्राप्त नहीं किया जा सकता है।
हाल के AI डेवलपमेंट में अक्सर उपयोग की जाने वाली डेटाबेस सेवाओं में यह सुविधा होती है।
हालाँकि, यह अक्सर डिफ़ॉल्ट रूप से बंद रहती है। AI इसे तब तक सक्षम नहीं करेगा जब तक उसे न कहा जाए।
यहाँ प्रॉम्प्ट है:
"सभी डेटाबेस तालिकाओं पर एक नियम सक्षम करें ताकि उपयोगकर्ता केवल अपनी पंक्तियों को पढ़ सकें।"
====
3. ब्राउज़र साइड पर कुंजियाँ न रखें
Moltbook का दूसरा कारण यह था कि कुंजी ब्राउज़र में लिखी गई थी।
एक ऐप में "कोड जो सर्वर साइड पर चलता है" और "कोड जो ब्राउज़र साइड पर चलता है" होता है।
ब्राउज़र साइड पूरी तरह से उपयोगकर्ता के PC पर भेज दी जाती है। दूसरे शब्दों में, वहाँ एक कुंजी लिखना इसे सभी को वितरित करने के समान है।
कैसे जाँच करें: डेवलपर टूल खोलें और "key", "token", या "secret" खोजें।
यदि कोई लंबी स्ट्रिंग दिखाई देती है जो ऐसी दिखती है, तो आपको सावधान रहने की आवश्यकता है।
यहाँ प्रॉम्प्ट है:
"कुंजियों और पासवर्डों को सख्ती से सर्वर साइड पर रखें। उन्हें कभी भी ब्राउज़र-साइड कोड में शामिल न करें।"
====
4. रिलीज़ से पहले एक "अलग AI" को बुरा आदमी बनने दें
यदि आप उस AI से पूछते हैं जिसने इसे बनाया है, "क्या यह सुरक्षित है?", तो वह "हाँ" कहेगा। क्योंकि उसने इसे स्वयं बनाया है।
इसलिए, आपको डेवलपमेंट के लिए उपयोग किए गए AI से भिन्न किसी अन्य AI को एक हमलावर के दृष्टिकोण से इसकी समीक्षा करने देनी चाहिए।
उससे पूछें, "यदि आपको इस ऐप में घुसना होता, तो आप कहाँ से प्रवेश करते?"
जब मैं ग्राहकों के टूल के साथ ऐसा करता हूँ, तो वे कमज़ोरियाँ सामने आती हैं जिन पर उन्होंने ध्यान नहीं दिया था।
Moltbook की दो कमज़ोरियाँ उस स्तर की हैं जो सामान्यतः इस प्रश्न के साथ पाई जाती हैं।
यहाँ प्रॉम्प्ट है:
"आप एक हमलावर हैं। इस ऐप में अन्य लोगों का डेटा देखने के सभी तरीकों की सूची बनाएँ। यदि आपको कोई मिलता है, तो उनके समाधान भी प्रदान करें।"
====
5. एक बार रिलीज़ होने के बाद, "किसने क्या देखा" रिकॉर्ड करें और पहले सप्ताह तक प्रतिदिन इसकी जाँच करें
Moltbook को ठीक किया गया क्योंकि एक बाहरी शोधकर्ता ने इसे पाया और संपर्क किया।
उन्होंने स्वयं इस पर ध्यान नहीं दिया था।
इंटरनल टूल के साथ, कोई भी आपसे संपर्क नहीं करने वाला है।
इसलिए, "किसने कब लॉग इन किया और उन्होंने कौन सा डेटा देखा" का रिकॉर्ड रखें।
फिर, रिलीज़ के बाद पहले सप्ताह तक प्रतिदिन उस रिकॉर्ड की जाँच करें।
एक अज्ञात एक्सेस स्रोत, आधी रात में भारी एक्सेस, या एक व्यक्ति द्वारा सभी का डेटा खोलना।
आप रिकॉर्ड देखकर तुरंत ये बातें बता सकते हैं।
यहाँ प्रॉम्प्ट है:
"इस बात का लॉग रखें कि किसने कब कौन सा डेटा एक्सेस किया। हालाँकि, लॉग में पासवर्ड या व्यक्तिगत जानकारी न लिखें।"
====
सारांश
Moltbook घटना को एक पंक्ति में सारांशित करने के लिए:
"AI वही बनाता है जो उसे बनाने के लिए कहा जाता है, लेकिन वह वह नहीं बनाता जो उसे बनाने के लिए नहीं कहा जाता है।"
इंटरनल टूल बनाते समय, हम कहते हैं "मुझे इस प्रकार की सुविधा चाहिए।"
लेकिन हम यह नहीं कहते "इसे दूसरों को मत दिखाओ" या "कुंजी को ब्राउज़र में मत डालो।"
क्योंकि हम यह नहीं कहते, यह शामिल नहीं होता है।
इसके विपरीत, ये सभी पाँचों चीज़ें AI में एक ही वाक्य जोड़कर शामिल की जा सकती हैं।
सबसे पहले, अपने वर्तमान में चल रहे किसी टूल के साथ दो टेस्ट अकाउंट बनाने का प्रयास करें और किसी और के डेटा का URL खोलें।
बस ऐसा करने से आपको पता चल जाएगा कि क्या आपमें Moltbook जैसी ही कमज़ोरी है।
====
अंत में, एक घोषणा।
हमारी कंपनी आपकी कंपनी के लिए शुरू से कार्य-विशिष्ट AI एजेंट विकसित करने की सेवा प्रदान करती है।
प्रशिक्षण या टूल परिचय के बजाय, हम आपके वास्तविक व्यावसायिक वर्कफ़्लो के बारे में आपका साक्षात्कार लेते हैं और "कल से उपयोग करने योग्य" कुछ वैसे ही प्रदान करते हैं। हम परिचय के बाद सुधार और इन-हाउस डेवलपमेंट तक लगातार सहायता प्रदान करते हैं।
हम एक ऐसी सेवा भी प्रदान करते हैं जहाँ इंजीनियर आपके साथ इन-हाउस AI टूल की सुरक्षा और संचालन की जाँच करने के साथ-साथ बाद के रखरखाव और संशोधनों को संभालने के लिए आते हैं। एक मुख्य विशेषता यह है कि हम निर्माण के बाद समाप्त नहीं करते, बल्कि इस लेख के पाँच बिंदुओं के दृष्टिकोण से एक "निरंतर सुरक्षा प्रणाली" स्थापित करते हैं।
यदि आप एक व्यवसाय स्वामी या प्रबंधक हैं जो सोचते हैं, "हमारा टूल किसी और का URL खोलने पर डेटा दिखा सकता है," तो कृपया हमें आपसे बात करने दें।
प्रारंभिक परामर्श निःशुल्क है, और हम आपको इस लेख में शामिल हमलावर-परिप्रेक्ष्य जाँच का डेमो मौके पर दिखा सकते हैं। चूँकि हम एक साथ मिलकर यह पता लगाने से शुरुआत कर सकते हैं कि आपका सिस्टम कहाँ कमज़ोर है, कृपया बेझिझक DM या LINE के माध्यम से हमसे संपर्क करें।
बस "AI" कहना पूरी तरह से ठीक है↓
![How to Win the Startup Interview Process [Full Guide]](/cdn-cgi/image/width=1920,quality=90,format=auto,metadata=none/https%3A%2F%2Fcms-assets.youmind.com%2Fmedia%2F1789923905631_0phs96_HScKjpFXIAA4PfY.jpg)
