मैं हाल ही में अपनी बेटी के साथ स्टीवन लेवी की "हैकर्स" को दोबारा पढ़ रहा हूँ। लेवी बताते हैं कि कैसे ब्राउटिगन की 1967 की कविता "ऑल वॉच्ड ओवर बाय मशीन्स ऑफ लविंग ग्रेस" 1970 के दशक के कैलिफोर्निया के "हार्डवेयर हैकर्स" और कम्युनिटी मेमोरी जैसे संगठनों के लिए प्रेरणादायक थी।
2026 में, "ऑल वॉच्ड ओवर बाय मशीन्स ऑफ लविंग ग्रेस" वाक्यांश मानवता की एक ऐसी तस्वीर पेश करता है जो एक शक्तिशाली और संरेखित ("मानवता-प्रेमी") AI की बाहों में पल रही है: एक AI परोपकारी तानाशाह। वास्तव में, "मशीन्स ऑफ लविंग ग्रेस" शीर्षक अपने निबंध में, डारियो अमोदेई (गहरी अनिश्चितता स्वीकार करते हुए) सुझाव देते हैं कि भविष्य की अर्थव्यवस्था का एक रूप AI सिस्टम (मानवीय मूल्यों के अनुरूप) के आसपास संगठित हो सकता है जो यह तय करता है कि "मनुष्यों को संसाधन कैसे दिए जाएं ... एक द्वितीयक अर्थव्यवस्था के आधार पर जो AI सिस्टम सोचते हैं कि मनुष्यों में पुरस्कृत करना समझ में आता है।" यह AIs को माता-पिता के रूप में रखता प्रतीत होता है जो अपने मानव बच्चों की भौतिक आवश्यकताओं को नियंत्रित और देखभाल करते हैं और तय करते हैं कि उन्हें कैसे पुरस्कृत या दंडित करना है। मेरे लिए, ऐसा "AI माता-पिता" एक परोपकारी तानाशाह के काफी करीब दिखता है।¹
चाहे आप AI को एक प्यार करने वाले माता-पिता के रूप में एक अच्छा या बुरा परिणाम मानते हों, ब्राउटिगन और (अधिक महत्वपूर्ण रूप से) कैलिफोर्निया के हैकर्स का एक बहुत अलग और अधिक विकेंद्रीकृत दृष्टिकोण था। 1960 के दशक में, कंप्यूटर IBM जैसी कंपनियों द्वारा बनाई गई बड़ी मशीनें थीं। वामपंथियों द्वारा उनसे नफरत की जाती थी और उन्हें सैन्य-औद्योगिक परिसर का हिस्सा माना जाता था। लेकिन एक समूह था जिसने वामपंथी राजनीति (या कम से कम एक स्थापना-विरोधी रवैया) को प्रौद्योगिकी के प्रति प्रेम के साथ जोड़ा, और माना कि कंप्यूटर विकेंद्रीकरण और मुक्ति के उपकरण बन सकते हैं। ऐसा करने के लिए, विशाल महंगे कंप्यूटरों को छोटी और सस्ती मशीनों का रास्ता देना होगा। यही "हार्डवेयर हैकर्स" के बारे में था, और यही वह आंदोलन था जिसने Apple II और पर्सनल कंप्यूटर क्रांति को जन्म दिया।
आज, 60 के दशक के IBM मेनफ्रेम की तरह, AI सिस्टम बड़े और महंगे हैं, और तेजी से सैन्य अनुप्रयोगों में एकीकृत हो रहे हैं। एक बार फिर, वामपंथी (और हाल ही में दक्षिणपंथी भी) इस तकनीक के प्रति गहरी नफरत और भय रखते हैं। जबकि कुछ आशंका उचित हो सकती है, AI से जुड़ने और इसकी क्षमताओं को स्वीकार करने से इनकार करके, ये वर्ग AI की प्रगति को आकार देने में खुद को कम प्रासंगिक बना रहे हैं। साथ ही, जबकि अमेरिका अग्रणी है, हम ओपन वेट्स AI में पिछड़ रहे हैं, और बंद मॉडल बढ़ती प्रतिबंधों का सामना कर रहे हैं। ये सभी रुझान अधिक विकेंद्रीकृत भविष्य के लिए अच्छा संकेत नहीं हैं।
स्केलिंग लॉ हमें बताते हैं कि बुद्धिमत्ता बढ़ाने का तरीका और अधिक संसाधनों—कंप्यूट, डेटा, बिजली—के माध्यम से है। इसलिए, 1970 के दशक के विपरीत, AIs छोटे और अधिक वितरित नहीं हो रहे हैं, बल्कि बड़े और बड़े डेटा सेंटरों में हो रहे हैं। अपने निबंध में, अमोदेई ने AGI को "एक डेटा सेंटर में प्रतिभाओं का देश" बताया। लेकिन इस देश का शासक कौन है? क्या यह AI कंपनी है जो डेटा सेंटर की मालिक है? AI स्वयं?
बड़े और अधिक महंगे सिस्टम की प्रवृत्ति को देखते हुए, यह संभव है कि कुछ पक्ष जो ऐसे सिस्टम खरीद सकते हैं, उनके द्वारा उत्पन्न सभी आर्थिक मूल्य पर कब्जा कर लें। इसके अलावा, यदि AIs हमसे अधिक बुद्धिमान हैं, तो आर्थिक या सैन्य लाभों के लिए उन्हें अधिक नियंत्रण देने का प्रलोभन विरोध करना मुश्किल हो सकता है। मुझे चिंता है कि सत्ता का संकेंद्रण, चाहे वह कुछ संस्थाओं या AI के हाथों में हो, "डिफ़ॉल्ट पथ" हो सकता है। लेकिन यह विकल्प अपरिहार्य नहीं है।
मैं उतना ही "बिटर लेसन पिल्ड" और "स्केलिंग लॉ पिल्ड" हूँ जितना कोई और। मैं सहमत हूँ कि अंततः, बुद्धिमत्ता केवल गणना है, चाहे वह प्रोटीन या सिलिकॉन पर हो, और कंप्यूटिंग इकाइयों को बढ़ाने से बुद्धिमत्ता बढ़ेगी। लेकिन यह सामाजिक या आर्थिक परिणाम निर्धारित नहीं करता है। हाँ, AI सिस्टम अधिक शक्तिशाली और हमसे कहीं अधिक बुद्धिमान हो जाएंगे। नहीं, इसका मतलब यह नहीं है कि हमें AI तानाशाहों को स्वीकार करने की आवश्यकता है, चाहे वे परोपकारी हों या नहीं। न ही इसका मतलब है कि केवल सरकार और कुछ प्रयोगशालाओं के पास उन्नत AI तक पहुंच होनी चाहिए। हम केंद्रीकृत नियंत्रण के रास्ते पर जा सकते हैं लेकिन हमें ऐसा करने की आवश्यकता नहीं है। लोग, संस्थान और विधायक दक्षता, सुरक्षा और व्यक्तिगत स्वायत्तता के बीच समझौता करने के बारे में चुनाव कर सकते हैं। उन्हें बाद के लिए पूर्व का बलिदान नहीं करना है।
कुछ लोग दावा कर सकते हैं कि बाजार और पूंजीवादी ताकतें लोगों को AIs को नियंत्रण सौंपने के लिए प्रेरित करेंगी। लेकिन अर्थव्यवस्था अंततः इस बारे में है कि मनुष्य क्या महत्व देते हैं। मनुष्य सामाजिक प्राणी हैं और हम वस्तुओं (जैसे सोना) को उनके आंतरिक मूल्य के कारण नहीं, बल्कि इसलिए महत्व देते हैं क्योंकि अन्य मनुष्य उन्हें कैसे महत्व देते हैं। AI मौलिक रूप से बदल देगा कि हम क्या महत्व देते हैं, हालांकि यह अनुमान लगाना कठिन है कि किस तरह से। मुझे यह भी निश्चित नहीं है कि उत्पादकता, श्रम, पूंजी और सकल घरेलू उत्पाद जैसी आर्थिक अवधारणाएं AGI के बाद की दुनिया में समझ में आती रहेंगी या नहीं। भौतिक विज्ञानी जानते हैं कि "अधिक अलग है।" जैसे-जैसे वैज्ञानिकों ने नए पैमानों का अध्ययन किया, चाहे वह गैलेक्टिक या सबएटॉमिक हो, उन्हें न्यूटोनियन भौतिकी से लेकर सामान्य सापेक्षता और क्वांटम यांत्रिकी तक नए सिद्धांतों का आविष्कार करने की आवश्यकता थी। शायद हमें एक नई तरह की अर्थव्यवस्था की आवश्यकता होगी।
अन्य लोग कह सकते हैं कि इसकी शक्ति को देखते हुए, सुरक्षा के लिए AI को या तो सरकार, एक "सुरक्षा-सचेत" प्रयोगशाला, या संरेखित AI द्वारा नियंत्रित किया जाना चाहिए। जोखिम वास्तविक हैं— मैं स्वयं AI सुरक्षा पर काम करता हूँ। लेकिन हमें लोगों की स्वतंत्रता छीनने के लिए धमकियों का उपयोग करने के लंबे इतिहास को भी याद रखना चाहिए। इनमें से कुछ धमकियां वास्तविक थीं— मैककार्थी काल के दौरान वास्तव में कई सोवियत जासूस थे और स्नोडेन के समय में NSA वास्तविक आतंकवादी संगठनों से निपट रहा था। लेकिन पीछे मुड़कर देखने पर हमें एहसास हुआ कि यह समझौता इसके लायक नहीं था। हमें सुरक्षा उपायों में निवेश करना चाहिए लेकिन जोखिम और हमारे तरीकों की प्रभावकारिता दोनों के बारे में अनुभवजन्य होना चाहिए। सभी जोखिमों, वास्तविक और काल्पनिक, के खिलाफ पूर्ण सुरक्षा प्राप्त करने का प्रयास न केवल विफल होने के लिए अभिशप्त है, बल्कि इस प्रक्रिया में हमें हमारी स्वतंत्रता की कीमत चुकानी पड़ेगी।
AI के जोखिम "साध्य साधनों को उचित ठहराता है" मानसिकता को जन्म दे सकते हैं: "अच्छे लोगों को जीतना चाहिए" और उन्हें या "अच्छे AI" को प्रभारी होना चाहिए। लेकिन यदि हम एक मानव-केंद्रित और विकेंद्रीकृत भविष्य चाहते हैं, तो किसी एक संस्था को प्रभारी नहीं होना चाहिए। किसी भी पक्ष के पास बुद्धिमत्ता पर एकाधिकार नहीं होना चाहिए। इसमें AI स्वयं भी शामिल है: जबकि हम गार्डरेल्स में प्रशिक्षित कर सकते हैं और करना भी चाहिए, मॉडल का व्यक्तित्व, चाहे वह कितना भी अच्छा क्यों न हो, कभी भी हमारी लोकतांत्रिक प्रक्रिया का विकल्प नहीं है।
अमेरिका पिछले 250 वर्षों में इसलिए नहीं बचा और फला-फूला क्योंकि हमारे राष्ट्रपति सभी संत या प्रतिभाशाली रहे हैं, बल्कि हमारी शक्तियों के पृथक्करण और संतुलन की प्रणाली के कारण। मुझे आशा है कि हम ऐसी प्रणाली को अगले 250 वर्षों तक बनाए रख सकते हैं, और यह सुनिश्चित कर सकते हैं कि हम मनुष्य अपनी खुशी का पीछा करने के लिए स्वतंत्र हैं जिस तरह से हम इसे परिभाषित करते हैं। इसके लिए आवश्यक है कि AI की शक्ति का वितरण इस तकनीक के निर्माण और तैनाती के तरीके में "डीएनए में बेक" हो। यदि हम ऐसा करने में विफल रहते हैं, तो जैसे खूनी क्रांतियां अक्सर सत्तावादी शासनों की ओर ले जाती हैं, हम केंद्रीकृत साधनों के माध्यम से विकेंद्रीकृत भविष्य तक नहीं पहुंच पाएंगे।
स्वीकृति: मैंने सैम ऑल्टमैन के साथ AGI पर चर्चा के बाद यह पोस्ट लिखने का फैसला किया। हालांकि, यहाँ विचार मेरे अपने हैं, और सैम, OpenAI या हार्वर्ड का प्रतिनिधित्व नहीं करते हैं।
नोट्स:
¹ जैसा कि उल्लेख किया गया है, अमोदेई इस मामले पर अनिश्चितता स्वीकार करते हैं; "द एडोलसेंस ऑफ टेक्नोलॉजी" भी देखें। दोनों निबंधों में कई ऐसे हिस्से हैं जिनसे मैं सहमत हूँ।
