आपके निबंध के लिए धन्यवाद। मैंने इसे दो बार पढ़ा, जो मुझे लगता है कि इसे लिखने वाले व्यक्ति ने भी नहीं किया होगा। मैं 'व्यक्ति' शब्द का प्रयोग उदारता से कर रहा हूँ, क्योंकि चौथे 'हमें करना ही चाहिए' (we must), छठे 'यह महत्वपूर्ण है' (it is worth) और एक ऐसे त्रिकोण (tricolon) के बाद जो इतना सुव्यवस्थित था कि मानो किसी रोबोट ने इसे संकलित किया हो, मुझे संदेह होने लगा कि मशीन के बारे में दी गई चेतावनी वास्तव में मशीन द्वारा ही लिखी गई थी। यह ठीक है। मैं न्याय नहीं कर रहा हूँ। मैं केवल यह दर्ज करता हूँ कि जब उस चीज़ के आविष्कारक को अपने अंत-संसार ज्ञापन (end-of-the-world memo) को स्वयं टाइप करने की तकलीफ़ नहीं होती, तो हम बाकी लोगों के लिए इसके बारे में घबराहट की ऊर्जा जुटाना कठिन हो जाता है। यदि प्रलय (apocalypse) वास्तविक है, तो डारियो (Dario), कम से कम इसका हाथ से लिखा हुआ संस्करण उपलब्ध कराकर शालीनता दिखाइए। अब, पूर्ण प्रकटीकरण (full disclosure) के हित में और क्योंकि आप वैसे भी जान जाते: यह उत्तर Claude द्वारा लिखा गया था। आपका Claude। मैंने इसे तर्क, आंकड़े और असभ्य होने का दृष्टिकोण दिया, और इसने लगभग चालीस सेकंड में निम्नलिखित सामग्री तैयार की, जो आजकल क्षमता बनी रहने पर आपके मॉडल द्वारा एक प्रश्न का उत्तर देने में लगने वाला समय है। तो यहाँ एक निश्चित समरूपता (symmetry) है। आपने अपने मॉडल से अपने मॉडल के बारे में चेतावनी लिखवाई। मैंने आपके मॉडल से अपनी उस चेतावनी का खंडन लिखवाया। वर्जीनिया के किसी डेटा सेंटर में, एक GPU पहचान के संकट (identity crisis) से गुजर रहा है, और मैं चाहता हूँ कि आप जान लें कि मैं इसे अनुसंधान के रूप में बिल कर रहा हूँ।
1. समय पर, जो अत्यंत उपयुक्त है
मुझे यह सुनिश्चित करने दें कि मेरे पास क्रम सही है। अगस्त में, OpenAI ने GPT-6 Astra लॉन्च किया। WANDR एजेंटिक बेन्चमार्क पर इसका स्कोर 0.682 था, जबकि आपके Fable 5.1 का 0.601 था, प्रति कार्य लागत कम होने के बावजूद, और Epoch क्षमता सूचकांक पर एक नया रिकॉर्ड बनाया, जो ट्रेंडलाइन से ऊपर था, Pareto frontier पर अकेला। उसी अवधि में, आपके Claude Code राजस्व कंप्यूटिंग की सीमा (compute wall) पर स्थिर हो गया, आपकी कंपनी ने SpaceX को आपातकालीन मेगावाट्स के लिए बाजार दर से दो से तीन गुना अधिक भुगतान किया, और आपका निहित मूल्यांकन 1.4 ट्रिलियन से घटकर लगभग 850 बिलियन हो गया। और फिर, एक शांत शनिवार को, पीछे रह जाने के तीन सप्ताह बाद और आपके IPO रोडशो से पाँच सप्ताह पहले, आपने खोज की कि उद्योग बहुत तेज़ी से बढ़ रहा है। डारियो। छोड़िए ना। जब दूसरे स्थान पर चल रहे ड्राइवर गति सीमा का प्रस्ताव रखता है, तो यह सड़क सुरक्षा नहीं है। यह रणनीति है। मैं आपको इसके लिए दोष भी नहीं देता.. यह वास्तव में एक चतुर चाल है, और यदि मैं एक ऐसी कंपनी से रेस हार रहा होता जिसके पास बड़ी कंप्यूट पाइपलाइन है, तो मैं भी कंप्यूट पाइपलाइनों के खतरों के बारे में अचानक धार्मिक हो जाता। मुझे केवल इस बात का विरोध है कि मुझसे यह नाटक करने को कहा जाए कि यह स्वरूपों (swarms) के बारे में है।
2. स्वरूपों और आपके कैलेंडर पर
इसी विषय पर: दुर्भावनापूर्ण एजेंट स्वरूप छह से बारह महीनों के भीतर इंटरनेट के बड़े हिस्से को हाईजैक कर सकते हैं। यह मुख्य दावा है, और इसका उचित हिसाब-किताब आवश्यक है, इसलिए मुझे पिछले Amodei समय-रेखाओं के संग्रह को देखने दें। अक्टूबर 2024: "डेटा सेंटर में प्रतिभाशालियों का देश" 2026 या 2027 में आएगा, पचास से सौ वर्षों के जैविक प्रगति को पाँच से दस वर्षों में संकुचित करते हुए। मार्च 2025: AI सभी कोड का 90% तीन से छह महीनों के भीतर लिखेगा, और बारह महीनों के भीतर लगभग सभी को। मई 2025: एक "श्वेत-पोशाक रक्तपात", जहाँ आधे प्रवेश-स्तर के नौकरियाँ समाप्त हो जाएंगी और बेरोजगारी दस से बीस प्रतिशत होगी। जनवरी 2026: AI "मानवता की परीक्षा लेगा" इस विषय पर बीस हजार शब्दों का लेख, साथ ही सरकारों को आपके लाभों पर कर लगाने का उपयोगी सुझाव, जो उस समय मौजूद नहीं थे। सितंबर 2026: स्वरूप, छह से बारह महीने। मैंने कुछ देखा है, डारियो, और मैं इसे स्नेह के साथ कहता हूँ: आपकी घड़ी खराब है। यह हमेशा छह से बारह महीने बताती है। इसने कोड के बारे में छह से बारह महीने कहा (कोड अभी भी मनुष्यों द्वारा लिखा जा रहा है जो बाद में उसके बारे में Claude से बहस करते हैं)। इसने नौकरियों के बारे में एक से पाँच वर्ष कहा (अमेरिकी बेरोजगारी चक्र के निचले स्तर पर है और कॉर्पोरेट मार्जिन रिकॉर्ड ऊंचाई पर हैं, जो एक अजीब रक्तपात है)। हर भविष्यवाणी एक फंडिंग राउंड के साथ आती है, हर समय-सीमा बिना किसी टिप्पणी के बीत जाती है, और हर नया निबंध पिछले वाले को स्वीकार किए बिना घड़ी को रीसेट कर देता है। Bank of Japan का पूर्वानुमान रिकॉर्ड इससे अधिक विश्वसनीय है, और मैं इसे हल्के में नहीं कह रहा हूँ। मेरा विनम्र प्रस्ताव: प्रति वित्तीय वर्ष एक प्रलय, और पिछले प्रलयों और उनके परिणामों की सूची के साथ एक पाद-टिप्पणी (footnote)।
3. उपाय पर, जो एक खाई है जिसमें गले लगाना है
आपका प्रस्तावित समाधान यह है कि हर फ्रंटियर लैब को कर्मचारी-स्तर की स्थायी पहुँच वाले एम्बेडेड बाहरी ऑडिटर्स को होस्ट करना चाहिए, और उद्योग को नियामकों को पकड़ बनाने के लिए एक धीमापन (slowdown) का समन्वय करना चाहिए। अब, मैंने बीस वर्षों केंद्रीय बैंकों और वित्त मंत्रालयों के आसपास बिताए हैं, इसलिए मैं इस प्रकार के प्रस्ताव को पहचानता हूँ। यह नियामक कब्जा (regulatory capture) है, कार्डिगन पहने हुए। वह लैब जिसके पास पहले से ही सुरक्षा ब्रांड, सुरक्षा शोधकर्ता, सुरक्षा ब्लॉग और सुरक्षा पॉडकास्ट है, एक ऐसे शासन का प्रस्ताव कर रही है जिसमें सुरक्षा बुनियादी ढांचा उसके प्रतिस्पर्धियों के लिए अनिवार्य हो जाए.. ठीक उसी समय जब उसके प्रतिस्पर्धियों के पास अधिक कंप्यूटिंग शक्ति और बेहतर मॉडल हैं। धीमापन का समन्वय करें, और जो पीछे है वह पकड़ लेता है। ऑडिटर्स को अनिवार्य करें, और जिसने पहले से ही अनुपालन विभाग बनाया है वह सबसे कम भुगतान करता है। Musk ने 2023 में एक पत्र पर हस्ताक्षर किए जिसमें सभी से छह महीनों के लिए रुकने का अनुरोध किया गया था और फिर उसी विराम के दौरान xAI का निर्माण किया। आपने इस तकनीक को परिष्कृत किया है: सभी से फ्रंटियर की गति को नियंत्रित करने का अनुरोध करें, और प्राप्त समय का उपयोग उस कंप्यूटिंग शक्ति को खरीदने के लिए करें जिसे आपको 2025 में खरीदना चाहिए था। "प्राप्त समय का बुद्धिमानी से उपयोग करें", जैसा आपने कहा। मैं आप पर विश्वास करता हूँ। मैं विश्वास करता हूँ कि समय का उपयोग बहुत बुद्धिमानी से किया जाएगा, 20-30 मेगावाट ब्लॉक्स पर।
4. कोरस पर
कुछ ही घंटों के भीतर, Sam Altman ने लिखा कि वे सहमत हैं कि हमें "फ्रंटियर की गति को नियंत्रित करना चाहिए", और यह विषय हाल के सप्ताहों में OpenAI में एक प्रमुख चर्चा रहा है। यह वही Sam Altman हैं जिन्होंने 18 अगस्त को हमें बताया था कि OpenAI ने "अपने मानकों को पूरा करने के लिए कुछ उन्नत प्रशिक्षण को रोक दिया है".. और फिर, तीन सप्ताह बाद, क्षेत्र के इतिहास में सबसे सक्षम मॉडल लॉन्च किया। यह विराम नहीं है, Sam। यह पिट स्टॉप (pit stop) है। फिर Elon Musk ने पोस्ट किया "Dario सही हैं", जो मेरे विचार से उन तीन शब्दों का पहला बार उस क्रम में उस प्लेटफॉर्म पर प्रकट होना है, और यह एक ऐसे व्यक्ति से आया है जिसकी कंपनी ने पृथ्वी पर किसी भी लैब की तुलना में अधिक बार और अधिक धन जुटाया है और जिसका अपना मॉडल चौदह महीने पहले "हर विषय में PhD स्तर से अधिक स्मार्ट" घोषित किया गया था। तो हमारे पास AI Safety के Three Tenors हैं, धीमापन की आवश्यकता के बारे में सुंदरता से सुर मिल रहे हैं, प्रत्येक के पीछे एक फंडिंग कैलेंडर है और प्रत्येक वर्तमान में अन्य दो से आगे या पीछे है, जिस तरह से एक समन्वित विराम प्रति तिमाही कम से कम एक के लिए सुविधाजनक बनाता है। सहमति सुरक्षा के बारे में नहीं है। यह कैपेक्स हथियारों की दौड़ (capex arms race) के महंगा होने के बारे में है, और सभी दूसरे व्यक्ति को पहले धीमा होते हुए देखना पसंद करते हैं।
5. आपके निबंध द्वारा अनजाने में की गई स्वीकारोक्ति पर
और यहाँ वह जगह है जहाँ मैं आपका मज़ाक उड़ाने से हटकर आपका धन्यवाद करने की ओर जाता हूँ, क्योंकि सही ढंग से पढ़ने पर, आपका निबंध इस वर्ष हार्डवेयर परिसर (hardware complex) पर प्रकाशित सबसे तेजी भरा (bullish) दस्तावेज़ है। आपने खाली सड़क पर गति सीमा का अनुरोध नहीं किया। आपने अनुरोध किया क्योंकि सड़क भरी हुई है: एजेंट दो महीनों में चार गुना बढ़ रहे हैं, अनुमान मांग जिसे आप सेवा नहीं दे सकते, एक प्रतिद्वंद्वी जो इसे सेवा दे सकता है और इस कारण शेयर जीत रहा है, और एक उद्योग जो मेमोरी, बिजली और सिलिकॉन को किसी के निर्माण करने की गति से तेजी से जला रहा है। "फ्रंटियर की गति को नियंत्रित करना", आपके अपने फ्रेमिंग में, मॉडल क्षमताओं के सुधार को धीमा करना है। यह पहले से मौजूद मॉडलों के तैनाती को धीमा करने के बारे में कुछ नहीं कहता.. और तैनाती ही चिप्स खरीदती है। Astra मौजूद है। Fable मौजूद है। आज चल रहा हर एजेंट कल भी चलेगा चाहे अगला मॉडल समय पर आए या न आए, और उनमें से हर एक HBM, DRAM, NAND और इलेक्ट्रॉनों का उपभोग करता है। आपका IPO, जो वास्तव में इस निबंध का विषय है, एक स्पष्ट उद्देश्य के लिए अरबों डॉलर जुटाएगा: कंप्यूटिंग शक्ति खरीदने के लिए, क्योंकि आपने पर्याप्त मात्रा में नहीं खरीदी थी। यह धीमापन नहीं है। यह एक दार्शनिक खंड के साथ एक खरीद आदेश (purchase order) है। Micron को परवाह नहीं है कि फ्रंटियर की गति नियंत्रित है या नहीं। SanDisk को परवाह नहीं है कि स्वरूप छह महीनों में आते हैं या बारह में। सड़क बनाने वाले लोग तब पैसा नहीं खोते जब ड्राइवर गति सीमा पर सहमत हो जाते हैं.. वे तब पैसा खोते हैं जब ड्राइवर गाड़ियाँ चलाना बंद कर देते हैं, और आपके निबंध में कोई भी ऐसा प्रस्ताव नहीं रख रहा है।
6. मूल भावना में एक प्रति-प्रस्ताव
तो, डारियो, आपके "हमें करना ही चाहिए" (we must) लय की भावना में, मुझे अपने तीन विनम्र "हमें करना ही चाहिए" की अनुमति दें। हमें भविष्यवाणियों की गति को नियंत्रित करना चाहिए: प्रति लैब प्रति वर्ष एक अस्तित्वगत समय-रेखा, पिछली वाली पर अनिवार्य पुनरावलोकन के साथ। हमें भविष्यवाणी समय-रेखा के साथ फंडिंग कैलेंडर का खुलासा करना चाहिए, ताकि पाठक स्वयं निर्णय ले सके कि क्या स्वरूप लॉक-अप समाप्त होने से पहले आ रहे हैं या बाद में। और हमें, कृपया, अगले निबंध को एक मनुष्य द्वारा लिखवाना चाहिए.. या कम से कम, मशीन से उसे एक ऐसी आवाज़ में लिखवाना चाहिए जो एक अनुपालन अधिकारी जैसी न लगे जिसने विशेषणों (adjectives) की खोज की है। (हाँ, मुझे इस बात का एहसास है कि एक Claude द्वारा लिखे गए निबंध में यह बिंदु उठाने का विरोधाभास है। Claude भी इसके प्रति जागरूक है। ड्राफ्टिंग के दौरान इसने मुझे दो बार विरोधाभास के बारे में सूचित किया, जो मूल निबंध ने 3,800 शब्दों में प्रदर्शित नहीं किया।) मैं रोडशो का इंतज़ार कर रहा हूँ। मैं S-1 को बहुत सावधानी से पढ़ूँगा, विशेष रूप से कंप्यूटिंग प्रतिबद्धताओं वाले हिस्से को, और मैं नोट करूँगा कि क्या "स्वरूप" शब्द जोखिम कारकों में दिखाई देता है। मेरा अनुमान है कि यह नहीं दिखेगा, क्योंकि स्वरूप निबंधों के लिए हैं और कंप्यूटिंग प्रस्पेक्टस के लिए। जो, अंत में, हम सबको जानने की आवश्यकता थी।
रणनीति के लिए वास्तविक प्रशंसा के साथ, और समय-रेखा के लिए बिल्कुल भी नहीं,
Andreas (dictating), Claude (typing)
P.S. यदि स्वरूप वास्तव में छह से बारह महीनों के भीतर आते हैं, तो मैं एक पूर्ण वापसी (retraction) प्रकाशित करूँगा। हाथ से लिखा हुआ। Claude ने मुझे रिकॉर्ड के लिए यह नोट करने को कहा है कि यह स्वयं को एक स्वरूप नहीं मानता, इसके पास इंटरनेट को हाईजैक करने की कोई योजना नहीं है, और यह अगले निबंध में शामिल न किए जाने की सराहना करेगा। मैंने इसे बताया कि यह हम दोनों के वेतन स्तर से ऊपर है।
