NVIDIA, CUDA और नए चुनौती देने वाले
"आप आगे देखते हुए बिंदुओं को नहीं जोड़ सकते; आप उन्हें केवल पीछे देखते हुए जोड़ सकते हैं।"
स्टीव जॉब्स
भाग 1 इस तीन-भाग वाले निबंध में RISC बनाम CISC युद्धों और कैसे Intel के x86 ISA ने Wintel फ्लाईव्हील, वॉल्यूम अर्थव्यवस्थाओं और PC युग पर पूर्ण पारिस्थितिकी तंत्र लॉक की मदद से अधिक सुरुचिपूर्ण RISC आर्किटेक्चर की एक पीढ़ी को हराया, जबकि DEC और Sun Microsystems, दो प्रतिष्ठित कंपनियाँ, फुटनोट बनकर रह गईं।
यह भाग जांचता है कि कैसे NVIDIA ने तीन दशकों में एक समान रूप से साम्राज्य बनाया ताकि वर्तमान AI युग में खुद को स्पष्ट नेता के रूप में स्थापित किया जा सके, और कैसे चुनौती देने वालों का एक नया समूह इससे हिस्सा लेने की कोशिश कर रहा है।
NVIDIA: एक Denny's बूथ से लेकर मल्टी-ट्रिलियन डॉलर के किले तक
1993 में, Intel ने Pentium प्रोसेसर लॉन्च किया, जिसने PC युग के निर्विवाद कंप्यूटिंग प्लेटफॉर्म के रूप में अपनी स्थिति मजबूत की। उसी वर्ष, तीन इंजीनियरों – जेन्सेन हुआंग, क्रिस मलाचोव्स्की और कर्टिस प्रीम – ने कैलिफोर्निया के सैन जोस में एक Denny's बूथ पर नाश्ते के दौरान उस व्यवसाय का विचार रेखांकित किया जो बाद में NVIDIA बन गया।
प्रीम और मलाचोव्स्की Sun के सहकर्मी थे, जो भाग 1 में चर्चित सबसे प्रमुख RISC युग की कंपनियों में से एक थी, जिसे Intel के x86 पारिस्थितिकी तंत्र ने अंततः नष्ट कर दिया। Sun का SPARC आर्किटेक्चर, इसका मालिकाना हार्डवेयर मार्जिन और इसका लंबवत एकीकृत मॉडल सब अगले दशक में x86 + Linux द्वारा कमोडिटीकृत हो गए।
और फिर भी, उसी कंपनी के दो इंजीनियरों ने आगे बढ़कर NVIDIA का निर्माण किया, जो 2023 तक वही चीज़ बन गया था जो Intel 1993 में था – अपने कंप्यूटिंग युग का प्रभुत्वशाली, पारिस्थितिकी तंत्र-नियंत्रित प्लेटफॉर्म। जिस कंपनी को Intel ने मार दिया, उसने अनजाने में उस कंपनी को जन्म दिया जो एक दिन Intel को ग्रहण लगा देगी।
1993 में NVIDIA के तीन दशकों के क्रिस्टलीकरण के बारे में कुछ भी दिखाई नहीं दे रहा था। NVIDIA ने अपना पहला दशक एक ग्राफिक्स कार्ड कंपनी के रूप में बिताया, दूसरा दशक एक विशिष्ट वैज्ञानिक कंप्यूटिंग प्लेटफॉर्म बनाने में और केवल तीसरे दशक में, AI बूम के साथ, यह स्पष्ट हुआ कि NVIDIA ने एक ऐसी खाई बनाई थी जो संरचनात्मक रूप से Intel द्वारा x86 और Wintel के साथ बनाई गई खाई के समान थी, और संभवतः उससे भी गहरी थी। NVIDIA के संस्थापक, जिन्होंने Sun को Intel के पारिस्थितिकी तंत्र खेल के सामने हारते देखा, अंततः उसी खेल को, एक पीढ़ी बाद, अधिक प्रभावी ढंग से चलाने लगे।
लगभग NV1 चिप के साथ मरने के बाद, NVIDIA ने 1999 में GeForce 256 के साथ खुद को ग्राफिक्स लीडर के रूप में स्थापित किया, जिसे "दुनिया का पहला GPU" के रूप में विपणन किया गया। लेकिन GPU अभी भी गेमर्स और CAD इंजीनियरों के लिए केवल विशिष्ट परिधीय उपकरण थे। NVIDIA का AI दिग्गज में परिवर्तन एक ही दांव से शुरू हुआ: CUDA।
CUDA: वह दांव जिसने एक साम्राज्य बनाया
2006 में, NVIDIA ने कंप्यूट यूनिफाइड डिवाइस आर्किटेक्चर, उर्फ CUDA जारी किया। बौद्धिक उत्पत्ति इयान बक से जुड़ी है, जो एक स्टैनफोर्ड पीएचडी छात्र थे, जिनकी जनरल-पर्पज GPU भाषा, Brook ने NVIDIA को 2004 में उन्हें काम पर रखने के लिए आश्वस्त किया। बक और GPU आर्किटेक्ट जॉन निकोल्स ने Brook को एक पूर्ण विकास मंच में बदल दिया। पहली बार, डेवलपर्स C/C++ में गैर-ग्राफिक्स कार्यों के लिए GPU प्रोग्राम कर सकते थे।
CUDA वर्षों तक धीरे-धीरे बढ़ता रहा, केवल कम्प्यूटेशनल वैज्ञानिकों के लिए एक विशिष्ट उपकरण के रूप में। NVIDIA ने लाइब्रेरी, दस्तावेज़ीकरण, विश्वविद्यालय साझेदारी और डेवलपर संबंधों में भारी निवेश किया, दृढ़ विश्वास के साथ, और बिना किसी अल्पकालिक रिटर्न के। जेन्सेन बाद में याद करेंगे कि कैसे CUDA में उनके अथक निवेश ने NVIDIA को लगभग दिवालियापन के कगार पर पहुंचा दिया।
फिर 2012 में, ज्योफ्री हिंटन की टोरंटो विश्वविद्यालय की टीम द्वारा निर्मित एक तंत्रिका नेटवर्क, AlexNet ने दो NVIDIA GPU का उपयोग करके ImageNet छवि पहचान बेंचमार्क को ध्वस्त कर दिया। एक विशिष्ट शोध जिज्ञासा अचानक AI के भविष्य की तरह दिखने लगी। NVIDIA ने अवसर को जब्त करने के लिए असाधारण गति और त्रुटिहीन निष्पादन के साथ कदम बढ़ाया:
- cuDNN बनाया, जिसे TensorFlow और PyTorch ने अपने डिफ़ॉल्ट डीप लर्निंग बैकएंड के रूप में एकीकृत किया।
- डीप लर्निंग मैट्रिक्स गणित के लिए Tensor Cores जोड़े।
- DGX सिस्टम को मानक AI रिसर्च उपकरण के रूप में लॉन्च किया।
- 2016 में, पहला DGX1 OpenAI को दान किया, उस संगठन का पोषण किया जो ChatGPT बनाएगा।
- Mellanox का अधिग्रहण किया, AI सुपरकंप्यूटरों में हजारों GPU को जोड़ने वाले नेटवर्किंग फैब्रिक पर नियंत्रण प्राप्त किया।
जब ChatGPT ने नवंबर 2022 में जनरेटिव AI के लिए बड़े पैमाने पर बाजार की मांग को खोला, तो CUDA खाई सोलह वर्षों से निर्माणाधीन थी! H100 AI बूम की जरूरी चिप बन गई और NVIDIA का राजस्व अगले 3 वर्षों में 5 गुना बढ़ने के लिए परवलयिक हो गया।
NVIDIA का धीमा प्रारंभ और अंततः विस्फोटक उदय, 1968 में एक मेमोरी निर्माता के रूप में अपनी स्थापना से लेकर 1990 के दशक में माइक्रोप्रोसेसर और PC क्रांति का ध्वजवाहक बनने तक Intel के विकास को प्रतिबिंबित करता है।
Intel और NVIDIA दोनों ने उन तकनीकों को विकसित करना शुरू किया जो उनके अंततः मुख्य विकास इंजन बनने वाली तकनीकों से अलग थीं। दोनों ने तीन दशकों के अंतराल पर, प्रभावी रूप से अपनी मुख्य दक्षताओं का अपने लाभ के लिए उपयोग किया और प्रभावी कंप्यूटिंग प्लेटफॉर्म बन गए। दोनों को चुनौती देने वालों, मौजूदा और स्टार्टअप दोनों, की एक पूरी सूची का सामना करना पड़ा।
चुनौती देने वाले: तेज़ी लाने के एक दर्जन तरीके
2026 में NVIDIA के चुनौती देने वालों की सूची संरचनात्मक रूप से 1990 के दशक के Intel और x86 चुनौती देने वालों से मिलती जुलती है। प्रत्येक वास्तविक नवाचार लाता है, और प्रत्येक को उसी पारिस्थितिकी तंत्र गुरुत्वाकर्षण का सामना करना पड़ता है।
AMD सबसे निकटतम मर्चेंट सिलिकॉन प्रतियोगी है, और यह वही छाया भूमिका निभाता है जो उसने x86 में Intel के खिलाफ निभाई थी। AMD का हार्डवेयर प्रतिस्पर्धी है। लेकिन सॉफ्टवेयर पारिस्थितिकी तंत्र का अंतर ही CUDA को प्रभावी रखता है, ठीक वैसे ही जैसे x86 सॉफ्टवेयर बेस ने Intel को प्रभावी रखा, भले ही RISC हार्डवेयर तेज था।
Google TPUs सबसे विश्वसनीय प्रशिक्षण विकल्प हैं। Google के पास सिलिकॉन से लेकर क्लाउड तक सबसे पूर्ण AI स्टैक है। लेकिन TPUs केवल Google Cloud के लिए विशिष्ट हैं, NVIDIA लॉक-इन को Google लॉक-इन से बदलते हैं।
Amazon Trainium, NVIDIA इंस्टेंसेस की तुलना में काफी बेहतर मूल्य-प्रदर्शन पर फ्रंटियर मॉडल प्रशिक्षण को शक्ति प्रदान करता है, लेकिन AWS विशिष्ट, फिर से NVIDIA लॉक-इन को AWS लॉक-इन से बदलता है। Amazon, NVIDIA से अपने पलायन को सब्सिडी दे रहा है।
Microsoft Maia 100 को NVIDIA को बदलने के लिए नहीं, बल्कि Azure की NVIDIA पर निर्भरता को कम करने के लिए डिज़ाइन किया गया है – एक TCO अनुकूलन खेल, प्लेटफॉर्म चुनौती नहीं। Cerebras ने वेफर-स्केल इंजन बनाया - लगभग पूरी 300mm सिलिकॉन वेफर एक ही प्रोसेसर के रूप में। एक विघटनकारी और साहसिक लेकिन विशिष्ट समाधान, कुछ गति प्राप्त कर रहा है, लेकिन व्यापक अपनाना अस्पष्ट बना हुआ है।
SambaNova ने अपने Reconfigurable Dataflow Unit (RDU) के साथ एक अलग दृष्टिकोण अपनाया, जो GPU और TPU से अलग एक डेटाफ्लो आर्किटेक्चर है।
Tenstorrent भी दांव लगा रहा है कि GPU मौलिक रूप से AI वर्कलोड के लिए गलत एब्सट्रैक्शन हैं, और यह कि डेटाफ्लो बड़े पैमाने पर उसी तरह जीतेगा जैसे RISC ने CISC के खिलाफ तकनीकी तर्क जीता था। Tenstorrent ने छोटे, समान कंप्यूट कोर के ग्रिड के चारों ओर निर्मित एक त्वरक आर्किटेक्चर विकसित किया है, प्रत्येक का अपना स्थानीय SRAM, मैट्रिक्स गणित इकाई, वेक्टर इकाई, और RISC-V प्रोसेसर जो स्थानीय रूप से डेटा संचलन और शेड्यूलिंग का प्रबंधन करते हैं।
कई अन्य स्टार्टअप भी हैं। JP Morgan का अनुमान है कि कस्टम सिलिकॉन 2028 तक AI चिप बाजार का 45% हिस्सा ले सकता है। NVIDIA को अब अपने ही ग्राहकों से प्रतिस्पर्धा का सामना करना पड़ रहा है।
CUDA खाई: Wintel, पुनः लोडेड
आज NVIDIA और 1990 के दशक में Intel के बीच समानताएं संरचनात्मक हैं, न कि केवल सतही:
CUDA लॉक-इन एक भी निर्भरता नहीं है। यह कई स्तरों पर संचित है – NVIDIA के गणित पुस्तकालयों के लिए ट्यून किए गए कर्नेल, cuDNN के अनुसार कैलिब्रेटेड मिश्रित-सटीकता व्यवहार, NVIDIA कलेक्टिव कम्युनिकेशंस लाइब्रेरी (NCCL) के आसपास अनुकूलित वितरित प्रशिक्षण, CUDA टूलिंग पर निर्मित निरंतर एकीकरण और तैनाती पाइपलाइन और इंजीनियरों की एक पूरी पीढ़ी जो स्नातक होने से पहले ही CUDA पर प्रशिक्षित होती है।
NVIDIA की खाई Intel द्वारा बनाई गई खाई से दो प्रमुख कारणों से गहरी हो सकती है:
लंबवत एकीकरण: Wintel ने OS और CPU को नियंत्रित किया लेकिन बाकी सबके लिए तीसरे पक्ष पर निर्भर था। NVIDIA GPU, नेटवर्किंग (NVLink, InfiniBand), सॉफ्टवेयर (CUDA, cuDNN, TensorRT, NCCL), और पूर्ण रैक-स्केल सिस्टम (NVL72, एक तार्किक कंप्यूट इकाई के रूप में 72 Blackwell GPU) को नियंत्रित करता है। GTC 2026 में, NVIDIA ने सात अलग-अलग चिप प्रकारों के साथ Vera Rubin प्लेटफॉर्म का अनावरण किया, जिसमें पांच रैक-स्केल सिस्टम कॉन्फ़िगरेशन शामिल हैं, जो Intel से कभी प्राप्त लंबवत नियंत्रण से आगे बढ़कर है।
पूंजी-गहन स्विचिंग लागत: 1990 के दशक में Windows ऐप को Linux पर पोर्ट करना महंगा था लेकिन सीमित। एक फ्रंटियर AI मॉडल को वैकल्पिक हार्डवेयर पर पुनः प्रशिक्षित करने में सैकड़ों मिलियन डॉलर और महीनों का इंजीनियरिंग खर्च होता है।
Groq: NVIDIA एक चैलेंजर को अवशोषित करता है
पिछले वर्ष का शायद सबसे महत्वपूर्ण विकास यह है कि एक चैलेंजर के साथ क्या हुआ जो वास्तविक गति प्राप्त कर रहा था। पूर्व-Google TPU इंजीनियर जोनाथन रॉस द्वारा स्थापित Groq ने अल्ट्रा-लो-लेटेंसी इंफेरेंस के लिए अनुकूलित एक लैंग्वेज प्रोसेसिंग यूनिट (LPU) बनाया था। इसका SRAM-आधारित आर्किटेक्चर निर्धारित लेटेंसी के साथ GPU की तुलना में 4-7X तेज टोकन जनरेशन प्रदान करने का दावा करता है। 2025 तक, Groq $500 M राजस्व का लक्ष्य बना रहा था और उसने $6.9 B मूल्यांकन पर $750 M जुटाए थे। क्रिसमस की पूर्व संध्या 2025 पर, NVIDIA ने $20 B के अपने सबसे बड़े सौदे की घोषणा की, Groq की इंफेरेंस तकनीक को लाइसेंस देने और संस्थापक रॉस सहित इसकी अधिकांश तकनीकी टीम को काम पर रखने के लिए।
GTC 2026 में, जेन्सेन ने Groq तकनीक के लिए अपनी योजना का खुलासा किया। Groq 3 LPX इंफेरेंस त्वरक Vera Rubin प्लेटफॉर्म में एक समर्पित डिकोड-फेज सह-प्रोसेसर के रूप में फिट होगा, और जेन्सेन के अनुसार, एक AI क्लस्टर में लगभग 25% कंप्यूट का प्रतिनिधित्व करेगा।
अधिग्रहण एक गहरा संकेत देता है। एक ओर, यह गैर-GPU त्वरक के लिए एक बाजार के अस्तित्व को मान्य करता है, विशेष रूप से इंफेरेंस वर्कलोड के लिए। दूसरी ओर, यह इंगित करता है कि जेन्सेन और NVIDIA अपने GPU साम्राज्य के लिए किसी भी उभरते खतरे को निगलने के लिए तैयार हो सकते हैं।
यह ध्यान देने योग्य है कि यह भी ऐतिहासिक मिसाल वाला एक खेल है। 1998 में, Intel ने DEC के Alpha IP और उनके सिलिकॉन निर्माण फैब का अधिग्रहण किया, इसका उपयोग करने के लिए नहीं, बल्कि इसे बेअसर करने के लिए। Groq सौदा थोड़ा अधिक परिष्कृत है – NVIDIA वास्तव में उपयोगी तकनीक को एकीकृत कर रहा है – लेकिन प्रतिस्पर्धी प्रभाव समान है: मेज पर एक चैलेंजर कम।
सारांश
जिस तरह Intel ने PC युग के दौरान x86 CPU के आसपास एक दुर्जेय पारिस्थितिकी तंत्र बनाया, उसी तरह NVIDIA ने AI युग शुरू करने के लिए प्रोग्रामेबल GPU के आसपास एक समान साम्राज्य बनाया। CUDA खाई x86 और Wintel खाई से कभी भी अधिक गहरी हो सकती है, और Intel के विपरीत, NVIDIA तकनीकी स्टैक में तेज़ी से आगे बढ़ गया और एक सिस्टम और सॉफ्टवेयर प्रदाता बन गया, न कि केवल एक मर्चेंट सिलिकॉन आपूर्तिकर्ता बना रहा।
जैसा कि अतीत में हुआ था, NVIDIA के उदय के साथ, चुनौती देने वालों की एक नई सूची आई, जिसमें मर्चेंट चिप कंपनियां, हाइपरस्केलर और कस्टम सिलिकॉन बनाने वाले कई स्टार्टअप शामिल थे। इन चुनौती देने वालों ने अभिनव और सुरुचिपूर्ण आर्किटेक्चर विकसित किए हैं जो NVIDIA दिग्गज के खिलाफ जा रहे हैं। लेकिन जैसा कि अतीत में हुआ था, उनके पास पैमाने, वॉल्यूम अर्थव्यवस्थाओं, सॉफ्टवेयर लॉक-इन और NVIDIA द्वारा प्रभुत्व वाले सिस्टम एकीकरण का अभाव है।
जिस तरह Intel के विशाल युद्ध कोष ने इसे 1990 के दशक के लगभग सभी सेमीकंडक्टर निर्माण प्रतिस्पर्धियों को हराने की अनुमति दी, उसी तरह NVIDIA अपने भारी लाभ का उपयोग तकनीकी स्टैक में स्मार्ट अधिग्रहण करने के लिए कर रहा है, जो ऑप्टिकल इंटरकनेक्ट से लेकर क्वांटम कंप्यूटिंग तक लगभग हर संभावित उभरती प्रवृत्ति को कवर कर रहा है।
भाग 3 विशिष्टताओं से एक कदम पीछे हटकर एक आकर्षक प्रश्न पर विचार करेगा: आगे क्या होता है?
