हमने $355 मिलियन जुटाए हैं, सितंबर के बाद से पाँच गुना वृद्धि के साथ, और $300 मिलियन की वार्षिक आय को पार कर लिया है। हमारा मूल्यांकन $4.65 बिलियन पोस्ट-मनी है, जिसमें @generalcatalyst और @Redpoint के नेतृत्व में एक राउंड है, और @MenloVentures तथा @Accel नए निवेशकों के रूप में शामिल हुए हैं। हमारे सभी मौजूदा प्रमुख निवेशकों ने भी भाग लिया, और Modal में अपने विश्वास को दोगुना किया।
AI युग के लिए एक नया बुनियादी ढाँचा
हमने Modal इसलिए शुरू किया क्योंकि पारंपरिक वेब एप्लिकेशन के लिए बनाया गया क्लाउड कभी भी AI वर्कलोड के लिए उपयुक्त नहीं होने वाला था। GenAI क्रांति से पहले ही यह हमारे लिए स्पष्ट था, और मॉडल और तकनीकों के विकसित होने के साथ यह और भी सत्य हो जाता है।
Modal AI के लिए बनाया गया एक क्लाउड है। यह एक एकल-उद्देश्य वाला GPU क्लाउड नहीं है, बल्कि एक ऐसा प्लेटफॉर्म है जिसमें डेवलपर्स को बहुत व्यापक श्रेणी के एप्लिकेशन बनाने के लिए सही प्रिमिटिव हैं। आज, यह कम-विलंबता वाले इलास्टिक इन्फरेंस, डायनामिक एजेंट रनटाइम, रीइन्फोर्समेंट लर्निंग, बड़े पैमाने पर बैच जॉब्स और बहुत कुछ जैसा दिखता है।
फ्रंटियर API से मॉडल स्वामित्व तक
DoorDash जैसी डिजिटल-नेटिव कंपनियों से लेकर Reducto जैसी AI-नेटिव कंपनियों तक, जो टीमें आगे बढ़ रही हैं, वे अपने मॉडलों का स्वामित्व ले रही हैं। वे अपने स्वयं के डेटा के साथ फाइन-ट्यूनिंग कर रहे हैं, RL चला रहे हैं, और अपनी स्वयं की विलंबता, थ्रूपुट और लागत आवश्यकताओं के लिए इन्फरेंस को ट्यून कर रहे हैं। DeepSeek, Qwen और अन्य के ओपन-वेट मॉडल उत्पादन गुणवत्ता तक पहुँच चुके हैं, और vLLM और SGLang जैसे इन्फरेंस इंजन उनके साथ परिपक्व हो गए हैं। पहली बार, आपके मॉडलों को स्वामित्व और सेवा देने का पूरा स्टैक उपलब्ध है, बिना क्षमता का त्याग किए।
Modal हमारे रीइन्फोर्समेंट लर्निंग इंफ्रास्ट्रक्चर और प्रोडक्शन इन्फरेंस दोनों को संचालित करता है। एक तरफ लाखों सैंडबॉक्स, दूसरी तरफ रीयल-टाइम सर्विंग। सब एक ही प्लेटफॉर्म पर। — @ScottWu46, CEO @cognition
Decagon एक p90 विलंबता 342ms प्राप्त करने में सक्षम था, जो प्राकृतिक ग्राहक वार्तालापों के लिए आवश्यक उप-सेकंड रेंज से काफी नीचे है, जो गति, दक्षता और एंटरप्राइज़-स्केल विश्वसनीयता प्रदान करता है। — @DecagonAI
एजेंटों को बेहतर निष्पादन वातावरण की आवश्यकता है
2023 में, हमने उपयोगकर्ताओं को Modal पर AI-जनित कोड चलाते देखना शुरू किया। यह स्पष्ट था कि यह एक सार्वभौमिक आवश्यकता बन जाएगी, इसलिए हमने Sandboxes बनाए, जो अविश्वसनीय कोड के लिए पृथक वातावरण हैं, एक प्रथम श्रेणी के प्रिमिटिव के रूप में। इस विस्फोट को होने में दो साल लगे।
पिछले छह महीनों में, यह स्पष्ट हो गया है: एजेंट हर जगह होंगे, और वे तब और अधिक शक्तिशाली होते हैं जब उनके पास संचालन के लिए एक रनटाइम होता है। DoorDash व्यापारियों के लिए AI एजेंट बना रहा है, कोडिंग एजेंट जैसे Ramp's Inspect 70% मर्ज किए गए PR लिखते हैं, RL वर्कलोड समानांतर में हजारों वातावरण चलाते हैं, और ऑटोरिसर्च एजेंट बड़े पैमाने पर वेब क्रॉल करते हैं। Modal पर 1 बिलियन से अधिक सैंडबॉक्स लॉन्च किए जा चुके हैं।
रीइन्फोर्समेंट लर्निंग के लिए सैंडबॉक्स सबसे महत्वपूर्ण बिल्डिंग ब्लॉक्स में से एक हैं। Modal स्पष्ट रूप से बहुत लचीला था, एक तरह से संरचित था जहाँ हम इन जटिल वातावरणों का निर्माण कर सकते थे, प्रदर्शन और विश्वसनीयता पर ध्यान केंद्रित करते हुए। — @ypatil125 , CEO @appliedcompute
Modal के बिना Inspect बनाना वास्तव में बहुत मुश्किल होता। अधिकांश जटिलता केवल बहुत सारी सेवाओं और डेटा के साथ सैंडबॉक्स को बहुत जल्दी स्पिन करने में सक्षम होने के पीछे छिपी हुई है, और किसी भी समय प्रभावी रूप से उनमें से अनंत होते हैं। — @rahulgs, Head of Applied AI @tryramp
AI का आकार लगातार बढ़ रहा है
Modal एक सामान्य कंप्यूट प्लेटफॉर्म है जो AI वर्कलोड की अंतर्निहित आवश्यकताओं के लिए बनाया गया है: इलास्टिक कंप्यूट, सुरक्षित अलगाव, और प्रोग्रामेटिक नियंत्रण। डेवलपर्स उन्हें बहुत अलग अनुप्रयोगों में संयोजित करते हैं। Physical Intelligence लाइव रोबोट के लिए रीयल-टाइम इन्फरेंस चलाता है। Chai Discovery प्रोटीन एम्बेडिंग से एंटीबॉडी डिज़ाइन तक ड्रग डिस्कवरी पाइपलाइनों को स्केल करता है। Suno प्रतिदिन लाखों गाने उत्पन्न करता है, हजारों GPU तक स्केल करता है और फिर लगभग शून्य पर वापस आता है। एक ही प्रिमिटिव, पूरी तरह से अलग आकार।
हम Modal का उपयोग एज इन्फरेंस को <10ms ओवरहेड और बड़े पैमाने पर बैच जॉब्स चलाने के लिए करते हैं। हमारी टीम को प्लेटफॉर्म पसंद है क्योंकि यह हमें शक्ति और लचीलापन प्रदान करता है। — Brian Ichter, Co-founder @physical_int
यह केवल समय की बचत नहीं है, बल्कि मानसिक बोझ है जो गायब हो जाता है। Modal के साथ, हम एक फंक्शन में कुछ डेकोरेटर जोड़ते हैं जिसे हमें स्केल करने की आवश्यकता होती है, उनके बारे में भूल जाते हैं, और वे बस काम करते हैं। — Kevin Wu, ML Researcher at @chaidiscovery
हम आगे क्या बना रहे हैं
हमने पिछले पाँच साल तकनीक में बहुत गहराई से जाते हुए बिताए हैं, जिसमें अपनी स्वयं की स्टोरेज और कंप्यूट लेयर को जमीन से बनाना शामिल है। इसने हमें ऐसे परिणाम प्राप्त करने में सक्षम बनाया है जो असंभव लगते थे, जैसे कि GPU स्नैपशॉटिंग के साथ कोल्ड स्टार्ट को 100x सुधारना, वैश्विक स्तर पर इलास्टिक कम-विलंबता इन्फरेंस, और दुनिया भर के सैकड़ों डेटा सेंटरों में क्षमता पूल करके आरक्षण के बिना 0 से 1,000 GPU तक मिनटों (या सेकंडों में!) स्केल करना।
क्योंकि हम पूरे स्टैक के मालिक हैं, हम उन लाभों पर निर्माण करना जारी रख सकते हैं ताकि डेवलपर्स के लिए बेहतर और बेहतर अनुभव प्रदान किया जा सके।
वह नींव ही अगले चरण को संभव बनाती है। यहाँ हम कहाँ जा रहे हैं:
बड़े पैमाने पर कम-विलंबता इन्फरेंस।
प्रोडक्शन इन्फरेंस का मानक लगातार आगे बढ़ रहा है, और हम उस पर दोगुना जोर दे रहे हैं जो टीमों को तेजी से पुनरावृत्ति करने की अनुमति देता है: बेहतर सर्विंग प्रिमिटिव, तेज अवलोकन क्षमता, और ओपन इन्फरेंस स्टैक में निरंतर निवेश। हमने Flash Attention, vLLM, SGLang और अन्य में योगदान देने वाले इन्फरेंस इंजीनियरों की एक टीम इकट्ठी की है, क्योंकि प्रदर्शन लाभ उसी इंजनों पर निर्माण करने वाले समुदाय को वापस मिलना चाहिए।
प्रशिक्षण और इन्फरेंस लूप को ढहाना।
रीइन्फोर्समेंट लर्निंग एक कठिन बुनियादी ढाँचे की समस्या है। मल्टी-नोड प्रशिक्षण, इलास्टिक इन्फरेंस, और सैंडबॉक्स पहले से ही Modal पर प्रथम श्रेणी का समर्थन रखते हैं, जो पूर्ण RL लूप को एक स्वाभाविक फिट बनाता है। हमारे उपयोगकर्ता पहले से ही गुणवत्ता, लागत, विलंबता और थ्रूपुट में पेरेटो-कुशल परिणाम देख रहे हैं। हम पूर्ण मॉडल प्रशिक्षण जीवनचक्र को, पहले फाइन-ट्यून से लेकर प्रोडक्शन सर्विंग तक, कहीं अधिक टीमों के लिए सुलभ बनाना चाहते हैं।
एजेंटों के लिए कंप्यूट लेयर।
सैंडबॉक्स पहले से ही हमारे राजस्व के एक तिहाई से अधिक चला रहे हैं, और ग्राहक हमसे और अधिक की मांग करते रहते हैं। हम नई क्षमताओं और लाखों समानांतर चलाने के पैमाने के साथ सैंडबॉक्स सतह का विस्तार कर रहे हैं। साथ ही, हम मानते हैं कि एजेंटिक विकास यहाँ है। Modal कोड है, जो इसे पहले से ही एजेंटों के काम करने के लिए एक शानदार जगह बनाता है। हम यहाँ सुधार जारी रखेंगे, ग्रैन्युलर RBAC शिप करके शुरू करते हुए ताकि ग्राहक बिना जोखिम के एजेंटों को क्षमता दे सकें।
AI बुनियादी ढाँचा परत अभी शुरू हुई है। हम भी।
यदि आप NY, SF और स्टॉकहोम में हमारी 120+ टीम में शामिल होना चाहते हैं, तो हमारी खुली भूमिकाएँ यहाँ देखें।
