就在五個月前,當我們宣布完成 C 輪融資時,我曾寫道需求正在加速成長。從那之後,使用量翻了三倍,年成長率超過 15 倍。我們最近的年化營收已突破 10 億美元,而且絲毫沒有放緩的跡象。
軟體現在能做到幾年前根本不可能的事
很明顯,AI 解鎖了一整套全新的軟體能力。如今出現了許多令人驚豔的應用,而這些在過去根本無法打造出來。舊有的技術堆疊已經不太適合它們了。它們需要不同的建構模組,以及一種思考基礎架構的全新方式。
我們正在為大量這類應用提供動力。其中之一是 TypeSafe AI 的 Jev,它是有史以來成長最快的產品之一。在上線的前三天,它就在 Modal 上處理了 1 兆個 token,而 TypeSafe 團隊則能專注於交付產品,不必分心管理基礎架構。
而這正發生在許多不同的產業領域
DoorDash 的 AI 平台團隊使用 Modal,將公司內部的應用程式從實驗階段推進到正式環境。Cognition、Ramp、Linear 和 Hebbia 正在打造各自領域的專家級背景 Agent。Runway 正在全球各個地區生成栩栩如生的影片。Physical Intelligence、Generalist AI 和 1X 正在訓練機器人。Chai Discovery 和 Achira 在 Modal 上進行藥物發現研究,透過 Claude Science 工作的科學家們也是如此。
每一次典範轉移都需要新的基礎架構
軟體領域的每一次轉變,都會同時改變人們能打造什麼,以及打造它所需要的基礎架構。我從九零年代初就開始寫程式,這並不是第一次階躍式的變革:我們經歷過網路、雲端、大數據、行動裝置,以及其他好幾次轉變。
雲端剛起步時,你突然得面對分散式系統、分片和設定檔管理等問題。我們原本的工具都不是為此設計的,所以開發者創造了新的工具:Docker、Kubernetes、Terraform 等等。
到了今天,AI 帶來的摩擦已經相當明顯。GPU 供不應求,模型體積龐大且載入緩慢。LLM 現在會自己寫程式了!而這些程式碼必須在某個地方執行,並且要與其他一切隔離。當然,你可以用舊有的技術堆疊來滿足所有這些需求,也有很多人這麼做了,但最終你會陷入 YAML 地獄和 GPU 採購煉獄。
所以我們選擇往深層鑽研。我們拋棄了大部分現有的技術堆疊,從零開始打造了自己的檔案系統、容器執行環境、排程器和網路架構,並建立在一個如今橫跨 20 多個雲端的運算資源池之上。
開發者需要的是更好的建構模組
軟體的美妙之處在於可組合性。只要你有對的建構模組——通用、經過實戰檢驗且可擴展——你就能組合出無限多的東西。
函數是我們的第一個建構模組:你寫程式碼,Modal 負責執行。結果證明這極度實用,尤其是對於生成式 AI:用擴散模型生成圖片、Suno 的音樂生成、用 vLLM 和 SGLang 進行 LLM 推論,以及模型訓練。
我們在 2023 年推出了 Sandboxes,當時我們注意到大家開始用 LLM 來生成程式碼。Sandboxes 迅速爆發,三年後的今天,光是這項產品的年化營收就達到了 3 億美元。應用場景涵蓋背景 Agent、強化學習、vibecoding 平台等等。我們已經啟動了近 30 億個沙箱,而且它們能擴展到百萬級併發。
我們還會推出更多東西
全新的軟體能力世界需要一套全新的建構模組,而我們才剛剛起步。
- 我們最近推出了多節點訓練——只需一個裝飾器(decorator),就能獲得完全透過 RDMA 連線的叢集,且無需承諾任何運算容量。我們正在往技術堆疊的上層發展,也將在 RL 和後訓練(post-training)領域推出多項產品。
- 在推論方面,我們推出了 Modal servers,這是更適合 HTTP 伺服器的解決方案,同時也帶來了一些圍繞 LLM 服務部署的超酷功能,例如 Endpoint Candidates。
- 在 Sandboxes 方面,虛擬機器現已全面開放使用。
這些只是未來眾多進展中的冰山一角。
我們完成了一輪大額融資
五年前我們創立 Modal 時,我根本無法想像今天在上面執行的多數應用。同樣地,我也很難想像兩年後人們會創造出什麼樣的軟體,但我確信的是,那將需要一整套全新的建構模組。我們希望其中很大一部分能在 Modal 上執行。
為了持續打造下一個世代的產品,我們完成了 7.5 億美元的 D 輪融資,投後估值達 157.5 億美元。本輪由 Accel 領投,Kleiner Perkins 加入,所有現有投資者也持續參與,包括 Menlo Ventures、General Catalyst、Redpoint、Lux Capital 和 Bain Capital Ventures。
我顯然有立場偏頗,但我真的想不到還有比現在更適合打造軟體的時刻了。
如果你有興趣加入我們在紐約、舊金山和斯德哥爾摩超過 200 人的團隊,歡迎查看我們的[職缺頁面](https://modal.com/careers)。*





