我们成功筹集了 3.55 亿美元，自 9 月 以来增长了五倍，年化收入超过 3 亿美元。本次融资由 @generalcatalyst 和 @Redpoint 领投，@MenloVentures 和 @Accel 作为新投资者加入，投后估值为 46.5 亿美元。所有现有主要投资者也参与了本轮融资，进一步坚定了他们对 Modal 的信心。
面向 AI 时代的新型基础设施层
我们创立 Modal 是因为专为传统 Web 应用构建的云无法适应 AI 工作负载。在生成式 AI 革命之前我们就清楚这一点，随着模型和技术的进步，这一点更加明确。
Modal 是为 AI 构建的云。它不是单一用途的 GPU 云，而是一个为开发者提供正确原语的平台，用于构建极其广泛的应用。如今，这包括低延迟弹性推理、动态 Agent 运行时、强化学习、大规模批处理作业等。
从前沿 API 到模型所有权
从 DoorDash 这样的数字原生企业到 Reducto 这样的 AI 原生公司，领先的团队正在托管自己的模型。他们用自己的数据进行微调，运行强化学习，并根据自己的延迟、吞吐量和成本需求调整推理。来自 DeepSeek、Qwen 等公司的开源权重模型已达到生产级质量，vLLM 和 SGLang 等推理引擎也与之同步成熟。第一次，拥有和服务自己模型的完整栈已经就绪，且不牺牲能力。
Modal 为我们的强化学习基础设施和生产推理提供支持。一端是数百万个沙盒，另一端是实时服务。都在同一个平台上。——@ScottWu46，@cognition 首席执行官
Decagon 实现了 p90 延迟为 342 毫秒，远低于自然客户对话所需的亚秒级范围，提供了速度、效率和企业级可靠性。——@DecagonAI
Agent 需要更好的执行环境
2023 年，我们开始看到用户在 Modal 上运行 AI 生成的代码。我们很清楚这将成为普遍需求，因此我们将 Sandbox（用于不可信代码的隔离环境）作为一等原语构建。爆炸性增长用了两年时间。
在过去六个月里，情况变得明朗：Agent 将无处不在，而当它们拥有可操作的运行时环境时，会变得更加强大。DoorDash 正在为商家构建 AI Agent，像 Ramp 的 Inspect 这样的编码 Agent 负责了 70% 的合并 PR，强化学习工作负载 并行运行数千个环境，自动研究 Agent 大规模爬取网页。超过 10 亿个沙盒 已在 Modal 上启动。
沙盒是强化学习最重要的构建模块之一。Modal 显然非常灵活，其结构使我们能够构建这些复杂的环境，并专注于性能和可靠性。——@ypatil125，@appliedcompute 首席执行官
如果没有 Modal，构建 Inspect 会非常困难。大量复杂性被隐藏在快速启动沙盒的能力背后，这些沙盒拥有大量服务和数据，并且在任何时刻都可以拥有无限数量的沙盒。——@rahulgs，@tryramp 应用 AI 负责人
AI 的形态不断扩展
Modal 是一个通用的计算平台，专为 AI 工作负载的底层需求而构建：弹性计算、安全隔离和程序化控制。开发者将它们组合成截然不同的应用。Physical Intelligence 为实时机器人运行实时推理。Chai Discovery 将药物发现管线从蛋白质嵌入扩展到抗体设计。Suno 每天生成数百万首歌曲，扩展到数千个 GPU 再回缩到几乎为零。相同的原语，完全不同的形态。
我们使用 Modal 运行开销低于 10 毫秒的边缘推理和大规模批处理作业。我们的团队喜欢这个平台提供的强大功能和灵活性。——Brian Ichter，@physical_int 联合创始人
这不仅仅是节省时间，更是消除了精神负担。使用 Modal，我们只需在需要扩展的函数上添加几个装饰器，然后就可以忘记它们，它们就能正常工作。——Kevin Wu，@chaidiscovery 机器学习研究员
我们下一步要构建什么
过去五年，我们在技术上投入极深，包括从零开始构建自己的存储和计算层。这使我们能够实现看似不可能的结果，例如通过 GPU 快照将冷启动速度提升 100 倍，全球弹性低延迟推理，以及通过在全世界数百个数据中心中汇集容量，无需预留即可在几分钟（甚至几秒）内从 0 扩展到 1,000 个 GPU。
因为我们拥有完整栈，我们可以继续在这些优势上构建，为开发者提供越来越好的体验。
这一基础使得下一阶段成为可能。以下是我们前进的方向：
大规模低延迟推理
生产推理的标杆不断提高，我们将加倍投入能够让团队快速迭代的能力：更好的服务原语、更清晰的观测性，以及持续投资于开源推理栈。我们组建了一个推理工程师团队，为 Flash Attention、vLLM、SGLang 等做出贡献，因为性能提升应该回馈给使用相同引擎构建的社区。
融合训练与推理循环
强化学习是一个艰难的基础设施问题。多节点训练、弹性推理和沙盒在 Modal 上已经获得一流支持，这使得完整的强化学习循环自然契合。我们的用户已经在质量、成本、延迟和吞吐量方面看到了帕累托高效的结果。我们希望让完整的模型训练生命周期（从首次微调到生产服务）对更多团队可用。
Agent 的计算层
沙盒已经贡献了超过三分之一的营收，客户不断要求更多。我们正在扩展沙盒的功能，并提升并行运行数百万个沙盒的规模。同时，我们认识到 Agent 开发时代已经到来。Modal 是代码，这使其已经成为一个 Agent 工作的优秀场所。我们将继续改进，首先推出细粒度的 RBAC，以便客户能够在无风险的情况下赋予 Agent 能力。
AI 基础设施层才刚刚开始。我们也一样。
如果您想加入我们在纽约、旧金山和斯德哥尔摩的 120 多人的团队，请查看我们的空缺职位：点此查看。
