新たな AI 時代のインフラストラクチャレイヤー
当社は、9 月以来 5 倍に成長し、年間経常収益が 3 億ドルを超えた後、3 億 5,500 万ドルを調達しました。@generalcatalyst と @Redpoint が主導し、@MenloVentures と @Accel が新規投資家として参加したラウンドで、ポストマネー評価額は 46 億 5,000 万ドルです。既存の主要投資家全員も参加し、Modal への確信をさらに強固なものにしました。
AI 時代の新しいインフラストラクチャレイヤー
私たちが Modal を始めたのは、従来の Web アプリケーション向けに構築されたクラウドでは、AI ワークロードに対応できなかったからです。これは GenAI 革命が起こる前から明らかであり、モデルや技術が進歩するにつれて、その傾向はさらに強まっています。
Modal は AI 向けに構築されたクラウドです。単一目的の GPU クラウドではなく、開発者が非常に幅広いアプリケーションを構築するための適切なプリミティブを備えたプラットフォームです。現在、これは低レイテンシのエラスティック推論、動的なエージェントランタイム、強化学習、大規模なバッチジョブなどとして具体化されています。
フロンティア API からモデル所有へ
DoorDash のようなデジタルネイティブ企業から Reducto のような AI ネイティブ企業まで、先を行くチームは自社のモデルを所有し始めています。彼らは自社のデータでファインチューニングを行い、RL を実行し、自社のレイテンシ、スループット、コスト要件に合わせて推論を調整しています。DeepSeek、Qwen などのオープンウェイトモデルはプロダクション品質に達し、vLLM や SGLang などの推論エンジンもそれに合わせて成熟してきました。初めて、能力を犠牲にすることなく、モデルを所有し、提供するためのフルスタックが整いました。
Modal は、当社の強化学習インフラストラクチャとプロダクション推論の両方を支えています。一方では数百万のサンドボックス、もう一方ではリアルタイムのサーバー。すべて同じプラットフォーム上で。 — @ScottWu46, CEO @cognition
Decagon は、自然な顧客との会話に必要なサブ秒未満の範囲をはるかに下回る、p90 レイテンシ 342ms を達成し、スピード、効率性、エンタープライズ規模の信頼性を実現しました。 — @DecagonAI
エージェントにはより優れた実行環境が必要
2023 年、私たちはユーザーが Modal 上で AI が生成したコードを実行しているのを見始めました。これが普遍的なニーズになることは明らかだったため、信頼できないコード向けの分離環境である Sandboxes を第一級のプリミティブとして構築しました。その爆発的な普及には 2 年かかりました。
この 6 か月で明らかになったのは、エージェントは至る所に存在するようになり、動作するランタイムがあればはるかに強力になるということです。DoorDash はマーチャント向けの AI エージェントを構築し、Ramp の Inspect のようなコーディングエージェントはマージされた PR の 70% を作成し、RL ワークロードは数千の環境を並行して実行し、自動リサーチエージェントは大規模にウェブをクロールします。Modal 上で 10 億以上のサンドボックスが起動されています。
サンドボックスは、強化学習にとって最も重要な構成要素の 1 つです。Modal は非常に柔軟で、複雑な環境を構築できるように構造化されており、パフォーマンスと信頼性に重点を置いています。 — @ypatil125 , CEO @appliedcompute
Modal なしで Inspect を構築するのは非常に困難だったでしょう。複雑さの多くは、非常に多くのサービスとデータを使ってサンドボックスを非常に迅速に起動でき、実質的にいつでも無制限に利用できるという点に隠されています。 — @rahulgs, Head of Applied AI @tryramp
AI の形は拡大し続ける
Modal は、AI ワークロードの根底にあるニーズ（エラスティックコンピュート、安全な分離、プログラムによる制御）向けに構築された汎用コンピュートプラットフォームです。開発者はこれらを組み合わせて、非常に異なるアプリケーションを作成します。Physical Intelligence は、実際のロボット向けにリアルタイム推論を実行します。Chai Discovery は、タンパク質埋め込みから抗体設計まで、創薬パイプラインを拡張します。Suno は 1 日に数百万曲を生成し、数千の GPU にスケールアップし、ほぼゼロに戻します。同じプリミティブで、まったく異なる形です。
当社は、Modal を使用して、10ms 未満のオーバーヘッドでエッジ推論を実行し、大規模なバッチジョブを処理しています。チームは、Modal が提供するパワーと柔軟性を気に入っています。 — Brian Ichter, Co-founder @physical_int
時間の節約だけでなく、精神的オーバーヘッドがなくなることも大きいです。Modal を使えば、スケールが必要な関数にいくつかのデコレータを追加して、あとは忘れてしまえば、それらは自動的に機能します。 — Kevin Wu, ML Researcher at @chaidiscovery
次に構築するもの
私たちは過去 5 年間、テクノロジーに深く取り組み、ストレージとコンピュートレイヤーをゼロから構築してきました。これにより、不可能と思われていた成果を達成することができました。例えば、GPU スナップショットによるコールドスタートの 100 倍の改善、グローバルなエラスティック低レイテンシ推論、世界中の数百のデータセンターで容量をプールすることで、予約なしに 0 から 1,000 GPU への数分（いや数秒！）でのスケーリングなどです。
フルスタックを所有しているため、これらの利点を活かして、開発者により良い、より優れたエクスペリエンスを提供し続けることができます。
その基盤こそが、次のフェーズを可能にするものです。以下が私たちの方向性です。
大規模な低レイテンシ推論
プロダクション推論の基準は常に引き上げられており、私たちはチームが迅速に反復できるようにすることに注力しています。それは、より優れたサービングプリミティブ、より鋭い可観測性、そしてオープン推論スタックへの継続的な投資です。Flash Attention、vLLM、SGLang などに貢献する推論エンジニアのチームを編成しました。なぜなら、パフォーマンスの向上は、同じエンジン上に構築するコミュニティに還元されるべきだからです。
トレーニングと推論のループを統合する
強化学習は難しいインフラストラクチャの問題です。マルチノードトレーニング、エラスティック推論、サンドボックスはすでに Modal で第一級のサポートを受けており、RL ループ全体に自然に適合します。ユーザーはすでに、品質、コスト、レイテンシ、スループットにおいてパレート効率的な成果を上げています。私たちは、最初のファインチューンからプロダクションサービングまでの、モデルトレーニングライフサイクル全体を、より多くのチームが利用できるようにしたいと考えています。
エージェントのためのコンピュートレイヤー
サンドボックスはすでに収益の 3 分の 1 以上を牽引しており、顧客はさらなる機能を求めています。私たちは、新機能と数百万のサンドボックスを並行して実行するスケールで、Sandbox の表面積を拡大しています。同時に、エージェンティックな開発が到来していることを認識しています。Modal はコードであり、エージェントが作業するのに最適な場所です。私たちはここをさらに改善し、まずはきめ細かな RBAC を提供することで、顧客がリスクなくエージェントに機能を付与できるようにします。
AI インフラストラクチャレイヤーは始まったばかりです。私たちもまだまだこれからです。
120 名を超えるチームに NY、SF、ストックホルムで加わりたい方は、こちらの求人情報をご覧ください。
