Hemos recaudado $355 millones después de crecer cinco veces desde septiembre, superando los $300 millones en ingresos anualizados. Nuestra valoración es de $4.65 mil millones post-money en una ronda liderada por @generalcatalyst y @Redpoint, con @MenloVentures y @Accel uniéndose como nuevos inversores. Todos nuestros principales inversores existentes también participaron, reforzando su confianza en Modal.
Una nueva capa de infraestructura para la era de la IA
Comenzamos Modal porque la nube construida para aplicaciones web tradicionales nunca iba a ser adecuada para las cargas de trabajo de IA. Esto estaba claro para nosotros antes de la revolución de la IA Generativa y se vuelve aún más cierto a medida que avanzan los modelos y las técnicas.
Modal es una nube construida para la IA. No es una nube de GPU de un solo propósito, sino una plataforma con los primitivos adecuados para que los desarrolladores construyan una amplia gama de aplicaciones. Hoy en día, esto se traduce en inferencia elástica de baja latencia, tiempos de ejecución dinámicos para agentes, aprendizaje por refuerzo, trabajos por lotes a gran escala y mucho más.
APIs de frontera para la propiedad de modelos
Desde empresas nativas digitales como DoorDash hasta empresas nativas de IA como Reducto, los equipos que se están destacando están tomando el control de sus modelos. Están ajustando con sus propios datos, ejecutando RL y afinando la inferencia para sus propias necesidades de latencia, rendimiento y costo. Los modelos de peso abierto de DeepSeek, Qwen y otros han alcanzado calidad de producción, y los motores de inferencia como vLLM y SGLang han madurado junto a ellos. Por primera vez, la pila completa para poseer y servir tus modelos está disponible, sin sacrificar capacidad.
Modal impulsa tanto nuestra infraestructura de aprendizaje por refuerzo como la inferencia en producción. Millones de sandboxes por un lado, y servidores en tiempo real por el otro. Todo en la misma plataforma. — @ScottWu46, CEO @cognition
Decagon logró una latencia p90 de 342 ms, muy por debajo del rango de menos de un segundo requerido para conversaciones naturales con clientes, ofreciendo velocidad, eficiencia y confiabilidad a escala empresarial. — @DecagonAI
Los agentes necesitan mejores entornos de ejecución
En 2023, comenzamos a ver usuarios ejecutando código generado por IA en Modal. Estaba claro que esto se convertiría en una necesidad universal, así que construimos Sandboxes, entornos aislados para código no confiable, como un primitivo de primera clase. Tomó dos años para que la explosión ocurriera.
En los últimos seis meses, se ha vuelto claro: los agentes estarán en todas partes, y son mucho más poderosos cuando tienen un entorno de ejecución para operar. DoorDash está construyendo agentes de IA para comerciantes, agentes de codificación como Inspect de Ramp autoran el 70% de los PRs fusionados, las cargas de trabajo de RL ejecutan miles de entornos en paralelo, y los agentes de autoinvestigación rastrean la web a gran escala. Más de mil millones de sandboxes se han lanzado en Modal.
Los Sandboxes son uno de los bloques de construcción más importantes para el Aprendizaje por Refuerzo. Modal era claramente muy flexible, estructurado de una manera que nos permitía construir estos entornos complejos, centrado en el rendimiento y la confiabilidad. — @ypatil125 , CEO @appliedcompute
Habría sido muy difícil construir Inspect sin Modal. Gran parte de la complejidad está oculta detrás de poder iniciar sandboxes muy rápidamente con muchos servicios y datos, y tener efectivamente infinitos en cualquier momento. — @rahulgs, Head of Applied AI @tryramp
La forma de la IA sigue expandiéndose
Modal es una plataforma de cómputo general construida para las necesidades subyacentes de las cargas de trabajo de IA: cómputo elástico, aislamiento seguro y control programático. Los desarrolladores las componen en aplicaciones muy diferentes. Physical Intelligence ejecuta inferencia en tiempo real para robots en vivo. Chai Discovery escala tuberías de descubrimiento de fármacos desde embeddings de proteínas hasta diseño de anticuerpos. Suno genera millones de canciones al día, escalando a miles de GPUs y volviendo a casi cero. Mismos primitivos, formas completamente diferentes.
Usamos Modal para ejecutar inferencia en el borde con una sobrecarga de <10ms y trabajos por lotes a gran escala. Nuestro equipo ama la plataforma por el poder y la flexibilidad que nos brinda. — Brian Ichter, Co-founder @physical_int
No es solo un ahorro de tiempo, es la carga mental que desaparece. Con Modal, agregamos algunos decoradores a una función que necesitamos escalar, nos olvidamos de ellos y simplemente funcionan. — Kevin Wu, ML Researcher at @chaidiscovery
Lo que estamos construyendo a continuación
Hemos pasado los últimos cinco años profundizando en tecnología, incluyendo la construcción de nuestra propia capa de almacenamiento y cómputo desde cero. Esto nos ha permitido lograr resultados que parecían imposibles, por ejemplo, mejorar los arranques en frío en 100x con instantáneas de GPU, inferencia elástica de baja latencia a nivel global, y escalar de 0 a 1000 GPUs en minutos (¡o incluso segundos!) sin reservas al agrupar capacidad en cientos de centros de datos alrededor del mundo.
Debido a que poseemos la pila completa, podemos seguir construyendo sobre esas ventajas para ofrecer una experiencia cada vez mejor para los desarrolladores.
Esa base es lo que hace posible la siguiente fase. Aquí es hacia donde nos dirigimos:
Inferencia de baja latencia a escala.
El listón para la inferencia en producción sigue subiendo, y estamos duplicando la apuesta por lo que permite a los equipos iterar rápido: mejores primitivos de servicio, observabilidad más precisa e inversión continua en la pila de inferencia abierta. Hemos reunido un equipo de ingenieros de inferencia que contribuyen a Flash Attention, vLLM, SGLang y más, porque las ganancias de rendimiento deben fluir de vuelta a la comunidad que construye sobre los mismos motores.
Colapsando el bucle de entrenamiento e inferencia.
El aprendizaje por refuerzo es un problema de infraestructura difícil. El entrenamiento multi-nodo, la inferencia elástica y los sandboxes ya tienen soporte de primera clase en Modal, lo que hace que el bucle completo de RL sea un ajuste natural. Nuestros usuarios ya están viendo resultados eficientes de Pareto en calidad, costo, latencia y rendimiento. Queremos hacer que el ciclo de vida completo del entrenamiento de modelos, desde el primer ajuste fino hasta el servicio en producción, sea accesible para muchos más equipos.
La capa de cómputo para agentes.
Los Sandboxes ya generan más de un tercio de nuestros ingresos, y los clientes nos siguen presionando para más. Estamos expandiendo la superficie de Sandbox con nuevas capacidades y la escala para ejecutar millones en paralelo. Simultáneamente, reconocemos que el desarrollo basado en agentes está aquí. Modal es código, lo que ya lo convierte en un excelente lugar para que los agentes trabajen. Vamos a seguir mejorando aquí, comenzando por lanzar RBAC granular para que los clientes puedan dar capacidad a los agentes sin riesgo.
La capa de infraestructura de IA apenas está comenzando. Nosotros también.
Si desea unirse a nuestro equipo de más de 120 personas en NY, SF y Estocolmo, consulte nuestras vacantes aquí.
