Solo cinque mesi fa, quando abbiamo annunciato il nostro round Series C, ho scritto che la domanda stava accelerando. Da allora, l'utilizzo è triplicato e siamo cresciuti di oltre 15 volte su base annua. Di recente abbiamo superato il miliardo di dollari di run rate annualizzato, senza alcun segno di rallentamento.
Il software oggi può fare cose che fino a pochi anni fa erano impossibili
È evidente che l'IA ha sbloccato un insieme completamente nuovo di capacità software. Oggi esistono tantissime applicazioni straordinarie che prima non avrebbero mai potuto essere realizzate. Il vecchio stack non è più adatto a sostenerle: servono componenti fondamentali diversi e un nuovo modo di concepire l'infrastruttura.
Alimentiamo una quantità enorme di queste applicazioni. Tra queste c'è Jev di TypeSafe AI, uno dei prodotti con la crescita più rapida di sempre. Ha elaborato 1 trilione di token su Modal nei suoi primi tre giorni, mentre il team di TypeSafe è rimasto concentrato sul rilascio del prodotto invece che sulla gestione dell'infrastruttura.
E sta succedendo in moltissimi settori diversi
Il team della piattaforma IA di DoorDash utilizza Modal per portare le app di tutta l'azienda dalla fase sperimentale alla produzione. Cognition, Ramp, Linear ed Hebbia stanno costruendo agenti in background esperti nei rispettivi campi. Runway genera video incredibilmente realistici in ogni regione del mondo. Physical Intelligence, Generalist AI e 1X addestrano robot. Chai Discovery e Achira eseguono attività di drug discovery su Modal, così come gli scienziati che lavorano tramite Claude Science.
Ogni cambiamento richiede una nuova infrastruttura
Ogni svolta nel mondo del software cambia sia ciò che le persone possono costruire, sia l'infrastruttura necessaria per farlo. Scrivo software dai primi anni Novanta e questo non è il primo salto quantico: abbiamo già attraversato il web, il cloud, i big data, il mobile e molte altre trasformazioni.
Con l'avvento del cloud, all'improvviso ci si è dovuti confrontare con sistemi distribuiti, sharding e gestione delle configurazioni. Nessuno dei nostri strumenti originali era stato progettato per questo, così gli sviluppatori ne hanno creati di nuovi: Docker, Kubernetes, Terraform e così via.
Oggi gli attriti legati all'IA sono piuttosto evidenti. Le GPU scarseggiano e i modelli sono molto grandi e lenti da caricare. Gli LLM ora scrivono codice! E quel codice deve girare da qualche parte, isolato da tutto il resto. Certo, puoi gestire tutte queste esigenze anche con il vecchio stack, e in molti lo hanno fatto, ma finisci dritto nell'inferno dello YAML e nel purgatorio dell'approvvigionamento di GPU.
Così siamo andati a fondo. Abbiamo accantonato gran parte dello stack esistente e costruito da zero il nostro file system, container runtime, scheduler e layer di rete, appoggiandoci a un pool di capacità che oggi copre oltre 20 cloud.
Ciò di cui gli sviluppatori hanno bisogno sono componenti migliori
La bellezza del software sta nella componibilità. Se hai i mattoncini giusti — generici, collaudati e scalabili — le combinazioni di ciò che puoi costruire sono infinite.
Le funzioni sono state il nostro primo componente: tu scrivi il codice e Modal lo esegue. Si è rivelata una soluzione incredibilmente utile, soprattutto per la Gen AI: generazione di immagini con modelli diffusion, musica con Suno, inferenza LLM con vLLM e SGLang e training dei modelli.
Abbiamo lanciato le Sandbox nel 2023, quando ci siamo accorti che le persone usavano gli LLM per generare codice. Le Sandbox sono esplose e, tre anni dopo, rappresentano da sole un prodotto con un run rate di 300 milioni di dollari. I casi d'uso spaziano dagli agenti in background al reinforcement learning, dalle piattaforme di vibecoding a molto altro ancora. Abbiamo avviato quasi 3 miliardi di sandbox, che scalano fino a un milione di istanze concorrenti.
E stiamo lanciando molto altro
Un nuovo mondo di capacità software richiede un nuovo set di componenti fondamentali, e noi siamo solo all'inizio.
- Di recente abbiamo lanciato il training multi-nodo: un singolo decorator ti fornisce un cluster completamente connesso via RDMA, senza alcun impegno di capacità. Stiamo salendo nello stack e lanceremo anche una serie di prodotti dedicati al RL e al post-training.
- Sul fronte dell'inferenza, abbiamo introdotto i server Modal, una soluzione migliore per i server HTTP, oltre a funzionalità davvero interessanti per il serving degli LLM, come gli Endpoint Candidates.
- Per quanto riguarda le Sandbox, le macchine virtuali sono ora disponibili per tutti.
Questi sono solo alcuni dei tanti sviluppi in arrivo.
Abbiamo raccolto parecchio capitale
Quando abbiamo fondato Modal cinque anni fa, non avrei mai immaginato la maggior parte delle applicazioni che oggi girano sulla nostra piattaforma. È altrettanto difficile immaginare quale software verrà creato tra due anni, ma so per certo che richiederà un set di componenti completamente nuovo. E vogliamo che gran parte di esso giri su Modal.
Per continuare a costruire ciò che verrà, abbiamo chiuso un round Series D da 750 milioni di dollari, raggiungendo una valutazione post-money di 15,75 miliardi di dollari. Il round è stato guidato da Accel. Ha partecipato Kleiner Perkins, insieme a tutti i nostri investitori esistenti, tra cui Menlo Ventures, General Catalyst, Redpoint, Lux Capital e Bain Capital Ventures.
Sarò sicuramente di parte, ma non riesco a pensare a un momento migliore per sviluppare software.
Se ti interessa entrare a far parte del nostro team di oltre 200 persone tra New York, San Francisco e Stoccolma, dai un'occhiata alle posizioni aperte.
