Усього п'ять місяців тому, коли ми оголосили про раунд Series C, я писав, що попит стрімко зростає. Відтоді обсяг використання потроївся, а наш ріст рік до року перевищив 15 разів. Нещодавно ми перетнули позначку в $1 млрд річного обороту (annualized run rate), і жодних ознак уповільнення не видно.
Програмне забезпечення тепер робить те, що ще кілька років тому було неможливим
Очевидно, що ШІ відкрив цілий новий набір можливостей для софту. Зараз існує безліч неймовірних застосунків, які раніше просто неможливо було створити. Старий стек технологій їм не дуже підходить. Їм потрібні інші будівельні блоки та новий погляд на інфраструктуру.
Ми забезпечуємо роботу величезної кількості таких застосунків. Серед них — Jev від TypeSafe AI, один із найшвидше зростаючих продуктів в історії. За перші три дні він обробив 1 трлн токенів на Modal, а команда TypeSafe зосередилася на релізах, а не на керуванні інфраструктурою.
І це відбувається у багатьох різних галузях
Команда ШІ-платформи DoorDash використовує Modal, щоб переводити застосунки по всій компанії від етапу експериментів до продакшену. Cognition, Ramp, Linear та Hebbia створюють фонових агентів, які є експертами у своїх сферах. Runway генерує реалістичне відео в кожному регіоні світу. Physical Intelligence, Generalist AI та 1X навчають роботів. Chai Discovery й Achira запускають на Modal пошук нових ліків, як і науковці, які працюють через Claude Science.
Кожному зрушенню потрібна нова інфраструктура
Кожне зрушення у сфері ПЗ змінює і те, що люди можуть створювати, і інфраструктуру, яка для цього потрібна. Я пишу код із початку дев'яностих, і це не перший стрибкоподібний перехід: у нас уже були веб, хмара, великі дані, мобільні технології та кілька інших зсувів.
Коли з'явилася хмара, раптово довелося мати справу з розподіленими системами, шардуванням та управлінням конфігураціями. Жоден із наших початкових інструментів не був для цього створений, тому розробники зробили нові: Docker, Kubernetes, Terraform тощо.
Тертя навколо ШІ зараз уже цілком очевидне. GPU не вистачає, а моделі досить великі й повільно завантажуються. LLM тепер пишуть код! І його треба десь запускати, ізольовано від усього іншого. Звісно, можна врахувати всі ці нюанси на старому стеку, і багато хто так і зробив, але в підсумку ви опинитеся в YAML-пеклі та чистилищі закупівель GPU.
Тому ми пішли глибше. Ми відкинули більшу частину наявного стека й побудували власну файлову систему, середовище виконання контейнерів, планувальник та мережу з нуля, спираючись на пул потужностей, який тепер охоплює понад 20 хмар.
Розробникам потрібні кращі будівельні блоки
Краса програмного забезпечення — у компонуванні. Якщо у вас є правильні будівельні блоки — універсальні, перевірені в бою та масштабовані — кількість речей, які можна створити, нескінченна.
Функції стали нашим першим будівельним блоком: ви пишете код, а Modal його виконує. Це виявилося неймовірно корисним, особливо для Gen AI: генерація зображень за допомогою дифузійних моделей, музика в Suno, інференс LLM через vLLM та SGLang, а також навчання моделей.
Ми запустили Sandboxes у 2023 році, коли помітили, що люди використовують LLM для генерації коду. Пісочниці «вистрілили», і через три роки лише цей продукт має річний оборот у $300 млн. Сценарії використання варіюються від фонових агентів до навчання з підкріпленням, платформ для вайбкодингу та багато чого іншого. Ми запустили майже 3 мільярди пісочниць, і вони масштабуються до мільйона одночасних.
Ми запускаємо ще багато всього
Новий світ можливостей ПЗ потребує нового набору будівельних блоків, і ми тільки починаємо.
- Нещодавно ми запустили навчання на кількох вузлах – один декоратор дає вам повністю з'єднаний через RDMA кластер без зобов'язань щодо резервування потужностей. Ми рухаємося вище по стеку й також запускаємо низку продуктів для RL та постнавчання.
- На стороні інференсу ми випустили Modal servers — краще рішення для HTTP-серверів, а також кілька дійсно крутих фічок для сервісингу LLM, як-от Endpoint Candidates.
- Для Sandboxes тепер загальнодоступні віртуальні машини.
І це лише кілька з багатьох майбутніх оновлень.
Ми залучили чимало капіталу
Коли ми засновували Modal п'ять років тому, я навіть уявити не міг більшості застосунків, які працюють на ньому сьогодні. Так само важко уявити, яке ПЗ люди створюватимуть через два роки, але я точно знаю, що для нього знадобиться абсолютно новий набір будівельних блоків. І ми хочемо, щоб значна його частина працювала на Modal.
Щоб продовжувати будувати майбутнє, ми залучили $750 млн у раунді Series D з оцінкою після інвестицій (post-money) у $15,75 млрд. Раунд очолив Accel. Доєднався Kleiner Perkins, а також усі наші наявні інвестори, включно з Menlo Ventures, General Catalyst, Redpoint, Lux Capital та Bain Capital Ventures.
Я, очевидно, упереджений, але не можу придумати кращого часу для створення програмного забезпечення.
Якщо вам цікаво приєднатися до нашої команди з понад 200 людей у Нью-Йорку, Сан-Франциско та Стокгольмі, перегляньте наші відкриті вакансії.
