Chỉ mới năm tháng trước, khi chúng tôi công bố vòng gọi vốn Series C, tôi đã viết rằng nhu cầu đang tăng tốc. Kể từ đó, mức độ sử dụng đã tăng gấp ba và chúng tôi đạt tăng trưởng hơn 15 lần so với cùng kỳ năm ngoái. Gần đây, chúng tôi đã vượt mốc 1 tỷ USD doanh thu thường niên hóa (annualized run rate) mà không có dấu hiệu chậm lại.
Phần mềm giờ đây làm được những điều bất khả thi chỉ vài năm trước
Rõ ràng AI đã mở khóa một loạt năng lực phần mềm hoàn toàn mới. Hiện nay có vô số ứng dụng tuyệt vời mà trước đây không thể xây dựng được. Stack công nghệ cũ không còn phù hợp với chúng nữa. Chúng cần những khối xây dựng khác biệt và một cách tư duy mới về hạ tầng.
Chúng tôi đang vận hành rất nhiều ứng dụng như vậy. Trong số đó có Jev của TypeSafe AI, một trong những sản phẩm tăng trưởng nhanh nhất từ trước đến nay. Nó đã xử lý 1 nghìn tỷ token trên Modal chỉ trong ba ngày đầu tiên, và đội ngũ TypeSafe vẫn tập trung vào việc ra mắt sản phẩm thay vì phải quản lý hạ tầng.
Và điều này đang diễn ra ở nhiều lĩnh vực khác nhau
Đội ngũ nền tảng AI của DoorDash dùng Modal để đưa các ứng dụng trong toàn công ty từ giai đoạn thử nghiệm lên production. Cognition, Ramp, Linear và Hebbia đang xây dựng các agent chạy ngầm chuyên sâu trong từng lĩnh vực. Runway đang tạo ra những video chân thực như thật ở mọi khu vực trên thế giới. Physical Intelligence, Generalist AI và 1X đang huấn luyện robot. Chai Discovery và Achira chạy các quy trình khám phá thuốc trên Modal, cũng giống như các nhà khoa học đang làm việc thông qua Claude Science.
Mỗi bước chuyển mình đều cần hạ tầng mới
Mọi sự chuyển dịch trong ngành phần mềm đều thay đổi cả những gì con người có thể xây dựng lẫn hạ tầng họ cần để làm điều đó. Tôi đã viết phần mềm từ đầu những năm 90, và đây không phải là bước nhảy vọt đầu tiên: chúng ta đã trải qua web, cloud, big data, mobile và nhiều đợt chuyển dịch khác.
Khi cloud mới bắt đầu, bạn đột nhiên phải đối mặt với hệ thống phân tán, sharding và quản lý cấu hình. Không có công cụ ban đầu nào của chúng ta được thiết kế cho việc đó, nên các lập trình viên đã tạo ra những công cụ mới: Docker, Kubernetes, Terraform, v.v.
Giờ đây, những điểm nghẽn với AI đã khá rõ ràng. GPU khan hiếm, còn các mô hình thì quá lớn và tải chậm. LLM giờ đây tự viết code! Và code đó phải chạy ở đâu đó, được cô lập hoàn toàn với mọi thứ khác. Đúng là bạn có thể giải quyết tất cả những vấn đề này trên stack cũ, và rất nhiều người đã làm vậy, nhưng kết cục bạn sẽ chìm trong "địa ngục YAML" và "luyện ngục săn tìm GPU".
Vì thế, chúng tôi đã đi sâu vào cốt lõi. Chúng tôi loại bỏ gần như toàn bộ stack hiện có và tự xây dựng hệ thống tệp, container runtime, scheduler và mạng lưới của riêng mình từ con số không, trên một pool tài nguyên hiện đã trải rộng hơn 20 nền tảng cloud.
Điều lập trình viên cần là những khối xây dựng tốt hơn
Vẻ đẹp của phần mềm nằm ở tính tổ hợp. Nếu bạn có đúng những khối xây dựng — đa dụng, đã được kiểm chứng thực chiến và có khả năng mở rộng — bạn sẽ có vô số cách kết hợp để tạo ra mọi thứ.
Function là khối xây dựng đầu tiên của chúng tôi: bạn viết code, và Modal chạy nó. Điều này tỏ ra cực kỳ hữu ích, đặc biệt với Gen AI: tạo ảnh bằng diffusion model, âm nhạc tại Suno, inference LLM với vLLM và SGLang, cùng huấn luyện mô hình.
Chúng tôi ra mắt Sandboxes vào năm 2023 khi nhận thấy mọi người đang dùng LLM để sinh code. Sandboxes bùng nổ, và ba năm sau, chỉ riêng sản phẩm này đã đạt mức doanh thu thường niên hóa 300 triệu USD. Các trường hợp sử dụng trải dài từ agent chạy ngầm, reinforcement learning, nền tảng vibecoding và nhiều hơn thế nữa. Chúng tôi đã khởi chạy gần 3 tỷ sandbox, và chúng có thể mở rộng lên tới một triệu phiên đồng thời.
Chúng tôi sẽ còn ra mắt nhiều hơn nữa
Một thế giới năng lực phần mềm mới đòi hỏi một bộ khối xây dựng mới, và chúng tôi chỉ vừa bắt đầu.
- Gần đây chúng tôi đã ra mắt huấn luyện đa nút (multi-node training) – chỉ với một decorator, bạn có ngay một cluster kết nối RDMA đầy đủ mà không cần cam kết dung lượng. Chúng tôi đang tiến lên các tầng cao hơn của stack và cũng sẽ ra mắt một loạt sản phẩm trong lĩnh vực RL và post-training.
- Về phía inference, chúng tôi đã giới thiệu Modal servers, một giải pháp tốt hơn cho HTTP server, cùng với những tính năng cực kỳ thú vị xoay quanh việc phục vụ LLM, chẳng hạn như Endpoint Candidates.
- Với Sandboxes, máy ảo (virtual machines) hiện đã khả dụng rộng rãi.
Đây chỉ là một vài trong số rất nhiều bước phát triển sắp tới.
Chúng tôi vừa huy động thêm một lượng vốn lớn
Khi khởi tạo Modal năm năm trước, tôi không thể tưởng tượng nổi phần lớn các ứng dụng đang chạy trên nền tảng này hôm nay. Cũng khó khăn tương tự khi hình dung về những phần mềm mà mọi người sẽ tạo ra trong hai năm nữa, nhưng điều tôi chắc chắn biết là chúng sẽ đòi hỏi một bộ khối xây dựng hoàn toàn mới. Và chúng tôi muốn phần lớn trong số đó chạy trên Modal.
Để tiếp tục kiến tạo những điều tiếp theo, chúng tôi đã huy động 750 triệu USD ở vòng Series D với định giá hậu tiền (post-money) đạt 15,75 tỷ USD. Accel dẫn dắt vòng gọi vốn này. Kleiner Perkins tham gia cùng toàn bộ các nhà đầu tư hiện tại của chúng tôi, bao gồm Menlo Ventures, General Catalyst, Redpoint, Lux Capital và Bain Capital Ventures.
Hiển nhiên là tôi có thiên vị, nhưng tôi không nghĩ ra thời điểm nào tuyệt vời hơn lúc này để xây dựng phần mềm.
Nếu bạn quan tâm đến việc gia nhập đội ngũ hơn 200 thành viên của chúng tôi tại New York, San Francisco và Stockholm, hãy xem các vị trí đang tuyển.
