새로운 AI 시대를 위한 인프라 레이어
3억 5,500만 달러를 조달했습니다. 9월 이후 5배 성장했으며, 연간 매출 3억 달러를 돌파했습니다. 이번 라운드는 @generalcatalyst와 @Redpoint가 주도하고 @MenloVentures와 @Accel이 신규 투자자로 합류했으며, 기업 가치는 약 46억 5천만 달러(포스트머니)입니다. 기존 주요 투자자 모두 참여해 Modal에 대한 확신을 재확인했습니다.
기존 웹 애플리케이션을 위해 설계된 클라우드는 AI 워크로드에 적합하지 않을 것이라는 확신에서 Modal을 시작했습니다. 이는 GenAI 혁명 이전부터 명확했으며, 모델과 기술이 발전할수록 더욱 확실해지고 있습니다.
Modal은 AI를 위해 구축된 클라우드입니다. 단순한 GPU 전용 클라우드가 아니라, 개발자가 매우 다양한 애플리케이션을 구축할 수 있는 적절한 프리미티브를 제공하는 플랫폼입니다. 오늘날 이는 저지연 탄력적 추론, 동적 에이전트 런타임, 강화 학습, 대규모 배치 작업 등으로 구현됩니다.
프론티어 API에서 모델 소유권까지
DoorDash 같은 디지털 네이티브부터 Reducto 같은 AI 네이티브 기업까지, 앞서나가는 팀들은 자체 모델을 소유하고 있습니다. 자체 데이터로 파인튜닝하고, RL을 실행하며, 자체 지연 시간, 처리량, 비용 요구에 맞게 추론을 조정하고 있습니다. DeepSeek, Qwen 등의 오픈 가중치 모델이 프로덕션 품질에 도달했고, vLLM, SGLang 같은 추론 엔진도 함께 성숙해졌습니다. 처음으로, 성능을 희생하지 않고 모델을 소유하고 서빙할 수 있는 전체 스택이 갖춰졌습니다.
Modal은 강화 학습 인프라와 프로덕션 추론을 모두 지원합니다. 한쪽에서는 수백만 개의 샌드박스, 다른 쪽에서는 실시간 서빙. 모두 같은 플랫폼 위에서요. — @ScottWu46, CEO @cognition
Decagon은 p90 지연 시간 342ms를 달성하여 자연스러운 고객 대화에 필요한 1초 미만 범위를 크게 밑돌았습니다. 속도, 효율성, 엔터프라이즈급 안정성을 모두 제공했습니다. — @DecagonAI
에이전트에게 더 나은 실행 환경이 필요하다
2023년, 사용자들이 Modal에서 AI 생성 코드를 실행하는 것을 발견하기 시작했습니다. 이것이 보편적인 필요가 될 것임을 깨달았고, 신뢰할 수 없는 코드를 위한 격리된 환경인 Sandboxes를 일급 프리미티브로 구축했습니다. 폭발적인 성장까지 2년이 걸렸습니다.
지난 6개월 동안 분명해졌습니다. 에이전트는 모든 곳에 있을 것이며, 운영할 런타임이 있을 때 훨씬 더 강력해집니다. DoorDash는 상점을 위한 AI 에이전트를 구축하고 있으며, Ramp의 Inspect 같은 코딩 에이전트는 병합된 PR의 70%를 작성하고, RL 워크로드는 수천 개의 환경을 병렬로 실행하며, 자동 연구 에이전트는 대규모로 웹을 크롤링합니다. Modal에서 10억 개 이상의 샌드박스가 실행되었습니다.
Sandboxes는 강화 학습을 위한 가장 중요한 구성 요소 중 하나입니다. Modal은 매우 유연하고 복잡한 환경을 구축할 수 있도록 구조화되어 있으며, 성능과 안정성에 집중하고 있습니다. — @ypatil125, CEO @appliedcompute
Inspect를 Modal 없이 구축하는 것은 정말 어려웠을 것입니다. 많은 복잡성이 매우 빠르게 샌드박스를 시작하고 많은 서비스와 데이터를 사용할 수 있는 기능 뒤에 숨겨져 있으며, 사실상 언제든지 무한한 수의 샌드박스를 사용할 수 있습니다. — @rahulgs, Head of Applied AI @tryramp
AI의 형태는 계속 확장된다
Modal은 AI 워크로드의 기본 요구 사항(탄력적 컴퓨팅, 안전한 격리, 프로그래매틱 제어)을 위해 구축된 범용 컴퓨팅 플랫폼입니다. 개발자들은 이를 매우 다양한 애플리케이션으로 구성합니다. Physical Intelligence는 실제 로봇을 위한 실시간 추론을 실행합니다. Chai Discovery는 단백질 임베딩부터 항체 설계까지 약물 발견 파이프라인을 확장합니다. Suno는 하루에 수백만 곡의 음악을 생성하며 수천 개의 GPU로 확장했다가 다시 거의 0으로 축소합니다. 동일한 프리미티브, 완전히 다른 형태.
우리는 Modal을 사용하여 10ms 미만의 오버헤드로 엣지 추론과 대규모 배치 작업을 실행합니다. 팀은 Modal이 제공하는 강력함과 유연성을 좋아합니다. — Brian Ichter, Co-founder @physical_int
단순한 시간 절약이 아니라 사라지는 정신적 오버헤드입니다. Modal을 사용하면 확장해야 하는 함수에 몇 개의 데코레이터를 추가하고 잊어버리기만 하면 됩니다. — Kevin Wu, ML Researcher @chaidiscovery
다음으로 구축할 것
지난 5년 동안 기술에 깊이 집중했으며, 자체 스토리지 및 컴퓨팅 레이어를 처음부터 구축했습니다. 이를 통해 불가능해 보였던 결과, 예를 들어 GPU 스냅샷으로 콜드 스타트를 100배 개선하고, 전 세계적으로 탄력적인 저지연 추론을 제공하며, 전 세계 수백 개 데이터 센터의 용량을 풀링하여 예약 없이 몇 분(심지어 몇 초!) 만에 0에서 1,000 GPU로 확장하는 등을 달성할 수 있었습니다.
전체 스택을 소유하고 있기 때문에 이러한 강점을 바탕으로 개발자에게 더 나은 경험을 지속적으로 제공할 수 있습니다.
그 기반이 다음 단계를 가능하게 합니다. 앞으로의 방향은 다음과 같습니다.
대규모 저지연 추론
프로덕션 추론의 기준은 계속 높아지고 있으며, 팀이 빠르게 반복할 수 있도록 하는 데 집중하고 있습니다. 더 나은 서빙 프리미티브, 더 선명한 관찰 가능성, 오픈 추론 스택에 대한 지속적인 투자. Flash Attention, vLLM, SGLang 등에 기여하는 추론 엔지니어 팀을 구성했습니다. 성능 향상이 동일한 엔진을 기반으로 구축하는 커뮤니티로 환류되어야 하기 때문입니다.
훈련과 추론 루프의 통합
강화 학습은 어려운 인프라 문제입니다. 멀티 노드 훈련, 탄력적 추론, 샌드박스는 이미 Modal에서 일급 지원을 받고 있어 전체 RL 루프에 자연스럽게 맞습니다. 사용자들은 이미 품질, 비용, 지연 시간, 처리량에서 파레토 효율적인 결과를 보고 있습니다. 첫 번째 파인튜닝부터 프로덕션 서빙까지 완전한 모델 훈련 수명 주기를 훨씬 더 많은 팀이 사용할 수 있도록 만들고자 합니다.
에이전트를 위한 컴퓨팅 레이어
Sandboxes는 이미 수익의 3분의 1 이상을 차지하며, 고객들은 더 많은 기능을 요구하고 있습니다. 새로운 기능과 수백만 개를 병렬로 실행할 수 있는 규모로 Sandbox 표면을 확장하고 있습니다. 동시에 에이전트 개발 시대가 왔음을 인지하고 있습니다. Modal은 코드이므로 이미 에이전트가 작업하기 좋은 환경입니다. 여기서도 계속 개선해 나갈 것입니다. 세분화된 RBAC를 제공하여 고객이 위험 없이 에이전트에 기능을 부여할 수 있도록 하는 것부터 시작합니다.
AI 인프라 레이어는 이제 막 시작되었습니다. 우리도 마찬가지입니다.
뉴욕, 샌프란시스코, 스톡홀름에 있는 120명 이상의 팀에 합류하고 싶다면, 열려 있는 포지션을 확인해 보세요.
