เราระดมทุนได้ 355 ล้านดอลลาร์ หลังจากเติบโตห้าเท่านับตั้งแต่ เดือนกันยายน และมีรายได้ต่อปีเกิน 300 ล้านดอลลาร์ มูลค่าของเราอยู่ที่ 4.65 พันล้านดอลลาร์หลังการระดมทุน ในรอบที่นำโดย @generalcatalyst และ @Redpoint โดยมี @MenloVentures และ @Accel เข้าร่วมเป็นนักลงทุนรายใหม่ นักลงทุนรายใหญ่เดิมทั้งหมดของเราก็เข้าร่วมด้วย โดยเพิ่มความเชื่อมั่นใน Modal
โครงสร้างพื้นฐานชั้นใหม่สำหรับยุค AI
เราเริ่มสร้าง Modal เพราะคลาวด์ที่สร้างขึ้นสำหรับเว็บแอปพลิเคชันแบบดั้งเดิมนั้นไม่เหมาะกับงาน AI เลย สิ่งนี้ชัดเจนสำหรับเราก่อนการปฏิวัติ GenAI และจะยิ่งเป็นจริงมากขึ้นเมื่อโมเดลและเทคนิคพัฒนาขึ้น
Modal คือคลาวด์ที่สร้างขึ้นสำหรับ AI ไม่ใช่คลาวด์ GPU เพื่อวัตถุประสงค์เดียว แต่เป็นแพลตฟอร์มที่มีพื้นฐานที่เหมาะสมสำหรับนักพัฒนาในการสร้างแอปพลิเคชันที่หลากหลายมาก ปัจจุบันนี้รวมถึงการอนุมานแบบยืดหยุ่นที่มีเวลาแฝงต่ำ รันไทม์ของเอเจนต์แบบไดนามิก การเรียนรู้แบบเสริมกำลัง งานแบบแบตช์ในขนาดใหญ่ และอีกมากมาย
จาก Frontier APIs สู่การเป็นเจ้าของโมเดล
จากบริษัทดิจิทัลเนทีฟอย่าง DoorDash ไปจนถึงบริษัท AI เนทีฟอย่าง Reducto ทีมที่กำลังก้าวหน้ากำลังเป็นเจ้าของโมเดลของตัวเอง พวกเขาปรับแต่งโมเดลด้วยข้อมูลของตัวเอง ใช้ RL และปรับแต่งการอนุมานให้ตรงกับความต้องการด้านเวลาแฝง ปริมาณงาน และต้นทุนของตนเอง โมเดลน้ำหนักเปิดจาก DeepSeek, Qwen และอื่นๆ มีคุณภาพในระดับโปรดักชันแล้ว และเอนจินการอนุมานอย่าง vLLM และ SGLang ก็เติบโตเต็มที่ควบคู่กันไป เป็นครั้งแรกที่สแต็กเต็มรูปแบบสำหรับการเป็นเจ้าของและให้บริการโมเดลของคุณมีพร้อม โดยไม่ต้องเสียสละความสามารถ
Modal ขับเคลื่อนทั้งโครงสร้างพื้นฐานการเรียนรู้แบบเสริมกำลังและการอนุมานในโปรดักชัน แซนด์บ็อกซ์นับล้านด้านหนึ่ง การให้บริการแบบเรียลไทม์อีกด้าน ทุกอย่างบนแพลตฟอร์มเดียวกัน — @ScottWu46, ซีอีโอ @cognition
Decagon สามารถบรรลุเวลาแฝง p90 ที่ 342ms ซึ่งต่ำกว่าช่วงต่ำกว่า 1 วินาทีที่จำเป็นสำหรับการสนทนากับลูกค้าตามธรรมชาติ มอบความเร็ว ประสิทธิภาพ และความน่าเชื่อถือระดับองค์กร — @DecagonAI
เอเจนต์ต้องการสภาพแวดล้อมการทำงานที่ดีขึ้น
ในปี 2023 เราเริ่มเห็นผู้ใช้รันโค้ดที่สร้างโดย AI บน Modal เห็นได้ชัดว่าสิ่งนี้จะกลายเป็นความต้องการสากล เราจึงสร้าง Sandboxes ซึ่งเป็นสภาพแวดล้อมที่แยกออกมาสำหรับโค้ดที่ไม่น่าเชื่อถือ เป็นพรอมิทีฟระดับเฟิร์สคลาส ใช้เวลาสองปีกว่าการระเบิดจะเกิดขึ้น
ในช่วงหกเดือนที่ผ่านมา ชัดเจนแล้ว: เอเจนต์จะอยู่ทุกหนทุกแห่ง และพวกมันมีพลังมากกว่ามากเมื่อมีรันไทม์ให้ทำงาน DoorDash กำลังสร้าง AI เอเจนต์สำหรับผู้ค้า เอเจนต์การเขียนโค้ดอย่าง Inspect ของ Ramp เขียนโค้ด 70% ของ PR ที่ถูกรวม งาน RL รันสภาพแวดล้อมนับพันแบบขนาน และ เอเจนต์วิจัยอัตโนมัติ ค้นหาเว็บในระดับใหญ่ มีการเปิดใช้ Sandboxes กว่า 1 พันล้าน บน Modal
Sandboxes เป็นหนึ่งในส่วนประกอบที่สำคัญที่สุดสำหรับ Reinforcement Learning Modal มีความยืดหยุ่นชัดเจน มีโครงสร้างที่เราสามารถสร้างสภาพแวดล้อมที่ซับซ้อนเหล่านี้ได้ โดยมุ่งเน้นที่ประสิทธิภาพและความน่าเชื่อถือ — @ypatil125 , ซีอีโอ @appliedcompute
มันคงยากมากที่จะสร้าง Inspect โดยไม่มี Modal ความซับซ้อนจำนวนมากซ่อนอยู่เบื้องหลังความสามารถในการเปิดใช้งาน sandboxes อย่างรวดเร็วพร้อมกับบริการและข้อมูลจำนวนมาก และมีมันได้ไม่จำกัดในเวลาใดก็ได้ — @rahulgs, หัวหน้าฝ่าย Applied AI @tryramp
รูปแบบของ AI กำลังขยายตัวอย่างต่อเนื่อง
Modal เป็นแพลตฟอร์มคอมพิวต์ทั่วไปที่สร้างขึ้นสำหรับความต้องการพื้นฐานของงาน AI: คอมพิวต์แบบยืดหยุ่น การแยกอย่างปลอดภัย และการควบคุมผ่านโปรแกรม นักพัฒนาประกอบเข้าด้วยกันเป็นแอปพลิเคชันที่แตกต่างกันมาก Physical Intelligence รันการอนุมานแบบเรียลไทม์สำหรับหุ่นยนต์จริง Chai Discovery ขยายขนาดไปป์ไลน์การค้นหายาจาก protein embeddings ไปจนถึงการออกแบบแอนติบอดี Suno สร้างเพลงหลายล้านเพลงต่อวัน ปรับขนาดไปจนถึง GPU นับพันและกลับมาใกล้ศูนย์ พรอมิทีฟเดียวกัน รูปแบบที่แตกต่างกันโดยสิ้นเชิง
เราใช้ Modal เพื่อรัน edge inference โดยมีโอเวอร์เฮด <10ms และงานแบบแบตช์ในขนาดใหญ่ ทีมของเราชอบแพลตฟอร์มนี้เพราะพลังและความยืดหยุ่นที่มอบให้ — Brian Ichter, ผู้ร่วมก่อตั้ง @physical_int
มันไม่ใช่แค่การประหยัดเวลา แต่เป็นภาระทางความคิดที่หายไป ด้วย Modal เราเพิ่มดีคอเรเตอร์สองสามตัวให้กับฟังก์ชันที่ต้องการปรับขนาด ลืมมันไป และมันก็ทำงานได้ — Kevin Wu, นักวิจัย ML ที่ @chaidiscovery
สิ่งที่เรากำลังสร้างต่อไป
เราใช้เวลาห้าปีที่ผ่านมามุ่งเน้นไปที่เทคโนโลยีอย่างลึกซึ้ง รวมถึงการสร้างเลเยอร์พื้นที่จัดเก็บและคอมพิวต์ของเราตั้งแต่เริ่มต้น สิ่งนี้ทำให้เราบรรลุผลลัพธ์ที่ดูเหมือนเป็นไปไม่ได้ เช่น ปรับปรุง cold starts ขึ้น 100 เท่าด้วย GPU snapshotting การอนุมานแบบยืดหยุ่นเวลาแฝงต่ำทั่วโลก และการปรับขนาดจาก 0 ถึง 1,000 GPU ในไม่กี่นาที (หรือไม่กี่วินาที!) โดยไม่ต้องจองล่วงหน้า ด้วยการรวมความจุในศูนย์ข้อมูลหลายร้อยแห่งทั่วโลก
เพราะเราเป็นเจ้าของสแต็กเต็มรูปแบบ เราจึงสามารถต่อยอดจากข้อได้เปรียบเหล่านั้นเพื่อมอบประสบการณ์ที่ดีขึ้นเรื่อยๆ สำหรับนักพัฒนา
รากฐานนั้นคือสิ่งที่ทำให้เฟสถัดไปเป็นไปได้ นี่คือทิศทางที่เราจะไป:
การอนุมานเวลาแฝงต่ำในระดับใหญ่
มาตรฐานสำหรับการอนุมานในโปรดักชันสูงขึ้นเรื่อยๆ และเรากำลังเพิ่มความพยายามในสิ่งที่ทำให้ทีมสามารถทำซ้ำได้เร็ว: พรอมิทีฟการให้บริการที่ดีขึ้น การสังเกตการณ์ที่คมชัดขึ้น และการลงทุนอย่างต่อเนื่องในสแต็กการอนุมานแบบเปิด เราได้รวบรวมทีมวิศวกรการอนุมานที่มีส่วนร่วมกับ Flash Attention, vLLM, SGLang และอื่นๆ เพราะการปรับปรุงประสิทธิภาพควรส่งกลับไปยังชุมชนที่สร้างบนเอนจินเดียวกัน
การยุบรวมลูปการฝึกและการอนุมาน
Reinforcement Learning เป็นปัญหาโครงสร้างพื้นฐานที่ยาก การฝึกแบบหลายโหนด การอนุมานแบบยืดหยุ่น และ sandboxes มีการสนับสนุนระดับเฟิร์สคลาสบน Modal อยู่แล้ว ซึ่งทำให้ลูป RL เต็มรูปแบบเหมาะสมโดยธรรมชาติ ผู้ใช้ของเราเห็นผลลัพธ์ที่มีประสิทธิภาพแบบ Pareto ในด้านคุณภาพ ต้นทุน เวลาแฝง และปริมาณงาน เราต้องการทำให้วงจรชีวิตการฝึกโมเดลที่สมบูรณ์ ตั้งแต่การปรับแต่งครั้งแรกไปจนถึงการให้บริการในโปรดักชัน เข้าถึงได้สำหรับทีมมากขึ้น
เลเยอร์คอมพิวต์สำหรับเอเจนต์
Sandboxes สร้างรายได้มากกว่าหนึ่งในสามของเราแล้ว และลูกค้าก็ผลักดันให้เราทำมากขึ้น เรากำลังขยายพื้นผิว Sandbox ด้วยความสามารถใหม่และขนาดที่สามารถรันได้หลายล้านแบบขนาน ในขณะเดียวกัน เรารับรู้ว่าการพัฒนาที่ใช้เอเจนต์มาถึงแล้ว Modal คือโค้ด ซึ่งทำให้เป็น สถานที่ที่ดีสำหรับเอเจนต์ในการทำงาน อยู่แล้ว เราจะปรับปรุงต่อไป เริ่มจากการจัดส่ง RBAC แบบละเอียดเพื่อให้ลูกค้าสามารถให้เอเจนต์มีความสามารถได้โดยไม่มีความเสี่ยง
เลเยอร์โครงสร้างพื้นฐาน AI เพิ่งเริ่มต้นเท่านั้น เราก็เช่นกัน
หากคุณต้องการเข้าร่วมทีม 120+ คนของเราใน NY, SF และ Stockholm ดูตำแหน่งงานที่เปิดรับ ที่นี่
