เรื่องราวที่กำลังเป็นกระแสอยู่ในตอนนี้คือโอเพนซอร์สกำลังกินส่วนแบ่งในองค์กรธุรกิจ ช่องว่างความสามารถระหว่างโมเดลปิดที่ดีที่สุดกับโมเดลเปิดนั้นแคบลงเหลือเพียงหลักหน่วยเปอร์เซ็นต์ หนึ่งในสามของบริษัทใน Fortune 500 มีบัญชีที่ได้รับการยืนยันบน Hugging Face ห้องปฏิบัติการของจีนกำลังส่งโมเดลที่ใกล้เคียงกับระดับ前沿ออกมาพร้อมน้ำหนักเปิดทุกๆ สองสามสัปดาห์ และผู้ให้บริการ Inference ก็กำลังทำผลงานได้อย่างยอดเยี่ยม
ในขณะเดียวกัน ที่ Decagon ตอนนี้เราทำงานประมาณ 90% ของภาระงานบนโมเดลโอเพนซอร์สแทนที่จะเป็น OpenAI หรือ Anthropic ซึ่งสอดคล้องกับบริษัทแอปที่เติบโตแบบก้าวกระโดดส่วนใหญ่ และเราเห็นว่าองค์กรขนาดใหญ่ที่เราทำงานด้วยก็กำลังเคลื่อนไปในทิศทางนี้เช่นกัน
แต่ถึงกระนั้น ค่าใช้จ่ายโดยรวมขององค์กรกลับเคลื่อนไปในทิศทางตรงกันข้าม โมเดลโอเพนซอร์สเพิ่งลดลงเหลือ 11% ของค่าใช้จ่าย LLM ในองค์กร ลดลงจาก 19% เมื่อปีที่แล้ว
แนวโน้มกำลังเคลื่อนไปในทิศทางตรงกันข้ามกับเรื่องเล่าที่เป็นที่นิยม ทำไมถึงเป็นเช่นนี้ และมันหมายความว่าอย่างไรสำหรับอนาคต?
ก่อนอื่น มาดูบริบทว่าทำไมเราถึงใช้โอเพนซอร์ส 90% มันไม่ใช่เรื่องต้นทุน และไม่ใช่เพราะลูกค้าของเราเรียกร้อง (ถึงแม้พวกเขาจะไม่ว่าอะไร) แต่เป็นเพราะเราไม่มีทางเลือกอื่น
เมื่อคุณใช้งาน AI agent ในการผลิตสำหรับการบริการลูกค้า ความหน่วง (latency) คือสิ่งที่ทำให้ผลิตภัณฑ์ประสบความสำเร็จหรือล้มเหลว การสนทนาที่แต่ละเทิร์นใช้เวลา 8 วินาทีไม่ใช่ผลิตภัณฑ์ที่ใครจะใช้ ดังนั้นคุณจึงต้องใช้โมเดลขนาดเล็กที่รวดเร็ว การเรียกใช้โมเดลแต่ละครั้งไม่จำเป็นต้องรู้เมืองหลวงของลิทัวเนียหรือฟิสิกส์ระดับมัธยมปลาย
แต่โมเดลขนาดเล็กที่ออกมาจากกล่องนั้นยังไม่ดีพอสำหรับมาตรฐานคุณภาพที่ลูกค้าของเราคาดหวัง พวกมันจะไปถึงจุดนั้นได้ก็ต่อเมื่อผ่านการปรับแต่งอย่างหนัก (fine-tuning) สำหรับงานที่เฉพาะเจาะจง ห้องปฏิบัติการ前沿ไม่ได้ขายชุดค่าผสมนี้จริงๆ คุณไม่สามารถปรับแต่งโมเดลที่ดีที่สุดของพวกเขาในแบบที่เราต้องการได้ และโมเดลขนาดเล็กของพวกเขาก็ไม่ใช่ของเราที่จะปรับแต่งได้ เล็ก + ปรับแต่งได้ หมายถึงน้ำหนักเปิด (open weights) การประหยัดต้นทุนนั้นมีจริงแต่เป็นเรื่องรอง และความสบายใจขององค์กรกับโมเดลที่โฮสต์เองก็เป็นผลพลอยได้ที่ดี ไม่ใช่เหตุผลหลัก
แล้วทำไมบริษัทอย่างเราถึงใช้โอเพนซอร์ส 90% ในขณะที่ตัวเลขขององค์กรโดยรวมกำลังลดลง?
คำตอบคือความสมบูรณ์ของกรณีการใช้งาน (use case maturity) เมื่อกรณีการใช้งานเป็นเรื่องใหม่ คุณต้องการโมเดลอเนกประสงค์ที่ฉลาดที่สุดเท่าที่จะหาได้ คุณยังไม่รู้รูปแบบของปัญหา ดังนั้นคุณจึงจ่ายพรีเมียมสำหรับความฉลาดที่คุณอาจไม่จำเป็นต้องใช้ในที่สุด นั่นคือการแลกเปลี่ยนที่ถูกต้องในขั้นตอนนั้น แต่เมื่อกรณีการใช้งานถูกสร้างขึ้นอย่างสมบูรณ์แล้ว เมื่อคุณรู้การกระจายของอินพุต พฤติกรรมที่คุณต้องการ และโหมดความล้มเหลวที่ต้องป้องกัน การแลกเปลี่ยนจะพลิกกลับ ตอนนี้ความฉลาดทั่วไปกลายเป็นค่าใช้จ่ายส่วนเกิน และคุณต้องการโมเดลที่เล็กที่สุด เร็วที่สุด ที่ถูกปรับแต่งให้ทำงานเฉพาะของคุณได้อย่างยอดเยี่ยม
การบริการลูกค้าเป็นหนึ่งในกรณีการใช้งาน AI ที่ชัดเจนที่สุดในอุตสาหกรรม เวิร์กโฟลว์ที่เข้าใจกันดี ปริมาณการสนทนามหาศาล มาตรฐานคุณภาพที่เข้มงวด ซึ่งหมายความว่าบริษัทอย่างเราแค่อยู่ไกลกว่าบนเส้นโค้งมากกว่าการปรับใช้ในองค์กรโดยเฉลี่ย
และนั่นคือคำตอบของความขัดแย้ง เหตุผลที่ส่วนแบ่งโอเพนซอร์สลดลงไม่ใช่เพราะโอเพนซอร์สกำลังแพ้ แต่เป็นเพราะ AI ในองค์กรโดยรวมยังอยู่ในช่วงเริ่มต้นของเส้นโค้งความสมบูรณ์ เมื่อปีที่แล้ว องค์กรต่างๆ หยุดสร้างและเริ่มซื้อ และกรณีการใช้งานใหม่ๆ นับพันก็เกิดขึ้นพร้อมกัน กรณีการใช้งานใหม่ทำงานบนโมเดล前沿 ดังนั้นส่วนแบ่งของโมเดลปิดจึงพุ่งสูงขึ้น 11% เป็นปัญหาของตัวส่วน: กลุ่มของกรณีการใช้งานที่ยังไม่สมบูรณ์กำลังเติบโตเร็วกว่ากลุ่มของกรณีการใช้งานที่สมบูรณ์แล้ว
ถ้านั่นถูกต้อง ทุกกรณีการใช้งานที่กำลังถูกสร้างต้นแบบบนโมเดล前沿ในวันนี้คือการย้ายไปใช้โอเพนซอร์สในอนาคต เมื่อการปรับใช้มีความสมบูรณ์มากขึ้น บริษัทต่างๆ จะทำในสิ่งที่เราทำ: กลั่น (distill) ปรับแต่ง (fine-tune) และทำให้เฉพาะทาง (specialize) ห้องปฏิบัติการ前沿จะยังคงเป็นเจ้าของการค้นพบ โอเพนซอร์สจะค่อยๆ เป็นเจ้าของการผลิตมากขึ้นเรื่อยๆ
อย่างไรก็ตาม สิ่งนี้จะใช้เวลานานกว่าที่ผู้คนคิด กรณีการใช้งานส่วนใหญ่ยังไม่ถึงจุดที่ "รูปร่าง" ของ agent ถูกทำให้เป็นที่สิ้นสุดจนถึงขนาดที่การเริ่มปรับแต่งโมเดลโอเพนซอร์สจะสมเหตุสมผล
การปรับแต่งต้องใช้ความพยายาม และองค์กรส่วนใหญ่ไม่มีทรัพยากรหรือความเชี่ยวชาญที่จะทำ กรณีการใช้งานจะต้องมี ROI สูงมากและถูกปรับใช้เต็มรูปแบบในวงกว้างแล้วจึงจะคุ้มค่า คุณยังต้องมีข้อมูลเพียงพอเพื่อให้แน่ใจว่าโมเดลขนาดเล็กสามารถทำงานได้ในระดับเดียวกับโมเดล前沿สำหรับงานที่กำหนด
มิฉะนั้น มันง่ายกว่ามากที่จะเสียบปลั๊กกับโมเดลปิดแบบ前沿ตัวใดตัวหนึ่ง คุณไม่ต้องกังวลเกี่ยวกับการเป็นเจ้าของโครงสร้างพื้นฐานใดๆ และคุณมีอิสระในการทำซ้ำและทดลองอย่างอิสระ
ดังนั้น ส่วนแบ่งค่าใช้จ่าย LLM บนโอเพนซอร์สจะค่อยๆ เพิ่มขึ้นในที่สุด แต่มันจะไม่เกิดขึ้นในอีกหลายปี
