ผู้คนส่วนใหญ่คิดว่าการแข่งขัน AI นั้นเกี่ยวกับชิป ใครมี GPU ที่เร็วที่สุด? ใครมี AI accelerator ที่ดีที่สุด? ใครมีศูนย์ข้อมูลที่ใหญ่ที่สุด? ใครมีโมเดลที่ฉลาดที่สุด?
ทั้งหมดนั้นสำคัญ แต่ยังมีอีกส่วนหนึ่งของการแข่งขัน AI ที่ดูไม่สวยหรูนักและอาจสำคัญไม่แพ้กัน: หน่วยความจำ
ไม่ใช่หน่วยความจำแบบ "ฉันลืมว่าวางกุญแจไว้ที่ไหน" แต่เป็นหน่วยความจำในฐานะฮาร์ดแวร์ทางกายภาพที่จัดเก็บ เคลื่อนย้าย และส่งข้อมูลที่ระบบ AI ต้องการเพื่อคิดคำนวณ AI ไม่ได้แค่คำนวณเท่านั้น แต่ยังจดจำ ค้นหา เปรียบเทียบ เคลื่อนย้าย และนำข้อมูลปริมาณมหาศาลกลับมาใช้ใหม่ด้วยความเร็วอันน่าเหลือเชื่อ สิ่งนี้ทำให้หน่วยความจำเป็นหนึ่งในคอขวดที่สำคัญที่สุดในระบบเศรษฐกิจ AI ทั้งหมด
ทำไม AI ถึงหิวกระหายหน่วยความจำ
ลองนึกภาพว่าคุณขอให้โมเดล AI ค้นคว้าข้อมูลอย่างลึกซึ้งในหัวข้อหนึ่ง โมเดลไม่ได้ "คิด" แบบมนุษย์ มันดำเนินการทางคณิตศาสตร์จำนวนมหาศาลกับค่าที่เก็บไว้เป็นพันล้านหรือล้านล้านค่า ค่าเหล่านี้เรียกว่า weights (น้ำหนัก)
weights คือโครงสร้างที่โมเดลเรียนรู้ระหว่างการฝึกฝน สิ่งที่โมเดล "รู้" หลังจากฝึก เมื่อคุณถามคำถาม ระบบ AI จะต้องเข้าถึง weights เหล่านั้นซ้ำแล้วซ้ำอีกเพื่อสร้างคำตอบ ยิ่งโมเดลใหญ่เท่าไหร่ก็ยิ่งมี weights มากขึ้นเท่านั้น และต้องการหน่วยความจำมากขึ้นเพื่อจัดเก็บและเข้าถึง
แต่ปัญหาหน่วยความจำไม่ได้หยุดแค่นั้น โมเดลยังต้องจดจำ prompt ของคุณ ต้องจำคำที่สร้างไว้แล้ว อาจต้องประมวลผลเอกสารยาว วิเคราะห์โค้ด สรุป PDF เปรียบเทียบไฟล์หลายไฟล์ หรือรักษาบริบทตลอดการสนทนาที่ยาว ข้อมูลชั่วคราวในการทำงานทั้งหมดนั้นต้องอยู่ที่ไหนสักแห่ง
ระบบ AI ต้องการสถานที่เก็บข้อมูลที่กำลังใช้ขณะสร้างคำตอบ โมเดลที่ใหญ่กว่าต้องการหน่วยความจำมากขึ้น การสนทนาที่ยาวขึ้นต้องการหน่วยความจำมากขึ้น ผู้ใช้พร้อมกันมากขึ้นต้องการหน่วยความจำมากขึ้น รูปภาพ วิดีโอ เอกสาร และข้อมูลเรียลไทม์มากขึ้นก็ต้องการหน่วยความจำมากขึ้น
นี่คือสาเหตุที่ AI ไม่เพียงหิวโหยด้านพลังประมวลผล แต่ยังหิวโหยด้านหน่วยความจำอีกด้วย
รถสปอร์ตกับท่อน้ำมันเส้นเล็ก
เมื่อบริษัทชิปพูดถึงประสิทธิภาพ AI พวกมันมักพูดถึงพลังประมวลผล ซึ่งหมายถึงจำนวนการดำเนินการทางคณิตศาสตร์ที่ชิปสามารถทำได้ต่อวินาที แต่มีข้อแม้: ชิปสามารถคำนวณได้เฉพาะข้อมูลที่เข้าถึงเท่านั้น
ถ้าข้อมูลไปถึงเครื่องมือคำนวณไม่เร็วพอ ชิปก็จะว่างงาน นี่คือความจริงอันเจ็บปวดของฮาร์ดแวร์ AI พลังประมวลผลทางทฤษฎีอาจดูดีบนสไลด์ แต่ประสิทธิภาพในโลกจริงขึ้นอยู่กับว่าระบบสามารถเคลื่อนย้ายข้อมูลได้เร็วพอหรือไม่
นี่คือแบนด์วิดท์หน่วยความจำ แบนด์วิดท์คือปริมาณข้อมูลที่สามารถเคลื่อนย้ายต่อวินาทีระหว่างหน่วยความจำและโปรเซสเซอร์ เปรียบเหมือนความกว้างของถนน เลนที่มากขึ้นหมายถึงรถวิ่งพร้อมกันได้มากขึ้น แบนด์วิดท์หน่วยความจำที่มากขึ้นหมายถึงข้อมูลสามารถไปถึงชิป AI พร้อมกันได้มากขึ้น
ถนนเล็กทำให้รถติด ท่อแคบจำกัดการไหลของน้ำ ท่อน้ำมันเส้นเล็กจำกัดรถสปอร์ต แบนด์วิดท์หน่วยความจำต่ำจำกัด AI นี่คือสาเหตุที่ชิป AI อาจ "เร็ว" ในทางทฤษฎีแต่น่าผิดหวังในทางปฏิบัติ เครื่องมือคำนวณอาจพร้อม แต่ข้อมูลอาจติดอยู่ในรถติด
AI ต้องการหน่วยความจำมากแค่ไหน?
โมเดล AI ขนาดใหญ่ทั่วไปในปัจจุบันมี "weights" ประมาณ 400,000 ล้านค่า (สิ่งที่เรียนรู้ระหว่างการฝึก) เมื่อจัดเก็บในรูปแบบที่นิยมที่สุด โมเดลเพียงตัวเดียวใช้หน่วยความจำประมาณ 800 กิกะไบต์ - ประมาณขนาดของภาพยนตร์ความละเอียดสูง 200 เรื่อง
แต่โมเดลไม่ใช่สิ่งเดียวที่ต้องการพื้นที่ ทุกครั้งที่คุณแชทกับมัน ระบบยังต้องเก็บประวัติการสนทนา เอกสารที่คุณอัปโหลด และรายการ "บันทึก" ที่เพิ่มขึ้นขณะคิด (เรียกว่า key-value cache) ในวันที่วุ่นวาย การสนทนาเพียงครั้งเดียวอาจต้องการอีก 50–200 GB
ตอนนี้คูณด้วยผู้ใช้หลายพันหรือหลายล้านคนพร้อมกัน ทันใดนั้นศูนย์ข้อมูลแห่งเดียวอาจต้องการหน่วยความจำหลายหมื่นกิกะไบต์ - นั่นคือหลายสิบเทราไบต์ - เพียงเพื่อให้การสนทนาดำเนินไปอย่างราบรื่น
นั่นคือเหตุผลที่อุตสาหกรรมหมกมุ่นกับ HBM: ชิป AI สมัยใหม่ตัวเดียวสามารถจับคู่กับหน่วยความจำความเร็วสูงนี้ได้ 100–200+ GB ชิปรุ่นต่อไปผลักดันไปสู่มากขึ้นเรื่อยๆ หากไม่มีเพียงพอ ชิปก็นั่งรอ เหมือน Ferrari ที่ถังน้ำมันว่างเปล่า
HBM: หน่วยความจำระดับเซเลบริตี้
หน่วยความจำที่สำคัญที่สุดใน AI ระดับสูงในปัจจุบันคือ HBM (High Bandwidth Memory) HBM เป็นหน่วยความจำที่เรียงซ้อนแนวตั้ง เหมือนตึกระฟ้าจิ๋ว แทนที่จะวางชิปหน่วยความจำราบบนแผงวงจร HBM ซ้อนชั้นหน่วยความจำทับกันและวางไว้ใกล้กับ GPU หรือ AI accelerator มาก
สิ่งนี้สำคัญเพราะระยะทางคือศัตรู การเคลื่อนย้ายข้อมูลข้ามแผงวงจรใช้เวลาและพลังงาน การเคลื่อนย้ายข้อมูลจากหน่วยความจำที่วางติดกับชิปนั้นเร็วกว่าและมีประสิทธิภาพมากกว่า HBM ให้การเชื่อมต่อที่กว้างและใหญ่แก่ AI accelerator แทนที่จะเป็นถนนแคบ เหมือนสร้างทางด่วน 32 เลนตรงเข้าไปในโรงงาน
นี่คือสาเหตุที่ NVIDIA, AMD, Google, Amazon, Meta, Microsoft, Broadcom และความพยายามชิป AI ที่จริงจังเกือบทุกแห่ง (รวมถึง TERAFAB - ดูเพิ่มเติมด้านล่าง) ให้ความสำคัญกับ HBM อย่างมาก GPU หรือ accelerator อาจเป็นข่าวเด่น แต่ HBM ช่วยกำหนดว่าชิปสามารถทำงานที่มีประโยชน์ได้จริงมากแค่ไหน
HBM ยังผลิตยาก ต้องใช้การผลิตหน่วยความจำขั้นสูง การซ้อนแนวตั้ง ความแม่นยำสูงมาก การบรรจุภัณฑ์ขั้นสูง การจัดการความร้อน และการประสานงานอย่างใกล้ชิดกับโปรเซสเซอร์ นี่คือสาเหตุที่ Micron, SK hynix และ Samsung มีความสำคัญมาก พวกเขาไม่ได้แค่ขายหน่วยความจำสินค้าโภคภัณฑ์ให้พีซีอีกต่อไป แต่กำลังจัดหาส่วนผสมสำคัญอย่างหนึ่งของการสร้าง AI
ในโลกเก่า บริษัทหน่วยความจำมักถูกมองว่าเป็นธุรกิจสินค้าโภคภัณฑ์แบบวัฏจักร ในโลก AI บริษัทหน่วยความจำระดับสูงดูเหมือนผู้จัดหาโครงสร้างพื้นฐานเชิงกลยุทธ์มากกว่า
DRAM: ม้าทำงานที่ไว้ใจได้
DRAM (Dynamic Random Access Memory) คือหน่วยความจำหลักที่ใช้ในคอมพิวเตอร์และเซิร์ฟเวอร์ เป็นหน่วยความจำทำงานปกติที่คนส่วนใหญ่คุ้นเคย แม้จะไม่ได้คิดมาก เมื่อคุณซื้อแล็ปท็อปที่มี RAM 16 GB, 32 GB หรือ 64 GB นั่นมักจะเป็น DRAM
DRAM สำคัญเพราะหนาแน่น ค่อนข้างถูก และใช้กันอย่างแพร่หลาย อยู่ในเซิร์ฟเวอร์ พีซี ศูนย์ข้อมูล และระบบ AI จำนวนมาก ช่วยให้ CPU จัดการข้อมูล ป้อนงาน หนุนแอปพลิเคชัน และรันระบบรอบ ๆ AI accelerators
แต่ DRAM มีข้อจำกัด มันไม่เร็วเท่า cache บนชิป ไม่มีแบนด์วิดท์ที่สูงมากของ HBM และเพราะมักอยู่ห่างจากโปรเซสเซอร์ AI หลัก จึงไม่สามารถป้อนข้อมูลให้ชิปได้เร็วพอสำหรับงานที่ต้องการมากที่สุด
คิดว่า DRAM เป็นโกดังใหญ่หลังโรงงาน เก็บของได้เยอะและจำเป็น แต่ไม่เร็วเท่ากับมีชิ้นส่วนที่ต้องการอยู่ตรงมือคนงาน AI ต้องการทั้งสองอย่าง ต้องมีพูลหน่วยความจำขนาดใหญ่ และต้องมีหน่วยความจำที่เร็วอย่างมากใกล้กับหน่วยประมวลผล
SRAM และ Cache: หน่วยความจำบนโต๊ะทำงาน
SRAM (Static Random-Access Memory) เร็วกว่า DRAM มาก ใช้ภายในชิปเป็น cache memory Cache เปรียบเหมือนกองเครื่องมือและชิ้นส่วนเล็กๆ บนโต๊ะทำงาน คุณไม่ต้องเดินข้ามอาคารไปหยิบ มันอยู่ใกล้คุณแล้ว
นั่นทำให้ cache มีค่ามาก เมื่อชิป AI สามารถเก็บข้อมูลสำคัญใน cache บนชิปได้ จะประหยัดเวลาและพลังงาน ชิปไม่ต้องไปหา HBM หรือ DRAM บ่อยครั้ง ช่วยปรับปรุงประสิทธิภาพและประสิทธิผล
แต่มีปัญหา SRAM ใช้พื้นที่บนชิปมาก มีราคาแพงในแง่ของพื้นที่ซิลิคอน คุณไม่สามารถใส่ SRAM หลายร้อยกิกะไบต์บนชิปได้ ชิปจะใหญ่โตและแพงมาก
ดังนั้นนักออกแบบชิปต้องเผชิญกับการแลกเปลี่ยน ควรจัดสรรพื้นที่เท่าไหร่ให้การคำนวณ เท่าไหร่ให้ cache เท่าไหร่ให้อินเทอร์คอนเนกต์ ตรรกะควบคุม และคุณสมบัติอื่น ๆ นี่เป็นส่วนที่น่าสนใจที่สุดอย่างหนึ่งของการออกแบบชิป AI สถาปัตยกรรมไม่ใช่แค่วิศวกรรม แต่เป็นการจัดสรรทุนในระดับจุลภาค
ทุกตารางมิลลิเมตรของซิลิคอนมีหน้าที่
GDDR: หน่วยความจำของ GPU เกมมิ่งและ AI ท้องถิ่น
GDDR (Graphics Double Data Rate) คือหน่วยความจำที่ใช้ในการ์ดกราฟิกหลายรุ่น ถ้าคุณมี GPU สำหรับเกมหรือเวิร์กสเตชัน มีโอกาสสูงที่ใช้ GDDR GDDR สำคัญเพราะให้แบนด์วิดท์สูงในราคาที่ต่ำกว่า HBM ไม่ทรงพลังหรือมีประสิทธิภาพเท่า HBM สำหรับงาน AI ที่หนักที่สุด แต่มีประโยชน์อย่างมาก
นี่คือหน่วยความจำที่ให้คนรันโมเดล AI ที่บ้าน รองรับ GPU สำหรับเกม เวิร์กสเตชันสำหรับครีเอเตอร์ เซิร์ฟเวอร์ AI ขนาดเล็ก การตั้งค่างานอดิเรก และการทดลองโมเดลในพื้นที่ ใครที่รันโมเดลสร้างภาพบน GPU NVIDIA สำหรับผู้บริโภคอาจพึ่งพา GDDR นักพัฒนาที่ทดสอบโมเดลภาษาเล็กในพื้นที่อาจใช้ GDDR สตาร์ทอัพที่สร้างต้นแบบแอปพลิเคชัน AI ก่อนย้ายไปโครงสร้างพื้นฐานระบบคลาวด์ราคาแพงอาจใช้ GDDR
นั่นสำคัญเพราะไม่ใช่ทุกโมเดลต้องรันในศูนย์ข้อมูลไฮเปอร์สเกลขนาดยักษ์ โมเดลบางตัวสามารถรันในพื้นที่บนเวิร์กสเตชัน เครื่องเล่นเกม และเซิร์ฟเวอร์ขนาดเล็ก
LPDDR: หน่วยความจำที่นำ AI มาสู่กระเป๋าคุณ
LPDDR (Low-Power Double Data Rate) คือหน่วยความจำพลังงานต่ำที่ใช้ในสมาร์ทโฟน แท็บเล็ต แล็ปท็อป และอุปกรณ์พกพาหลายชนิด นี่คือหน่วยความจำที่สำคัญเมื่อ AI ย้ายจากคลาวด์มาสู่มือคุณ รถยนต์ แว่นตา นาฬิกา หรือหุ่นยนต์ของคุณ
LPDDR ออกแบบมาให้ใช้พลังงานน้อย นั่นสำคัญเพราะโทรศัพท์ไม่สามารถทำตัวเหมือนศูนย์ข้อมูล มันไม่สามารถดึงไฟฟ้าหลายเมกะวัตต์ ไม่สามารถพึ่งพาการระบายความร้อนด้วยของเหลว ไม่สามารถส่งเสียงเหมือนเครื่องยนต์เจ็ท ถ้า AI จะรันบนอุปกรณ์ในพื้นที่ หน่วยความจำต้องเร็ว กะทัดรัด ประหยัดพลังงาน และราคาไม่แพง
นี่คือสาเหตุที่ LPDDR สำคัญมากสำหรับ edge AI สมาร์ทโฟนที่รันโมเดลภาษาในพื้นที่ต้องการหน่วยความจำเพียงพอสำหรับเก็บโมเดลและประมวลผลคำขอของคุณ แล็ปท็อปที่ใช้เครื่องมือ AI ในพื้นที่ต้องการหน่วยความจำที่เร็วพอให้มีประโยชน์ แต่ประหยัดพอไม่ทำลายอายุแบตเตอรี่ รถยนต์ที่รันซอฟต์แวร์ขับเคลื่อนอัตโนมัติต้องการหน่วยความจำที่สามารถจัดการข้อมูลเซ็นเซอร์เรียลไทม์ขณะทำงานอย่างปลอดภัยในความร้อน ความเย็น การสั่นสะเทือน และสภาวะที่รุนแรง
หุ่นยนต์ฮิวแมนนอยด์ก็ต้องการหน่วยความจำในพื้นที่เช่นกัน ต้องประมวลผลภาพ ภาษา การเคลื่อนไหว การทรงตัว การสัมผัส และบริบทสิ่งแวดล้อม ความฉลาดบางส่วนอาจเชื่อมต่อกับคลาวด์ แต่หุ่นยนต์ไม่สามารถรอเซิร์ฟเวอร์ที่อยู่ไกลทุกครั้งที่ต้องก้าวเดินหรือหลีกเลี่ยงการชนโคมไฟ
LPDDR อาจไม่ได้รับความสนใจเท่า HBM แต่สำคัญมากถ้า AI จะกลายเป็นสิ่งท้องถิ่น ส่วนตัว พกพาได้ และมีรูปร่าง
NAND Flash: ห้องสมุด AI
NAND (ย่อมาจาก NOT-AND) flash คือหน่วยความจำที่ใช้สำหรับจัดเก็บระยะยาว อยู่ใน SSD โทรศัพท์ แล็ปท็อป ศูนย์ข้อมูล กล้องถ่ายรูป รถยนต์ และระบบฝังตัวหลายชนิด NAND เก็บข้อมูลได้แม้ไม่มีไฟ
NAND ช้ากว่า DRAM หรือ HBM แต่ถูกกว่าและหนาแน่นกว่ามากสำหรับจัดเก็บ เป็นที่ที่ข้อมูลอยู่เมื่อไม่ได้ถูกประมวลผล ใน AI NAND เก็บข้อมูลฝึก โมเดลไฟล์ checkpoints logs วิดีโอ รูปภาพ เอกสาร embeddings แผนที่ และข้อมูลผู้ใช้
คิดว่า NAND เป็นห้องสมุดหรือโกดัง HBM คือสายการผลิตที่เร็ว SRAM cache คือเครื่องมือในมือคุณ DRAM คือพื้นที่ทำงานที่ใช้งานอยู่
สำหรับยานยนต์อัตโนมัติ NAND อาจเก็บแผนที่ logs การขับขี่ ข้อมูลการรับรู้ และอัปเดตซอฟต์แวร์ สำหรับหุ่นยนต์ อาจเก็บประวัติการทำงาน โมเดลท้องถิ่น logs การบำรุงรักษา และข้อมูลสิ่งแวดล้อม สำหรับศูนย์ข้อมูล เก็บชุดข้อมูลขนาดใหญ่และ model checkpoints
ถ้าที่จัดเก็บช้าเกินไป AI accelerator ที่มีราคาแพงอาจต้องรอ
นั่นเหมือนกับการจ่ายเงินทีมศัลยแพทย์หลายล้านดอลลาร์ แล้วทำให้พวกเขารอเพราะไม่มีใครเอาเครื่องมือเข้ามาในห้อง
แม้แต่หน่วยความจำ "ช้า" ก็สำคัญเมื่อระบบ AI ทั้งหมดพึ่งพาการป้อนข้อมูลผ่านท่อขนาดใหญ่
ศูนย์ข้อมูล AI คือเครื่องจักรหน่วยความจำขนาดยักษ์
ศูนย์ข้อมูล AI สมัยใหม่มักถูกอธิบายว่าเป็นเครื่องคำนวณขนาดยักษ์ นั่นจริงแต่ไม่สมบูรณ์ มันยังเป็นเครื่องจักรหน่วยความจำขนาดยักษ์อีกด้วย
ศูนย์ข้อมูลต้องเคลื่อนย้ายข้อมูลจากที่จัดเก็บไปยัง CPU จาก CPU ไปยัง GPU จาก GPU ไปยัง HBM จาก GPU หนึ่งไปยังอีก GPU หนึ่ง จากเซิร์ฟเวอร์หนึ่งไปยังอีกเซิร์ฟเวอร์หนึ่ง และบ่อยครั้งจากคลัสเตอร์หนึ่งไปยังอีกคลัสเตอร์หนึ่ง ทุกการเคลื่อนย้ายใช้เวลา พลังงาน และเงิน
สิ่งนี้ส่งผลต่อทุกอย่าง: สถาปัตยกรรมเซิร์ฟเวอร์ การออกแบบแร็ค เครือข่าย การระบายความร้อน การใช้พลังงาน และต้นทุนรวมในการเป็นเจ้าของ ถ้าระบบหน่วยความจำออกแบบไม่ดี ศูนย์ข้อมูลจะเสีย GPU ราคาแพงไปเปล่า ๆ ถ้า GPU เข้าถึงหน่วยความจำไม่เร็วพอ ประสิทธิภาพจะลดลง ถ้าหน่วยความจำใช้พลังงานมากเกินไป ค่าใช้จ่ายในการระบายความร้อนเพิ่มขึ้น ถ้าความจุหน่วยความจำจำกัดเกินไป ระบบอาจต้องใช้ accelerator มากขึ้นเพื่อรันงานเดียวกัน
นี่คือสาเหตุที่โครงสร้างพื้นฐาน AI ต้องใช้ทุนมาก คุณไม่ได้แค่ซื้อชิป แต่กำลังซื้อระบบอุตสาหกรรมที่สมบูรณ์: GPU, HBM, CPU, DRAM, NAND, เครือข่าย, สวิตช์, การจ่ายไฟ, การระบายความร้อน, บรรจุภัณฑ์, ซอฟต์แวร์ และอาคาร
บรรจุภัณฑ์: ส่วนที่ไม่มีใครพูดถึงจนกว่าจะพัง
HBM ไม่ได้มีประโยชน์เพียงแค่มีอยู่ มันต้องเชื่อมต่อทางกายภาพกับ AI accelerator นั่นคือจุดที่บรรจุภัณฑ์ขั้นสูงเข้ามา
ชิป AI สมัยใหม่ไม่ใช่แค่ซิลิคอนชิ้นเดียวที่วางอยู่คนเดียว แต่เป็นแพ็คเกจที่ซับซ้อนซึ่งรวมชิปลอจิก กองหน่วยความจำ อินเทอร์โพเซอร์ ซับสเตรต และการเชื่อมต่อความเร็วสูง วิธีการบรรจุภัณฑ์ที่สำคัญวิธีหนึ่งเรียกว่า 2.5D packaging แนวคิดพื้นฐานคือ GPU หรือ accelerator และกอง HBM วางเคียงข้างกันบนชั้นฐานพิเศษที่ช่วยให้สื่อสารกันได้เร็วมาก
นี่คือวิธีที่หน่วยความจำใกล้พอและเชื่อมต่อพอที่จะป้อนชิป เทคโนโลยี CoWoS packaging ของ TSMC มีความสำคัญเป็นพิเศษเพราะช่วยเชื่อมต่อโปรเซสเซอร์ขั้นสูงกับ HBM ความสามารถในการบรรจุภัณฑ์นี้กลายเป็นคอขวดหลักในห่วงโซ่อุปทาน AI
นั่นเป็นประเด็นแปลกแต่สำคัญ คุณสามารถออกแบบชิป AI ที่ดีที่สุดในโลก ผลิตลอจิก ผลิต HBM แต่ถ้าคุณไม่สามารถบรรจุภัณฑ์เข้าด้วยกันในปริมาณมาก คุณไม่สามารถส่งสินค้าสำเร็จรูปได้
เศรษฐศาสตร์ของหน่วยความจำกำลังเปลี่ยนแปลง
เป็นเวลาหลายทศวรรษที่หน่วยความจำมักถูกมองว่าเป็นธุรกิจสินค้าโภคภัณฑ์แบบวัฏจักร ราคาขึ้น บริษัทเพิ่มอุปทาน ราคาลง และวงจรซ้ำ AI เปลี่ยนเรื่องนั้น
HBM ไม่ใช่หน่วยความจำสินค้าโภคภัณฑ์ธรรมดา มันเฉพาะทาง หายาก ผลิตยาก และจำเป็นสำหรับระบบ AI ที่มีค่าที่สุดในโลก ทำให้ผู้ผลิตหน่วยความจำมีความสำคัญเชิงกลยุทธ์มากขึ้นและมีอำนาจในการตั้งราคามากขึ้น
ถ้า NVIDIA, AMD หรือบริษัทชิป AI ที่กำหนดเองไม่ได้รับ HBM เพียงพอ พวกเขาไม่สามารถจัดส่ง accelerator ได้เพียงพอ ถ้าผู้ให้บริการคลาวด์ไม่ได้รับ accelerator เพียงพอ พวกเขาไม่สามารถปรับใช้ความสามารถ AI ได้เพียงพอ ถ้าความสามารถ AI ถูกจำกัด การอนุมานก็จะแพงขึ้นและแอปพลิเคชันก็ช้าลง
หน่วยความจำกลายเป็นตัวควบคุมการเติบโตของ AI นี่คือสาเหตุที่บริษัทอย่าง SK hynix, Samsung และ Micron มีความสำคัญมาก พวกเขาไม่ได้แค่ขี่คลื่น AI แต่กำลังช่วยกำหนดว่าคลื่นจะใหญ่แค่ไหน
AI แบบ Agentic: ตัวคูณหน่วยความจำ
AI แบบ Agentic อาจกลายเป็นหนึ่งในตัวขับเคลื่อนที่ใหญ่ที่สุดของความต้องการหน่วยความจำในอนาคต เพราะ agent ไม่ได้ทำงานเหมือนเซสชันแชทบอททั่วไป แชทบอทตอบคำถามแล้วหยุด AI agent ทำงานต่อเนื่อง มันจำเป้าหมาย ติดตามการสนทนา เรียกใช้เครื่องมือ เปิดไฟล์ ตรวจสอบผลลัพธ์ แยกเป็นงานย่อย เปรียบเทียบตัวเลือก และมักรันการให้เหตุผลหลายรอบก่อนสร้างคำตอบ
นั่นเปลี่ยนสมการหน่วยความจำ
การค้นหา AI แบบง่ายอาจต้องใช้หน่วยความจำสำหรับโมเดล prompt ผู้ใช้ หน้าต่างบริบท และผลลัพธ์ เวิร์กโฟลว์แบบ agentic ต้องการมากกว่านั้นมาก อาจต้องใช้หน่วยความจำสำหรับคำสั่งเดิม ขั้นตอนก่อนหน้า ผลลัพธ์ระหว่างกลาง ผลลัพธ์จากเครื่องมือ บริบทที่ยาวนาน agent ย่อยแบบขนาน และสถานะถาวร พูดง่ายๆ: แชทบอทต้องการหน่วยความจำระยะสั้น agent ต้องการหน่วยความจำทำงาน หน่วยความจำโครงการ และโต๊ะที่เต็มไปด้วยไฟล์ที่เปิดอยู่
นี่คือสาเหตุที่ AI แบบ agentic อาจสร้างการเปลี่ยนแปลงขั้นตอนในความต้องการ DRAM แผนที่บรรยายของ Micron ประมาณว่า agent ที่ทำงานแต่ละตัวอาจต้องการหน่วยความจำมากกว่าการโต้ตอบแชทบอททั่วไป 5–10 เท่า เพราะ agent รักษาบริบทที่ยาวกว่า ประวัติเครื่องมือ กิ่งงานย่อย และการบูรณาการความรู้ภายนอก
ประเด็นสำคัญคือ AI แบบ agentic ไม่ได้เพิ่มจำนวนการค้นหาเท่านั้น แต่เพิ่มความเข้มข้นของหน่วยความจำต่อผู้ใช้ มนุษย์คนหนึ่งที่ใช้แชทบอทอาจสร้างหนึ่ง prompt และหนึ่งคำตอบ มนุษย์คนหนึ่งที่ใช้ agent อาจก่อให้เกิดการทำงานเบื้องหลังหลายสิบหรือหลายร้อยครั้ง: ค้นหานี้ สรุปนั้น ตรวจสอบสเปรดชีต รันสถานการณ์ เปรียบเทียบผลลัพธ์ แก้ไขแผน แล้วติดตามเมื่อเวลาผ่านไป
นั่นหมายถึงความต้องการหน่วยความจำทวีคูณในหลายชั้น:
ผู้ใช้มากขึ้น × agent ต่อผู้ใช้มากขึ้น × งานต่อ agent มากขึ้น × หน่วยความจำต่องานมากขึ้น × การคงอยู่ที่นานขึ้น
นี่คือเส้นอุปสงค์ที่แตกต่างจากซอฟต์แวร์แบบดั้งเดิมมาก ในซอฟต์แวร์เก่า ผู้ใช้เปิดแอป ทำอะไรบางอย่าง แล้วปิดมัน ใน AI แบบ agentic ซอฟต์แวร์อาจทำงานต่อหลังจากผู้ใช้ออกไป อาจตรวจสอบกล่องขาเข้า ปฏิทิน ฐานโค้ด โมเดลทางการเงิน เอกสารทางกฎหมาย ใบรับบริการลูกค้า หรือระบบโรงงาน agent ที่คงอยู่แต่ละตัวกลายเป็นผู้บริโภคขนาดเล็กที่ดำเนินการต่อเนื่องของคอมพิวต์และหน่วยความจำ
นี่สำคัญสำหรับ Micron เพราะหน่วยความจำกลายเป็นหนึ่งในทรัพยากรที่จำกัดของ AI แบบ agentic ยุคของ AI agent ไม่เพียงต้องการ GPU แต่ยังต้องการหน่วยความจำเร็วรอบ GPU เหล่านั้น DRAM เซิร์ฟเวอร์ระดับสูง พูลหน่วยความจำขนาดใหญ่ และในที่สุดเทคโนโลยีอย่าง CXL เพื่อขยายความจุหน่วยความจำเกินขีดจำกัดดั้งเดิม รายงานของ Micron ที่อัปโหลดระบุโดยเฉพาะว่า AI agents เป็นตัวขับเคลื่อนอุปสงค์ระยะต่อไปเพราะ agent รักษาบริบทที่ยาวนานและเรียกใช้เครื่องมือภายนอก ทวีคูณความต้องการหน่วยความจำต่อผู้ใช้ที่ใช้งานเมื่อเทียบกับการโต้ตอบแชทบอทดั้งเดิม
การเปรียบเทียบที่ง่ายที่สุดคือ: ChatGPT เหมือนการถามพนักงานที่ฉลาดคำถามหนึ่ง AI แบบ agentic เหมือนการจ้างพนักงานคนนั้นมาทำงานในโครงการทั้งวัน อย่างแรกต้องการความสนใจสั้น ๆ อย่างหลังต้องการหน่วยความจำ ไฟล์ บริบท เครื่องมือ และความต่อเนื่อง
นั่นคือสาเหตุที่ AI แบบ agentic อาจสำคัญมากสำหรับ Micron มันเปลี่ยนหน่วยความจำจากส่วนประกอบเบื้องหลังเป็นข้อจำกัดในการขยายขนาดหลัก ถ้า AI agents กลายเป็นอินเทอร์เฟซใหม่สำหรับซอฟต์แวร์องค์กร บริการลูกค้า การเขียนโค้ด การวิจัย การเงิน การดูแลสุขภาพ โลจิสติกส์ และประสิทธิภาพการทำงานส่วนบุคคล ความต้องการหน่วยความจำอาจไม่เติบโตเป็นเส้นตรง แต่อาจเติบโตแบบไม่ต่อเนื่อง
ในโลกนั้น คำถามสำคัญไม่ใช่แค่: "จะสร้าง GPU กี่ตัว?"
คำถามที่ดีกว่าคือ:
โลกจะรัน AI workers แบบถาวรกี่ตัว - และแต่ละตัวต้องการหน่วยความจำเท่าไหร่เพื่อคิด จดจำ ให้เหตุผล และลงมือทำ?
Edge AI และหุ่นยนต์: หน่วยความจำออกจากศูนย์ข้อมูล
ขั้นต่อไปของ AI ไม่ใช่แค่โมเดลที่ใหญ่ขึ้นในศูนย์ข้อมูลที่ใหญ่ขึ้น AI กำลังเคลื่อนเข้าสู่โลกกายภาพ: โทรศัพท์ แล็ปท็อป รถยนต์ หุ่นยนต์ โดรน อุปกรณ์การแพทย์ เครื่องจักรอุตสาหกรรม กล้องรักษาความปลอดภัย แว่นตาอัจฉริยะ และอุปกรณ์ภายในบ้าน
ระบบทั้งหมดนี้ต้องการหน่วยความจำ แต่ต้องการความสมดุลของหน่วยความจำที่แตกต่างกัน ศูนย์ข้อมูลสามารถใช้ไฟฟ้าจำนวนมากและระบบระบายความร้อนขั้นสูง หุ่นยนต์ทำไม่ได้ โทรศัพท์ทำไม่ได้ โดรนทำไม่ได้แน่นอน
Edge AI ต้องการหน่วยความจำที่เร็ว ประหยัดพลังงาน กะทัดรัด เชื่อถือได้ และราคาไม่แพง ลองพิจารณาหุ่นยนต์ฮิวแมนนอยด์ที่ทำงานในโรงงาน มันมีกล้อง เซ็นเซอร์ มอเตอร์ ระบบการทรงตัว อินเทอร์เฟซภาษา และซอฟต์แวร์วางแผนงาน มันต้องเข้าใจสภาพแวดล้อม จำสิ่งที่กำลังทำ ตอบสนองต่อมนุษย์ หลีกเลี่ยงสิ่งกีดขวาง และควบคุมร่างกายแบบเรียลไทม์
นั่นต้องการหน่วยความจำ ไม่ใช่แค่ที่จัดเก็บ ไม่ใช่แค่ฐานข้อมูล แต่เป็นหน่วยความจำทำงานจริง
หรือพิจารณายานยนต์อัตโนมัติ มันอาจมีกล้องแปดตัว เรดาร์ เซ็นเซอร์อัลตราโซนิก แผนที่ ซอฟต์แวร์วางแผน และโครงข่ายประสาทเทียมที่ทำงานตลอดเวลา ต้องประมวลผลโลกแบบเรียลไทม์ ไม่สามารถพูดว่า "เดี๋ยวก่อน บัสหน่วยความจำติด"
Physical AI ทำให้หน่วยความจำเป็นประเด็นด้านความปลอดภัย เมื่อ AI ย้ายจากแชทบอทไปสู่รถยนต์และหุ่นยนต์ เวลาแฝงมีความสำคัญ พลังงานมีความสำคัญ ความร้อนมีความสำคัญ ความน่าเชื่อถือมีความสำคัญ หน่วยความจำท้องถิ่นมีความสำคัญ
นี่คือสาเหตุที่หน่วยความจำเป็นศูนย์กลางของ Tesla วิทยาการหุ่นยนต์ การขับเคลื่อนอัตโนมัติ สมาร์ทโฟน แล็ปท็อป อุปกรณ์การแพทย์ และระบบอัตโนมัติทางอุตสาหกรรม ความฉลาดของหุ่นยนต์จะมีประโยชน์ก็ต่อเมื่อสามารถเข้าถึงข้อมูลที่ถูกต้องในเวลาที่เหมาะสม
หน่วยความจำในอนาคต: เทคโนโลยีใหม่ที่มีแนวโน้ม
มีเทคโนโลยีหน่วยความจำในอนาคตหลายอย่างที่อาจมีความสำคัญ MRAM จัดเก็บข้อมูลโดยใช้สถานะแม่เหล็ก ไม่ลบเลือน ทนทาน และอาจมีประโยชน์ในระบบฝังตัว ชิปยานยนต์ อุปกรณ์อุตสาหกรรม และ edge AI ReRAM จัดเก็บข้อมูลโดยใช้การเปลี่ยนแปลงความต้านทานไฟฟ้า อาจมีประโยชน์สำหรับอุปกรณ์พลังงานต่ำและระบบคำนวณในหน่วยความจำ
Phase-change memory จัดเก็บข้อมูลโดยการเปลี่ยนวัสดุระหว่างสถานะทางกายภาพที่แตกต่างกัน ถูกสำรวจเป็นสะพานระหว่าง DRAM และที่จัดเก็บ Ferroelectric memory ใช้วัสดุที่คงสภาพโพลาไรซ์ไฟฟ้า อาจสำคัญในระบบฝังตัวพลังงานต่ำในอนาคต Optical memory น่าสนใจเพราะแสงสามารถเคลื่อนย้ายข้อมูลได้เร็วและมีประสิทธิภาพในบางบริบท แต่ยังยากที่จะนำไปใช้ในเชิงพาณิชย์อย่างกว้างขวาง
3D DRAM อาจช่วยขยายความหนาแน่นของหน่วยความจำโดยสร้างแนวตั้ง เช่นเดียวกับ NAND flash ที่ย้ายไปสู่โครงสร้าง 3D เมื่อหลายปีก่อน Processing-in-memory และ compute-in-memory น่าสนใจเป็นพิเศษเพราะโจมตีปัญหาหลักโดยตรง แทนที่จะเคลื่อนย้ายข้อมูลไปมาระหว่างหน่วยความจำและหน่วยคำนวณ พวกเขาพยายามดำเนินการบางอย่างใกล้กับที่ข้อมูลอยู่แล้ว
ฟังดูชัดเจน ทำไมต้องขนของชำทั้งหมดข้ามเมือง ถ้าคุณสามารถทำอาหารเย็นที่ของชำอยู่แล้ว?
แต่การนำไปปฏิบัติยาก การผลิตหน่วยความจำและการผลิตลอจิกต่างกัน
แม้เทคโนโลยีหน่วยความจำอนาคตจะมีแนวโน้มดี ปัญหาหน่วยความจำ AI อาจถูกแก้ไขผ่านการปรับปรุงหลายอย่างทั่วทั้งสแต็ก ไม่ใช่เทคโนโลยีมหัศจรรย์หนึ่งเดียว
AI ในอวกาศ: พรมแดนหน่วยความจำถัดไป
AI บนอวกาศฟังดูเป็นนิยายวิทยาศาสตร์ แต่ตรรกะตรงไปตรงมา AI ต้องการพลังงาน คอมพิวต์ การระบายความร้อน การสื่อสาร และหน่วยความจำ อวกาศอาจมีข้อได้เปรียบในหลายด้านเหล่านั้น พลังงานแสงอาทิตย์มีมากมายและไม่หยุดชะงักในวงโคจร ความร้อนสามารถแผ่สู่อวกาศ ดาวเทียมสามารถเชื่อมต่อกับเครือข่ายการสื่อสารทั่วโลก และ SpaceX กำลังลดต้นทุนการส่งดาวเทียมขึ้นสู่วงโคจรอย่างรวดเร็ว
หน่วยความจำอาจสำคัญยิ่งขึ้น ระบบ AI บนอวกาศจะไม่ใช่แค่ดาวเทียม dumb ที่ถ่ายทอดสัญญาณ แต่สามารถประมวลผลข้อมูลในพื้นที่ รันการอนุมาน ประสานงานการสื่อสาร วิเคราะห์ข้อมูลสังเกตการณ์โลก รองรับหุ่นยนต์อัตโนมัติ จัดการจราจรในวงโคจร และทำหน้าที่เป็นส่วนหนึ่งของชั้นคอมพิวต์ AI ทั่วโลก นั่นต้องการหน่วยความจำประสิทธิภาพสูงใกล้กับโปรเซสเซอร์
สำหรับบริษัทหน่วยความจำ สิ่งนี้อาจสร้างชั้นความต้องการใหม่ ระบบ AI ในวงโคจรจะต้องใช้หน่วยความจำที่ทนต่อรังสี หน่วยความจำที่ใช้พลังงานต่ำ หน่วยความจำแบบแบนด์วิดท์สูง หน่วยความจำแบบไม่ลบเลือน และอาจรวมถึงสถาปัตยกรรมหน่วยความจำเฉพาะที่ออกแบบมาสำหรับสภาพแวดล้อมที่รุนแรง ข้อจำกัดนั้นแตกต่างจากศูนย์ข้อมูลบนโลก น้ำหนัก พลังงาน การออกแบบระบบระบายความร้อน ความน่าเชื่อถือ และความทนทานต่อรังสี ล้วนมีความสำคัญ
ข้อคิดสุดท้าย... TERAFAB
อีลอนบรรยายโครงการนี้ว่าเป็นการนำกระบวนการทางลอจิก หน่วยความจำ การบรรจุ การทดสอบ และกระบวนการเซมิคอนดักเตอร์อื่นๆ ที่เกี่ยวข้องมารวมไว้ภายใต้หลังคาเดียวกัน
Terafab อาจกลายเป็นภัยคุกคามทางการแข่งขันในระยะยาวต่อซัพพลายเออร์หน่วยความจำภายนอก หากอีลอนสามารถนำการผลิต HBM หรือหน่วยความจำขั้นสูงบางส่วนเข้ามาไว้ภายใน
อีลอนไม่ได้สร้าง Terafab เพราะหน่วยความจำไม่สำคัญ เขาสร้าง Terafab เพราะหน่วยความจำอาจเป็นหนึ่งในข้อจำกัดสำคัญของ AI หุ่นยนต์ ยานยนต์ไร้คนขับ และศูนย์ข้อมูลในอวกาศ
