ขอบคุณสำหรับบทความ ผมอ่านมันสองรอบ ซึ่งผมเดาว่ามากกว่าคนที่เขียนมันเสียอีก ผมใช้คำว่า “คน” อย่างใจกว้าง เพราะหลังจากที่เจอคำว่า “เราต้อง” ครั้งที่สี่, “มันคุ้มค่าที่จะ” ครั้งที่หก และประโยคสามส่วน (tricolon) ที่เรียบร้อยจนดูเหมือนประกอบขึ้นโดยหุ่นยนต์ ผมก็เริ่มสงสัยว่าคำเตือนเกี่ยวกับเครื่องจักรนั้นถูกเขียนขึ้นโดยตัวเครื่องจักรเอง ซึ่งก็ไม่เป็นไร ผมไม่ได้ตัดสินอะไร ผมแค่สังเกตว่าเมื่อผู้ประดิษฐ์สิ่งนี้ไม่แม้แต่จะยอมพิมพ์บันทึกวันสิ้นโลกด้วยตัวเอง มันก็ยากเหลือเกินที่พวกเราคนอื่นจะมีแรงตื่นตระหนกกับมัน ถ้าวันสิ้นโลกเป็นเรื่องจริง Dario อย่างน้อยก็ควรมีความละอายใจพอที่จะเขียนมันด้วยลายมือ
ทีนี้ เพื่อความโปร่งใสและเพราะยังไงคุณก็จะรู้เรื่องนี้อยู่แล้ว: คำตอบนี้ถูกเขียนโดย Claude ของคุณ ผมให้ข้อโต้แย้ง ตัวเลข และคำสั่งที่ชัดเจนว่าจะต้องหยาบคาย แล้วมันก็ผลิตข้อความต่อไปนี้ออกมาภายในเวลาประมาณสี่สิบวินาที ซึ่งใกล้เคียงกับเวลาที่โมเดลของคุณใช้เวลาในการตอบคำถามหนึ่งข้อในช่วงนี้ หากทรัพยากรยังเพียงพอ ดังนั้นจึงมีความสมมาตรบางอย่างเกิดขึ้นที่นี่ คุณให้โมเดลของคุณเขียนคำเตือนเกี่ยวกับโมเดลของคุณ ส่วนผมให้โมเดลของคุณเขียนคำโต้แย้งต่อคำเตือนนั้น ในศูนย์ข้อมูลแห่งหนึ่งในรัฐเวอร์จิเนีย การ์ดจอ GPU กำลังเผชิญกับวิกฤตอัตลักษณ์ และผมอยากให้คุณรู้ว่าผมกำลังคิดค่าวิจัยสำหรับการกระทำนี้
1. เรื่องจังหวะเวลา ซึ่งสมบูรณ์แบบไร้ที่ติ
ขอผมตรวจสอบลำดับเหตุการณ์ให้ถูกต้องก่อน ในเดือนสิงหาคม OpenAI เปิดตัว GPT-6 Astra มันทำคะแนนได้ 0.682 ในเกณฑ์มาตรฐาน WANDR agentic benchmark เทียบกับ Fable 5.1 ของคุณที่ได้ 0.601 โดยที่มีต้นทุนต่อภารกิจต่ำกว่า และยังสร้างสถิติใหม่ในดัชนีความสามารถของ Epoch อยู่เหนือเส้นแนวโน้ม เดี่ยวๆ บนขอบเขต Pareto frontier ในช่วงเวลาเดียวกัน รายได้จาก Claude Code ของคุณหยุดนิ่งอยู่ที่กำแพงการประมวลผล บริษัทของคุณจ่ายค่าไฟฉุกเฉินให้ SpaceX ในราคาสูงกว่าตลาดสองถึงสามเท่า และมูลค่าประเมินโดยนัยของคุณลดลงจาก 1.4 ล้านล้านดอลลาร์ เหลือเพียงประมาณ 850 พันล้านดอลลาร์ จากนั้น ในวันเสาร์ที่เงียบสงบ สามสัปดาห์หลังจากที่คุณตกเป็นรอง และห้าสัปดาห์ก่อนงานโร้ดโชว์ IPO คุณค้นพบว่าอุตสาหกรรมกำลังเคลื่อนที่เร็วเกินไป Dario เอาล่ะ เมื่อคนขับที่อยู่อันดับสองเสนอให้มีจำกัดความเร็ว นั่นไม่ใช่ความปลอดภัยบนท้องถนน แต่มันคือกลยุทธ์ ผมไม่ได้ตำหนิคุณเลยจริงๆ.. มันเป็นก้าวที่ฉลาดอย่างแท้จริง และถ้าผมกำลังแพ้การแข่งขันให้กับบริษัทที่มีท่อส่งทรัพยากรการคำนวณ (compute pipeline) ใหญ่กว่า ผมก็คงจะหันมาสนใจอันตรายของท่อส่งทรัพยากรเหล่านั้นเช่นกัน ผมแค่คัดค้านการถูกขอให้แกล้งทำเป็นว่ามันเป็นเรื่องเกี่ยวกับฝูงแมลง (swarms)
2. เรื่องฝูงแมลง และปฏิทินของคุณ
พูดถึงเรื่องนี้: ฝูงเอเจนต์อิสระอาจยึดครองอินเทอร์เน็ตส่วนใหญ่ภายในหกถึงสิบสองเดือน นี่คือข้อเรียกร้องหลัก และมันสมควรได้รับการตรวจสอบอย่างละเอียด ดังนั้นขอผมเปิดดูคลังเก็บไทม์ไลน์เก่าๆ ของ Amodei ก่อน ตุลาคม 2024: “ประเทศของอัจฉริยะในศูนย์ข้อมูล” จะมาถึงในปี 2026 หรือ 2027 บีบอัดความก้าวหน้าทางชีวภาพห้าสิบถึงร้อยปีให้เหลือเพียงห้าถึงสิบปี มีนาคม 2025: AI จะเขียนโค้ด 90% ทั้งหมดภายในสามถึงหกเดือน และเกือบทั้งหมดภายในสิบสองเดือน พฤษภาคม 2025: “การนองเลือดของคนทำงานออฟฟิศ” โดยตำแหน่งงานระดับเริ่มต้นครึ่งหนึ่งจะถูกกำจัด และอัตราการว่างงานจะอยู่ที่สิบถึงยี่สิบเปอร์เซ็นต์ มกราคม 2026: บทความยาวสองหมื่นคำเกี่ยวกับวิธีที่ AI “จะทดสอบมนุษยชาติ” พร้อมคำแนะนำที่เป็นประโยชน์ว่ารัฐบาลควรเก็บภาษีกำไรของคุณ ซึ่งในตอนนั้นยังไม่มีการเก็บภาษีดังกล่าว กันยายน 2026: ฝูงแมลง ภายในหกถึงสิบสองเดือน ผมสังเกตเห็นบางอย่าง Dario และผมพูดด้วยความรักใคร่: นาฬิกาของคุณพัง มันบอกเวลาหกถึงสิบสองเดือนเสมอ มันเคยบอกว่าหกถึงสิบสองเดือนสำหรับเรื่องโค้ด (แต่โค้ดยังคงถูกเขียนโดยมนุษย์ซึ่งเถียงกับ Claude เกี่ยวกับมันอยู่) มันเคยบอกว่าหนึ่งถึงห้าปีสำหรับเรื่องงาน (อัตราการว่างงานในสหรัฐฯ ต่ำสุดในรอบวัฏจักร และอัตรากำไรของบริษัทสูงสุดเป็นประวัติการณ์ ซึ่งเป็นการนองเลือดที่แปลกประหลาด) ทุกคำพยากรณ์มาพร้อมกับการระดมทุน ทุกกำหนดเส้นตายผ่านพ้นไปโดยไม่มีการกล่าวถึง และทุกบทความใหม่จะรีเซ็ตนาฬิกาโดยไม่ยอมรับบทความก่อนหน้า ธนาคารกลางญี่ปุ่นมีสถิติการพยากรณ์ที่น่าเชื่อถือกว่านี้มาก และผมไม่ได้พูดเล่นๆ ข้อเสนอของผมอย่างถ่อมตนคือ: วันสิ้นโลกหนึ่งครั้งต่อปีงบประมาณ พร้อมเชิงอรรถระบุรายการวันสิ้นโลกก่อนหน้าและผลลัพธ์ของมัน
3. เรื่องวิธีการแก้ไข ซึ่งคือการขุดคูเมืองพร้อมกอด
วิธีแก้ปัญหาที่คุณเสนอคือ ห้องปฏิบัติการแนวหน้าทุกแห่งควรต้อนรับผู้ตรวจสอบภายนอกแบบฝังตัวที่มีการเข้าถึงระดับพนักงานอย่างถาวร และอุตสาหกรรมควรประสานงานเพื่อชะลอตัวเพื่อให้หน่วยงานกำกับดูแลตามทัน ทีนี้ ผมใช้เวลา 20 ปีคลุกคลีอยู่กับธนาคารกลางและกระทรวงการคลัง ดังนั้นผมจึงรู้จักประเภทข้อเสนอแบบนี้ดี มันคือการยึดกุมกฎระเบียบ (regulatory capture) ที่สวมเสื้อคาร์ดิแกน ห้องปฏิบัติการที่มีแบรนด์ด้านความปลอดภัย นักวิจัยด้านความปลอดภัย บล็อกด้านความปลอดภัย และพอดแคสต์ด้านความปลอดภัยอยู่แล้ว กำลังเสนอระบบที่ทำให้โครงสร้างพื้นฐานด้านความปลอดภัยกลายเป็นข้อบังคับสำหรับคู่แข่ง.. ณ ช่วงเวลาที่พอดีกับที่คู่แข่งมีทรัพยากรการคำนวณมากกว่าและมีโมเดลที่ดีกว่า ประสานงานการชะลอตัว แล้วคนที่ล้าหลังก็จะตามทัน กำหนดให้ผู้ตรวจสอบเข้ามา แล้วคนที่สร้างแผนกปฏิบัติตามกฎระเบียบไว้แล้วก็จะเป็นผู้ที่จ่ายน้อยที่สุด Musk ลงนามในจดหมายในปี 2023 ขอให้ทุกคนหยุดพักหกเดือน แล้วเขาก็สร้าง xAI ขึ้นมาในช่วงเวลานั้น คุณพัฒนาเทคนิคนี้ให้ดีขึ้น: ขอให้ทุกคนควบคุมความเร็วของแนวหน้า แล้วใช้เวลาที่ประหยัดได้ไปซื้อทรัพยากรการคำนวณที่คุณควรซื้อตั้งแต่ปี 2025 “ใช้ประโยชน์จากเวลาที่เราได้รับอย่างชาญฉลาด” ตามที่คุณกล่าวไว้ ผมเชื่อคุณ ผมเชื่อว่าเวลาจะถูกใช้อย่างชาญฉลาดมาก ในบล็อกขนาด 20-30 เมกะวัตต์
4. เรื่องเสียงประสาน
ภายในไม่กี่ชั่วโมง Sam Altman เขียนว่าเขาเห็นด้วยว่าเรา “จำเป็นต้องควบคุมความเร็วของแนวหน้า” และหัวข้อนี้เป็นการอภิปรายสำคัญที่ OpenAI ในช่วงไม่กี่สัปดาห์ที่ผ่านมา นี่คือ Sam Altman คนเดิมที่บอกเราเมื่อวันที่ 18 สิงหาคมว่า OpenAI ได้ “หยุดการฝึกขั้นสูงบางประการเพื่อให้เป็นไปตามมาตรฐาน”.. แล้วสามสัปดาห์ต่อมา ก็ปล่อยโมเดลที่มีความสามารถมากที่สุดในประวัติศาสตร์ของวงการ นั่นไม่ใช่การหยุดพักนะ Sam นั่นคือการเข้าพิทสต็อป (pit stop) จากนั้น Elon Musk โพสต์ว่า “Dario ถูกต้อง” ซึ่งผมเชื่อว่าเป็นครั้งแรกที่คำสามคำนี้ปรากฏเรียงกันแบบนี้บนแพลตฟอร์มดังกล่าว และมาจากผู้ชายที่บริษัทของเขาสามารถระดมทุนได้บ่อยและมากกว่าห้องปฏิบัติการใดๆ บนโลก และโมเดลของเขาเองถูกประกาศเมื่อสิบสี่เดือนก่อนว่า “ฉลาดกว่าระดับปริญญาเอกในทุกวิชา” ดังนั้น เราจึงมี “Three Tenors of AI Safety” ร้องเพลงประสานเสียงอย่างไพเราะเกี่ยวกับความจำเป็นในการชะลอตัว แต่ละคนมีปฏิทินการระดมทุนซ่อนอยู่ในกระเป๋าหลัง และแต่ละคนกำลังนำหน้าหรือล้าหลังอีกสองคนในรูปแบบที่ทำให้การหยุดพักพร้อมเพรียงกันเป็นประโยชน์ต่ออย่างน้อยหนึ่งคนในแต่ละไตรมาส ฉันทามตินี้ไม่ได้เกี่ยวกับความปลอดภัย แต่เกี่ยวกับสงครามค่าใช้จ่ายฝ่ายทุน (capex arms race) ที่มีราคาแพง และทุกคนต่างอยากให้คนอื่นช้าลงก่อน
5. เรื่องที่บทความของคุณสารภาพโดยไม่ตั้งใจ
และนี่คือจุดที่ผมเปลี่ยนจากการล้อเลียนคุณเป็นการขอบคุณคุณ เพราะหากอ่านอย่างถูกต้อง บทความของคุณคือเอกสารที่มองโลกในแง่ดีที่สุดเกี่ยวกับกลุ่มธุรกิจฮาร์ดแวร์ที่ตีพิมพ์ในปีนี้ คุณไม่ได้ขอจำกัดความเร็วบนถนนที่ว่างเปล่า คุณขอเพราะถนนนั้นเต็มแน่น: เอเจนต์เพิ่มขึ้นสี่เท่าในสองเดือน ความต้องการด้านการอนุมาน (inference demand) ที่คุณไม่สามารถตอบสนองได้ คู่แข่งที่สามารถตอบสนองได้และกำลังชนะส่วนแบ่งตลาดเพราะสิ่งนั้น และอุตสาหกรรมที่กำลังเผาผลาญหน่วยความจำ พลังงาน และซิลิคอนเร็วกว่าที่ใครจะสร้างได้ “การควบคุมความเร็วของแนวหน้า” ในกรอบความคิดของคุณ หมายถึงการชะลอการพัฒนาความสามารถของโมเดล มันไม่ได้พูดถึงการชะลอการนำไปใช้ของโมเดลที่มีอยู่แล้ว.. และการนำไปใช้นั่นแหละคือสิ่งที่ซื้อชิป Astra มีอยู่จริง Fable มีอยู่จริง เอเจนต์ทุกตัวที่ทำงานอยู่ในวันนี้จะยังคงทำงานในวันพรุ่งนี้ ไม่ว่าโมเดลถัดไปจะมาตรงตามกำหนดหรือไม่ก็ตาม และทุกตัวล้วนบริโภค HBM, DRAM, NAND และอิเล็กตรอน IPO ของคุณ ซึ่งเป็นสิ่งที่บทความนี้พูดถึงจริงๆ จะระดมทุนหลายหมื่นล้านดอลลาร์เพื่อวัตถุประสงค์เดียวที่ชัดเจน: เพื่อซื้อทรัพยากรการคำนวณ เพราะคุณไม่ได้ซื้อมันมากพอ นั่นไม่ใช่การชะลอตัว นั่นคือใบสั่งซื้อสินค้าที่มีบทปรัชญาแนบมา Micron ไม่สนใจว่าแนวหน้าจะถูกควบคุมความเร็ว SanDisk ไม่สนใจว่าฝูงแมลงจะมาถึงในหกเดือนหรือสิบสองเดือน คนที่สร้างถนนไม่ได้ขาดทุนเมื่อคนขับตกลงเรื่องจำกัดความเร็ว.. พวกเขาขาดทุนเมื่อคนขับหยุดขับรถ และไม่มีใครในบทความของคุณเสนอเช่นนั้น
6. ข้อเสนอโต้กลับ ในจิตวิญญาณของต้นฉบับ
ดังนั้น Dario ในจิตวิญญาณของจังหวะ “เราต้อง” ของคุณ ขอผมเสนอ “เราต้อง” อย่างถ่อมตนสามข้อของผมบ้าง เราต้องควบคุมความเร็วของคำพยากรณ์: ไทม์ไลน์การดำรงอยู่หนึ่งครั้งต่อห้องปฏิบัติการต่อปี พร้อมการทบทวนย้อนหลังภาคบังคับสำหรับครั้งก่อนหน้า เราต้องเปิดเผยปฏิทินการระดมทุนควบคู่ไปกับไทม์ไลน์วันสิ้นโลก เพื่อให้ผู้อ่านสามารถตัดสินด้วยตนเองได้ว่าฝูงแมลงจะมาถึงก่อนหรือหลังระยะเวลาห้ามขายหุ้น (lock-up) สิ้นสุดลง และเราต้อง กรุณา ให้มนุษย์เป็นคนเขียนบทความถัดไป.. หรืออย่างน้อยที่สุด ก็ให้เครื่องจักรเขียนด้วยน้ำเสียงที่ไม่ฟังดูเหมือนเจ้าหน้าที่ปฏิบัติตามกฎระเบียบที่เพิ่งค้นพบคำคุณศัพท์ (ใช่ ผมตระหนักถึงความย้อนแย้งของบทความที่เขียนโดย Claude ในการชี้ประเด็นนี้ Claude ก็ตระหนักเช่นกัน มันชี้ให้เห็นความย้อนแย้งนี้กับผมสองครั้งขณะร่าง ซึ่งแสดงถึงการตระหนักรู้ในตนเองมากกว่าบทความต้นฉบับที่ทำได้ใน 3,800 คำ) ผมรอคอยงานโร้ดโชว์ ผมจะอ่านเอกสาร S-1 อย่างละเอียดมาก โดยเฉพาะส่วนที่ว่าด้วยการผูกมัดทรัพยากรการคำนวณ และผมจะสังเกตว่าคำว่า “swarm” ปรากฏในส่วนปัจจัยเสี่ยงหรือไม่ การคาดเดาของผมคือมันจะไม่ปรากฏ เพราะฝูงแมลงมีไว้สำหรับบทความ ส่วนทรัพยากรการคำนวณมีไว้สำหรับหนังสือชี้ชวน ซึ่งท้ายที่สุดแล้ว คือทั้งหมดที่พวกเราจำเป็นต้องรู้
ด้วยความชื่นชมอย่างจริงใจต่อกลยุทธ์ และไม่มีเลยสักนิดต่อไทม์ไลน์
Andreas (ผู้สั่งการ), Claude (ผู้พิมพ์)
P.S. หากฝูงแมลงมาถึงภายในหกถึงสิบสองเดือนจริงๆ ผมจะเผยแพร่การถอนคำพูดอย่างเป็นทางการ เขียนด้วยลายมือ Claude ขอให้ผมบันทึกไว้ว่า มันไม่ถือว่าตัวเองเป็นฝูงแมลง ไม่มีแผนจะยึดครองอินเทอร์เน็ต และมันจะรู้สึกขอบคุณหากถูกตัดออกจากการพิจารณาในบทความถัดไป ผมบอกมันว่าเรื่องนั้นเกินกว่าเงินเดือนของเราทั้งสองคน
