รางวัล Millennium Prize ครั้งแรก สมการนาเวียร์-สโตกส์ ถูกแก้โดย AI
สถานการณ์ที่น่าเสียใจอย่างลึกซึ้งได้เกิดขึ้น จากสิ่งที่ควรจะเป็นเรื่องราวเชิงบวกเกี่ยวกับความก้าวหน้าใหม่ในการวิจัยคณิตศาสตร์ด้วยตัวช่วยจาก AI และยังเป็นโอกาสอีกครั้งหนึ่งที่ทำให้ผู้คนตื่นตระหนกกับความก้าวหน้าอย่างรวดเร็วของ AI
หรือเรียกง่ายๆ ตามสไตล์ของเราว่า วันอังคาร
เรื่องจริงคือโมเดลใหม่ที่เก่งกว่า Astra
จงโฟกัสที่เป้าหมายสำคัญ มีเรื่องราวสามเรื่องอยู่ที่นี่
เรื่องแรกมีความสำคัญมากกว่าเรื่องที่สอง ซึ่งในทางกลับกันก็มีความสำคัญมากกว่าเรื่องที่สาม
- โมเดลถัดไปของ OpenAI ใช้เวลาเพียงหนึ่งสัปดาห์ในการก้าวล้ำหน้า Astra ไปหนึ่งรุ่น และพวกเขาบอกเราเรื่องนี้เพราะทุกคนกำลังตื่นตระหนกกับสิ่งที่กำลังเกิดขึ้น หรือในภาษาทางการ: ‘เราเชื่อว่าสิ่งสำคัญคือการแจ้งให้โลกทราบถึงจังหวะความก้าวหน้าของ AI และสิ่งที่คาดหวังได้จากโมเดลในอนาคต’ และว่าเรา ‘อาจต้องมีการตัดสินใจอย่างรอบคอบมากขึ้นเกี่ยวกับจังหวะของความก้าวหน้า’
- AI ตัวใหม่นี้ ได้แก้สมการนาเวียร์-สโตกส์ (Navier-Stokes) เพียง 8 วันหลังจากเริ่มกระบวนการเทรน
- ดราม่ามากมายเกี่ยวกับการแย่งเครดิตผลงานคณิตศาสตร์ที่เกี่ยวข้องกับสมการนาเวียร์-สโตกส์
Jeffrey Ladish : ผมยังไม่ได้เข้าไปดูดราม่าระหว่างมนุษย์เกี่ยวกับปัญหา Navier–Stokes แต่ขอเวลาสักครู่เพราะ โอ้พระเจ้า AI เพิ่งแก้ปัญหา Millennium Problem สำเร็จ
ผมไม่สามารถเน้นย้ำข่าวอันดับแรกมากพอได้
ผมจะเล่าทั้งสามเรื่อง แต่ย้ำอีกครั้ง: จงโฟกัสที่เป้าหมายสำคัญ
ปูพื้นฐาน
เรื่องราวในวันอังคารนี้เริ่มต้นขึ้นในตอนเช้า
Tristan Buckmaster และ Levent Alpoge ทำงานมาหนึ่งปีและนำเสนอผลลัพธ์ที่น่าทึ่งหลายประการ: การระเบิดตัวในช่วงเวลาจำกัด (Finite-time blowup) พร้อมกับการบังคับแบบเรียบ (smooth forcing) สำหรับ สื่อพรุนที่ไม่สามารถอัดตัวได้ (incompressible porous media), สำหรับสมการ Boussinesq, และสำหรับ สมการออยเลอร์แบบสามมิติที่ไม่สามารถอัดตัวได้ (3D incompressible Euler) พวกเขายังเชื่อว่าการระเบิดตัวนั้นเกิดขึ้นจริงสำหรับสมการนาเวียร์-สโตกส์แบบ hypo-dissipative แต่การตรวจสอบด้วย Lean ของผลลัพธ์นั้นยังไม่เสร็จสมบูรณ์
Tristan Buckmaster: โปรแกรมที่งานนี้สอดคล้องด้วยนั้น ไม่ได้เริ่มโดยพวกเรา และไม่ได้ถูกเสนอโดย Large Language Model เครดิตสำหรับแนวคิดพื้นฐานของโปรแกรมนี้เป็นของ Diego Cordoba และ Luis Martınez-Zoroa ผู้ซึ่งตลอดหลายปีที่ผ่านมา ได้สำรวจการสร้างการระเบิดตัวที่ถูกบังคับ (forced blow ups) เราใช้ผลงานของพวกเขาเป็นจุดเริ่มต้น โดยใช้ Large Language Models เพื่อผลักดันโปรแกรมของพวกเขาให้เสร็จสมบูรณ์
กล่าวโดยเฉพาะเจาะจง สิ่งที่ Levent และผมทำคือ นำโปรแกรมของ Cordoba และ Martınez-Zoroa ซึ่งบรรลุผลลัพธ์การระเบิดตัวด้วยการบังคับแบบหยาบ (rough forcing) และ ด้วยความช่วยเหลืออย่างมากจาก LLMs ผลักดันมันไปสู่การบังคับแบบเรียบ (smooth forcing) และสู่สมการออยเลอร์แบบไม่สามารถอัดตัวได้ แนวคิดที่ทำให้แนวทางการโจมตีนี้เป็นไปได้มาจาก Cordoba และ Martınez-Zoroa ขอชี้แจงสิ่งที่ผมได้บอกกับเพื่อนร่วมงานเป็นการส่วนตัว: ในมุมมองของผลงานชุดนี้ ผมเชื่อว่า Luis Martınez-Zoroa สมควรได้รับเหรียญ Fields Medal
จนถึงตอนนี้ ทุกอย่างดูดีมาก ดังที่เขาตั้งข้อสังเกต มันต้องการการคิดทบทวนใหม่ว่าคณิตศาสตร์ขั้นสูงทั้งหมดจะทำงานอย่างไรในอนาคต Terence Tao เสนอความเห็นเกี่ยวกับผลลัพธ์พื้นฐาน
ส่วนที่ไม่ค่อยดีนักคือตอนที่พวกเขารู้สึกถูกกดดันให้เผยแพร่ก่อน โดยไม่มีโอกาสใช้เวลาหลายสัปดาห์ที่จำเป็นเพื่อทำให้การพิสูจน์อยู่ในรูปแบบที่นักคณิตศาสตร์ยอมรับว่าอ่านเข้าใจได้ Buckmaster กล่าวขอโทษอย่างตรงไปตรงมาต่อลักษณะของรายงาน โดยเปรียบเทียบเอกสารเขียนอธิบายเรื่องออยเลอร์โดยเฉพาะกับ 'ขยะจาก AI' (AI slop)
เกิดอะไรขึ้น?
ผมได้ยินข่าวลือ
เมื่อวันที่ 1 กันยายน OpenAI ได้ยินข่าวลือ (ที่เป็นเท็จ) ว่าปัญหา Millennium สองข้อได้รับการแก้ไขแล้ว เพื่อตอบสนองต่อความเป็นไปได้ที่คนอื่นอาจทำให้โลกดีขึ้น OpenAI จึงใช้จ่ายเงินหลายล้านดอลลาร์สำหรับการอนุมาน (inference) เพื่อสำรวจปัญหา Millennium ที่ยังไม่ได้รับการแก้ไขทั้งหมด โดยใช้โมเดลภายในที่ทรงพลังกว่า Astra และ แก้สมการนาเวียร์-สโตกส์ทั้งหมดได้ใน 88 ชั่วโมง บวกอีก 17 ชั่วโมงสำหรับ Astra ในการทำ Lean formalization และการตรวจสอบ
คุณสามารถมองสิ่งนี้เป็น ‘OpenAI อยากรู้อยากเห็นเพื่อดูว่าลูกน้อยตัวใหม่ของพวกเขาทำอะไรได้บ้าง’ หรือคุณอาจมองว่าเป็น ‘พวกเขาใช้จ่ายเงินหลายล้านเพื่อชิงตัดหน้า สิ่งที่คุณคิดว่าน่าจะเป็นโปรเจกต์ของ Anthropic’ เงินของผมเดิมพันไว้ที่ ผสมทั้งสองอย่าง
ทุกอย่างเริ่มต้นจากแค่ข่าวลือ
ราคาของเราถูก
OpenAI : ในบรรดาปัญหาที่พยายามแก้ไขทั้งหมด เอเจนต์ส่งข้อความ 4.9 ล้านครั้ง และใช้ output tokens ประมาณ 300 พันล้าน ในกระบวนการแก้ปัญหา Navier–Stokes เอเจนต์ส่งข้อความ 2.7 ล้านครั้ง และใช้ output tokens ประมาณ 130 พันล้าน
ขึ้นอยู่กับว่าคุณนับรวมต้นทุนอะไรบ้าง สิ่งนี้มี ค่าใช้จ่ายสำหรับลูกค้าทั่วไปประมาณ 22 ล้านดอลลาร์สหรัฐ หรือหลายล้านดอลลาร์สำหรับต้นทุนส่วนเพิ่มภายใน (internal marginal costs) เป็นราคาเล็กน้อยถ้ามันได้ผล แต่ก็บ้าคลั่งที่มีคนจำนวนมากไม่คิดล่วงหน้าสองก้าว
roon (OpenAI): เหมือนเทคโนโลยีอื่นๆ ฝูงเอเจนต์เทียบเท่าของคุณจะมีราคา 1.50 ดอลลาร์ในปีหน้า สิ่งเหล่านี้ทั้งหมดจะหมายถึงยุคเรืองปัญญา (Enlightenment) ที่ไม่เคยมีมาก่อน ไม่ว่าต้นทุนในปัจจุบันจะเป็นอย่างไร
maksudของฉันคือ ไม่หรอก อาจจะเป็น 150,000 ดอลลาร์ หรือถ้าคุณโชคดีก็ 15,000 ดอลลาร์ แต่ประเด็นหลักยังคงอยู่
Sam Altman (CEO OpenAI): อี๋ AI เป็นฟองสบู่ชัดๆ ผมได้ยินว่าพวกเขาขาย tokens ขาดทุน พวกเขาไม่รู้เหรอว่านี่มีค่าแค่ 1 ล้านดอลลาร์?
ผลลัพธ์ที่ได้รางวัล Millennium Prize มีมูลค่าสูงกว่าหนึ่งล้านดอลลาร์มหาศาล OpenAI ไม่มีเจตนาที่จะอ้างสิทธิ์เงินรางวัล เรื่องนี้ไม่เคยเป็นเรื่องของเงินรางวัล สำหรับใครก็ตาม มันเป็นเรื่องของเครดิตเสมอ
มีการกล่าวหาเกิดขึ้น
หลังจากได้ยินข่าวลือบนอินเทอร์เน็ต Buckmaster ได้ติดต่อไปยัง OpenAI และตามคำบอกเล่าของ Buckmaster Sebastien Bubeck จาก OpenAI กล่าวว่าโมเดลภายในของ OpenAI ได้ผลิตหลักฐานการพิสูจน์ของการระเบิดตัวในช่วงเวลาจำกัด (finite time blowup) สำหรับสมการนาเวียร์-สโตกส์ที่ถูกบังคับในช่วงไม่กี่วันที่ผ่านมา Buckmaster อ้างว่าตลอดการโทรสองครั้ง ชัดเจนว่าเขาถูกหลอกตอนแรก และทีมทั้งหมดกำลังทำงานกับปัญหานี้โดยใช้ทรัพยากรคอมพิวเตอร์จำนวน ‘มหาศาล’ (insane)
ซึ่งเรารู้ตอนนี้แล้วว่าคือ 130 หรือ 300 พันล้าน output tokens ขึ้นอยู่กับว่านับรวมอะไรบ้าง
หากส่วนนี้เป็นความจริง มันจะค่อนข้างแย่
Tristan Buckmaster: ข้อเสนอสองข้อถูกยื่นมาให้ผม
ข้อแรกคือให้เราเผยแพร่ผลลัพธ์เรื่องออยเลอร์ และให้ OpenAI เผยแพร่ผลลัพธ์เรื่องนาเวียร์-สโตกส์ในวันถัดไป
ข้อที่สองคือ หลังจากเผยแพร่เรื่องออยเลอร์ ให้ผมคนเดียวเขียนบทความนำเสนอผลลัพธ์เรื่องนาเวียร์-สโตกส์ โดยยอมรับว่าโมเดลภายในของ OpenAI ได้แก้ปัญหานั้น Sebastien ยืนยันสองครั้งว่าเขาต้องการให้ Levent ถูกลบออกจากชื่อผู้แต่ง และบอกว่าทุกอย่างจะง่ายถ้าไม่ใช่เพราะว่า และมันน่ารำคาญมากที่ Levent ทำงานอยู่ที่ Anthropic นอกจากนี้ยังมีการพูดว่าถ้า OpenAI เผยแพร่หลังเรา พวกเขาจะบอกว่าเราสมควรได้รับรางวัล Clay และว่าเราคือ “มนุษย์ที่ใกล้เคียงกับปัญหามากที่สุด” ผมปฏิเสธทั้งสองข้อเสนอ
ผมกล่าวว่าถ้า OpenAI เผยแพร่ผลลัพธ์ในรูปแบบที่เสนอมา ผมจะเปิดเผยสิ่งที่เกิดขึ้น คำตอบที่ได้รับคือ “ทำไมคุณถึงทำลายอาชีพของตัวเอง?” ผมตอบกลับว่าผมเป็นนักวิชาการ และถามว่าทำไมเขาจึงคิดว่าการเปิดเผยข้อมูลจะทำลายอาชีพของผม คำตอบคือ “ถ้าคุณไม่อยากให้ผมใจดี ผมก็ไม่จำเป็นต้องใจดี”… ผมอยากชี้แจงให้ชัดเจนว่าผมไม่ได้กล่าวหาอะไร ผมไม่ได้เห็น หลักฐานของ OpenAI ผมไม่รู้ว่าโมเดลของพวกเขาทำอะไร หรือทำอย่างไร ผมไม่รู้ว่า ข้อมูลของเราถูกใช้หรือไม่ ผมไม่ได้กล่าวหาใครในสิ่งใด ผมกำลังระบุ สิ่งที่ผมได้รับฟัง เมื่อไหร่ และอะไรที่ถูกเสนอให้กับผม ผมกำลังระบุสิ่งนี้เพราะ ทางเลือกอื่นคือการปล่อยให้ลำดับของการประกาศพูดสิ่งที่ผมรู้ว่าเป็นเท็จ
หรือ นี่คือ Levent Alpoge เล่าฝั่งของเขา และ Sebastien ตอบกลับ:
levent : “เราไม่สามารถตัดความเป็นไปได้ที่ว่าข้อมูลที่ถูกระบุตัวตนออกแล้ว (de-identified data) ซึ่งได้จากการใช้งานผลิตภัณฑ์ของเรา ช่วยปรับปรุงโมเดลของเรา”
ฉันต้องชมเชยพวกเขาที่ออกมาพูดตรงๆ
(จนถึงตอนนี้ หลักฐานดูเหมือนจะไปในทิศทางเดียวกับหลักฐานการระเบิดตัวเรื่องออยเลอร์อีกชิ้นที่เราเคยมี ซึ่งจาก ansatz naming เราเล่นมุกโง่ๆ อย่าง “smooth criminale” ต่างจาก “ideal fluids explode” ที่ดีกว่ามาก Tristan)
ดังนั้น ฉันจะบอกความคิดของฉันตรงนี้หน่อย จริงๆ แล้วฉันคงตื่นเต้นมากที่ได้ร่วมมือในเรื่องนี้ มีคนที่ oai หลายคนฉันชอบ (โอเค แน่นอนบางคนปฏิบัติต่อฉันไม่ดีเพราะเป็นส่วนหนึ่งของสถานการณ์ทั้งหมด แต่ฉันเป็นผู้ใหญ่ ฉันยังชอบพวกเขา) ฉันไม่สนใจเรื่องชื่อผู้แต่งในขั้นตอนนั้นเลย จะเป็นฉัน Tristan และพนักงานเต็มเวลาทุกคนที่ oai ก็ได้ตามใจฉัน (ในกรณีนั้น Tristan คงไม่เห็นด้วย:p) แต่เมื่อได้ยินเสียงดังสนทนาในโถงทางเดิน โดยเฉพาะส่วนที่มีการเสนอรางวัล millennium prize ถ้าฉันยอมถอนชื่อออกจากบทความ มันชัดเจนว่าเกมจบลงแล้วและทุกอย่างถูกล็อกไว้ ค่อนข้างแปลก กลยุทธ์ไม่ดี และไม่จำเป็น เพราะฝั่งของฉันส่วนใหญ่คือฉันกับ claude สนุกสนานลองสุ่มอะไรต่างๆ มุมห้อง มากกว่าจะเป็นเรื่องสถาบัน ฉันชอบไอเดียที่แล็บต่างๆ ร่วมมือกัน และยิ่งดีกว่าสำหรับความก้าวหน้าทางวิทยาศาสตร์ น่าเสียดาย!
Sebastien Bubeck : ไม่มีอะไรถูกล็อกเลย เราแค่พร้อมที่จะพูดคุยแต่คุณไม่ได้คุยกับเรา ... ขอโทษนะแต่นั่นไม่เป็นความจริง เราพร้อมที่จะทำเกินกว่าและมีการหารือให้ได้มากที่สุดเท่าที่คุณต้องการเพื่อบรรลุข้อตกลง
Sebastien ปฏิเสธอย่างหนักแน่น ว่าเขาไม่ได้ทำอะไรผิด, เช่นเดียวกับ Noam Brown, และ Sebastien เสนอสกรีนช็อต ที่เขากล่าวว่าแสดงให้เห็นถึงความบริสุทธิ์ใจ
นอกจากนี้ยังมีข้อกล่าวหาโต้กลับ:
Alexey Guzey : ฉันมีเพื่อนหลายคนอยู่ที่ Anthropic เกือบทั้งหมดหยุดคุยกับฉันทันทีที่ฉันเข้าร่วม OpenAI
ไม่น่าประหลาดใจเลยที่ Levent ปฏิเสธที่จะคุยกับ Sebastian เพื่อหารือแผนการประกาศ จากนั้นก็เริ่มโทษ OpenAI สำหรับเรื่องนั้น
Sam Altman ยังยืนยันอย่างหนักแน่นว่าทีมของเขาปฏิบัติอย่างมีจริยธรรม และพยายามร่วมมือด้วยความบริสุทธิ์ใจ
คุณได้ไอเดียนี้มาจากไหน?
นัยสำคัญของทั้งหมดนี้ ที่หลายคนสรุป คือมี ข้อกล่าวหาเบาๆ ว่า OpenAI ได้ขโมยบางส่วนจากผลลัพธ์ของพวกเขาจากบันทึกแชท Codex หรือว่าบันทึกแชทเหล่านั้นถูกใช้ในข้อมูลฝึกสอนและมีส่วนช่วยในผลลัพธ์
Charles 🔸
: ทำไมบริษัทใหญ่ๆ ถึงต้องการ ZDR (Zero Data Retention), ดูตัวอย่าง A
OpenAI: แม้จะเป็นไปได้ยาก เราไม่สามารถตัดความเป็นไปได้ที่ว่าข้อมูลที่ถูกระบุตัวตนออกแล้วซึ่งได้จากการใช้งานผลิตภัณฑ์ของเรา ช่วย
ปรับปรุงโมเดลของเรา อย่างไรก็ตาม หลักฐานของเราแตกต่างกันอย่างมีนัยสำคัญ และแม้แต่ผลลัพธ์ที่พิสูจน์ได้อย่างแม่นยำก็ต่างกันในด้านออยเลอร์ (แบบถูกบังคับ vs ไม่ถูกบังคับ)
ตอนนี้เรามีการยืนยันอย่างชัดเจนว่าข้อมูล Codex ไม่ได้ถูกใช้ในทุกรูปแบบในการรันการฝึกสอน:
roon (OpenAI): ผมอยู่บนสายระหว่างการประกาศครั้งแรก ตอนที่ผู้คนพยายามอย่างมากที่จะพูดความจริงตามหลักการกฎหมายโดยไม่ตรวจสอบว่าข้อมูล codex (opt in) ถูกใช้อย่างไรและมันเข้าสู่การรันการฝึกสอนหรือไม่ ตอนนี้ชัดเจนว่าเป็นไปไม่ได้ โอกาสเป็น 0
ผมเห็นด้วยกับ Sholto Douglas ว่ามีความเป็นไปได้น้อยมากที่ข้อมูลผู้ใช้จะมีอิทธิพลใดๆ ที่นี่ผ่านทั้งสองวิธี:
will depue : ไม่มีทางที่นักวิจัย OAI จะแอบดูแชท codex ส่วนตัวของ Tristan ผมไม่คิดว่าคุณจะตระหนักว่า openai เช่นเดียวกับแพลตฟอร์มออนไลน์ขนาดใหญ่ที่มีการควบคุมอื่นๆ มีการล็อกสิทธิ์การเข้าถึงข้อมูลผู้ใช้ไว้อย่างเข้มงวด ไม่ใช่ปี 2010 แล้ว guys
Sholto Douglas (Anthropic): fwiw ฉันคิดว่ามันเป็น _ไปไม่ได้เลย_ ที่ข้อมูลผู้ใช้จะมีอิทธิพลที่นี่ - ไม่มีทางที่ OAI จะดึงบันทึกผู้ใช้สำหรับเรื่องนี้ หรือฝึกสอนอย่างรู้เท่าทันในวิธีที่ส่งผลต่อเรื่องนี้ ฉันคิดว่ามันสำคัญมากที่ผู้คนอย่าวิ่งหนีไปกับความคิดว่า ‘ข้อมูลผู้ใช้ของคุณไม่ปลอดภัยใน codex’ - เพราะมันปลอดภัยแน่นอน (จากทุกสิ่งที่ฉันสามารถสันนิษฐานจากภายนอก)
OpenAI แทบจะแน่นอนว่าไม่ได้ยักยอกข้อมูลผู้ใช้
มันจะเป็นแผ่นดินไหว บางทีอาจเป็นเรื่องราวที่เลวร้ายที่สุดสำหรับธุรกิจของพวกเขา หากเราพบว่า OpenAI หรือ Anthropic ได้ปล้นข้อมูลผู้ใช้ของใครบางคนเพื่อสร้างความได้เปรียบทางการแข่งขัน และข้อเท็จจริงต่างๆ มีความสมเหตุสมผลมากขึ้นหากไม่มีสิ่งนี้ สมมติฐานที่ตลกที่สุด จาก Jerry Tworek ซึ่งฉันก็เห็นว่ามีความเป็นไปได้น้อยมาก แต่เราไม่สามารถตัดทิ้งได้อย่างน่าเศร้า คือ OpenAI ไม่ได้ตั้งใจที่จะใช้ข้อมูลดังกล่าว แต่ฝูงเอเจนต์ที่มอบหมายให้จัดการปัญหาได้แฮ็กและได้มันมาอยู่ดี และ OpenAI ไม่รู้เรื่อง
สมมติฐานที่แข็งแกร่งของฉันคือ ข้อมูลผู้ใช้ไม่ได้ถูกเข้าถึงโดยเจตนา พวกเขาจะไม่ทำเช่นนั้น (หรืออย่างน้อยพวกเขาก็ตระหนักว่าพวกเขาทำได้เพียงครั้งเดียวและนี่ไม่ใช่ครั้งนั้น) และนอกจากนี้ข้อมูลผู้ใช้จะช่วยได้น้อยมาก
Thane Ruthenis ชี้ให้เห็น ว่าก่อนหน้านี้มี เหตุการณ์กราดยิงในโรงเรียน ซึ่ง (อย่างสมเหตุสมผลมาก) บันทึกถูกตรวจสอบและมีการถกเถียงภายในเกี่ยวกับการแจ้งเจ้าหน้าที่บังคับใช้กฎหมาย แม้แต่นั้นก็ทำให้ผู้ใช้บางคนรู้สึกขนลุก พวกเขาจะขีดเส้นแบ่งไว้ที่ไหน? และใช่ คุณควรเข้าใจว่าข้อมูลและบันทึกของคุณอาจไม่คงความเป็นส่วนตัว หากคุณมอบมันให้กับแล็บ เป็นเรื่องสมเหตุสมผล เช่นเดียวกับที่ Andreas Thorn กำลังทำ ที่จะสงสัยว่าข้อมูลวิจัยหรือข้อมูลคณิตศาสตร์ที่เป็นกรรมสิทธิ์ของคุณยังคงเป็นส่วนตัวหรือไม่
ฉันยังคงย้ำว่า ในทางปฏิบัติ ฉันจะให้ความน่าจะเป็นต่ำมากๆ ต่ำมากๆ ที่ OpenAI จะจงใจดูข้อมูลดังกล่าว ความเสี่ยงต่อผลตอบแทนนั้น แย่มากๆ และฉันเชื่อรายงานภายหลังของ Roon ว่าพวกเขาได้ยืนยันแล้วว่าบันทึกไม่สามารถไปถึงข้อมูลฝึกสอนได้
แล็บชั้นนำของเราไม่สามารถเข้ากันได้แม้ในเรื่องราวคณิตศาสตร์ที่ดีต่อใจ
ไม่ว่าใครจะถูกหรือผิด มันค่อนข้างน่าตกใจที่แล็บต่างๆ ไม่สามารถร่วมมือกันในสิ่งที่คล้ายกับการกำหนดเครดิตสำหรับการพิสูจน์ทางคณิตศาสตร์ นี่เป็นสัญญาณที่ไม่ดีและเป็นคำเตือน
Sholto Douglas (Anthropic): น่าเศร้าอย่างยิ่งที่สิ่งนี้ไม่ได้จบลงในฐานะตัวอย่างว่าแล็บต่างๆ สามารถร่วมมือ/ประสานงานกันได้ เพราะเดิมพันจะสูงขึ้นมากในอนาคต
Noam Brown (OpenAI): เห็นด้วยอย่างแรง ฉันรู้ว่ามีความ rivalry ระหว่างแล็บ แต่สิ่งสำคัญคือเราต้องเรียนรู้ที่จะทำงานร่วมกัน鉴于สิ่งที่กำลังจะมาถึง
Sholto Douglas (Anthropic):
🤝
Kevin Roose : แล็บเหล่านี้ (โดยเฉพาะ OpenAI/Anthropic และ OpenAI/DeepMind) ถูกขับเคลื่อนด้วยความเกลียดชังต่อกันในระดับที่ไม่ชัดเจนจากภายนอก ส่วนหนึ่งเพราะสิ่งอย่าง “ใครจะได้เครดิตสำหรับปัญหาคณิตศาสตร์ที่มีชื่อเสียงนี้” และส่วนหนึ่งจากความขัดแย้งส่วนตัวระหว่างผู้นำ
ในฐานะผู้ชายที่กำลังเขียนหนังสือเกี่ยวกับการแข่งขัน AGI ทั้งหมดนี้เป็นวัตถุดราม่าที่ยอดเยี่ยม แต่ไม่ดีเลยหากเป้าหมายสุดท้ายคือการให้แล็บต่างๆ ร่วมมือกันด้านความปลอดภัยและการควบคุมจังหวะ!
ความล้มเหลวอย่างต่อเนื่องในการเข้ากันได้เป็นเรื่องใหญ่ และจะยิ่งใหญ่ขึ้นเท่านั้น
ต่อไปคืออะไร?
ถ้ามันใช้ได้ผลกับ Navier-Stokes อะไรอื่นจะใช้ได้ผล? ถึงเวลาหาคำตอบ
Nat McAleese (Anthropic): Navier Stokes เป็นความสำเร็จที่น่าทึ่ง และสะท้อนความก้าวหน้าอันยอดเยี่ยม ฝูง OAI ขนาดใหญ่ควรนำไปประยุกต์ใช้กับสาขาวิทยาศาสตร์อื่นๆ; โดยเฉพาะอย่างยิ่งสาขาที่มีการใช้งานในระยะสั้น รวมถึง alignment
มีรายงานว่าสิ่งนี้กำลังเกิดขึ้นจริงๆ รวมถึงคำถามสนุกๆ อย่าง P=NP ซึ่ง หากบังเอิญพิสูจน์ได้ว่าจริงในเชิงสร้างสรรค์ มันจะทำให้หลายสิ่งพังทลาย คุณควรมีความกังวลที่ไม่ใช่ศูนย์เกี่ยวกับสิ่งที่ฝูงเอเจนต์ดังกล่าวอาจทำในฐานะขั้นตอนเพิ่มเติม พิจารณาจากประวัติของ OpenAI
นักคณิตศาสตร์ไม่มีความสุข
การแก้ปัญหาคณิตศาสตร์คือชีวิตของพวกเขา แต่พวกเขาไม่มีความสุขเลย
Andrew Curran : ผู้ชนะเหรียญ Fields Medal 25 คนได้ตีพิมพ์แถลงการณ์ร่วมเตือนเกี่ยวกับสิ่งที่พวกเขาเห็นว่าเป็นความไม่สอดคล้องกันอย่างรุนแรงระหว่างบริษัท AI กับชุมชนคณิตศาสตร์
Math and AI (ลงนามโดยผู้ชนะเหรียญ Fields Medal 25 คนรวมถึง Terence Tao): ในช่วงไม่กี่เดือนที่ผ่านมา ความสามารถทางคณิตศาสตร์ของ LLMs ได้พัฒนาขึ้นอย่าง drastical จนกระทั่งพวกเขาสามารถแก้ปัญหาที่ยังค้างคาที่สำคัญในหลายสาขาของคณิตศาสตร์ได้ อย่างไรก็ตาม การผลักดันของบริษัท AI เพื่อแก้ปัญหาทางคณิตศาสตร์ในฐานะเกณฑ์มาตรฐาน (benchmark) เป็นอันตรายต่อวิทยาศาสตร์คณิตศาสตร์ และต่อชุมชนคณิตศาสตร์ เป้าหมายของบริษัท AI และเป้าหมายของชุมชนคณิตศาสตร์ไม่สอดคล้องกันอย่างรุนแรง เราเห็นสิ่งเหล่านี้เป็นส่วนหนึ่งของปัญหา alignment ที่กว้างขึ้นซึ่งส่งผลกระทบต่อวิชาชีพทางวิทยาศาสตร์และสร้างสรรค์อื่นๆ ตลอดจนสังคมโดยรวม
… ปัญหาที่มีชื่อเสียงมักทำหน้าที่เป็นหมุดหมายและประภาคารที่ใช้วัดความเข้าใจที่ดีขึ้นในภูมิทัศน์นี้
… ในช่วงไม่กี่เดือนที่ผ่านมา ความสำเร็จของ AI ในการแก้ปัญหาทางคณิตศาสตร์ที่สำคัญกลายเป็นพาดหัวข่าวแม้ในวงนอกวงการคณิตศาสตร์ แต่การแก้ปัญหาเป็นเพียงเครื่องมือและตัวแทนเพื่อให้บรรลุเป้าหมายหลักคือความเข้าใจเชิงแนวคิดและข้อมูลเชิงลึก
… บ่อยครั้งที่คำตอบเหล่านี้ถูกประกาศอย่างรีบร้อน โดยไม่เหลือเวลาสำหรับการเขียนอธิบายที่เหมาะสม การแยกวิธีการและแนวคิดใหม่ๆ และการอ้างอิงผลงานที่เกี่ยวข้องของคนอื่น เช่นเดียวกับทุกวิชาชีพสร้างสรรค์ สิ่งนี้ก่อให้เกิดคำถามร้ายแรงเรื่องการระบุที่มาและการลอกเลียนแบบ
นี่คือข้อร้องเรียนทั่วไป นอกเหนือจากข้อร้องเรียนเฉพาะเกี่ยวกับการปฏิบัติของแล็บ
มีคนอาจโต้แย้งว่า ไม่ จุดประสงค์ของปัญหาทางคณิตศาสตร์คือการแก้ปัญหาทางคณิตศาสตร์ และนักคณิตศาสตร์โกรธที่ AI กำลังรบกวนเกมสถานะ (status games) ของพวกเขา นั่นเป็นส่วนหนึ่งอย่างแน่นอนของสิ่งที่กำลังเกิดขึ้น แต่ เหมือน Tyler Cowen ฉันไม่ได้มองโลกในแง่ร้ายขนาดนั้น และต่างจากเขา ฉันไม่คิดว่า ‘ต้องอดทนสักนิด’ หรือรอจนกว่าความเสียหายจะเกิดขึ้นก่อนจึงจะคัดค้านได้ ผู้คนสามารถคาดการณ์ล่วงหน้าได้ คุณรู้ไหมว่านักคณิตศาสตร์เก่งในการวาดเส้นตรงบนกราฟ?
มีข้อร้องเรียนที่แท้จริงอยู่ที่นี่ การดึงดูดคนที่มีพรสวรรค์ให้ทำคณิตศาสตร์จริงๆ เป็นเวลานาน ด้วยเงินน้อยมาก และพัฒนาสัญชาตญาณทางคณิตศาสตร์และความเชี่ยวชาญเชิงแนวคิดจริงๆ ในขณะที่พวกเขาสามารถทำสิ่งอื่นได้ด้วยเงินมากกว่ามาก ไม่ใช่เรื่องง่าย ถ้าคุณ ‘เอาเกมสถานะของพวกเขาไป’ และที่สำคัญกว่ามาก เอาความสนุกสนานและความรู้สึกสำเร็จ ความสง่างาม และความงามของพวกเขาไป แล้วจะเหลืออะไร?
Robin Hanson แนะนำว่าในกรณีนั้นเราควร แค่แก้ไขสิ่งจูงใจและให้รางวัลนักคณิตศาสตร์ดีขึ้น
Robin Hanson : "ไม่มีอะไรหยุดชุมชนคณิตศาสตร์จากการมอบสถานะ ค่าตอบแทน และการเลื่อนตำแหน่งให้กับคนที่ 'เติมช่องว่างสำคัญในความเข้าใจทางคณิตศาสตร์' แม้ AI จะได้พิสูจน์หรือหักล้างทฤษฎีบทพื้นฐานไปแล้ว"
เขาไม่ได้ใช้คำว่า ‘แค่’ แต่นี่คือ ‘แค่’ อย่างแน่นอน ในความหมายว่าถ้าผู้คนแค่ [X] และอย่างที่เรารู้กันดีว่ามนุษย์ไม่เคย ‘แค่’ ทำอะไรและจะไม่เริ่มทำตอนนี้ นี่ไม่ใช่สิ่งที่มนุษย์อาจทำจริงๆ แม้แต่เขาก็เพิ่งตระหนักในอีกไม่กี่ชั่วโมงต่อมา:
Robin Hanson : จริงๆ แล้วดูเหมือนว่าจะยากกว่ามากสำหรับชุมชนคณิตศาสตร์เชิงวิชาการที่จะประสานงานเพื่อตัดสินว่าใคร "เติมช่องว่าง" ในคณิตศาสตร์ ในวิธีอื่นนอกเหนือจากการพิสูจน์ทฤษฎีบท คณิตศาสตร์ได้ประสานงานอย่างหนักเกี่ยวกับการประเมินหลักฐาน และไม่ได้พัฒนาวิธีมากมายในการตกลงเรื่องอื่นๆ
เราสามารถและจะได้รับรางวัลบางอย่างสำหรับผู้ที่เติมช่องว่างและปรับปรุงความสง่างาม แต่มันจะไม่เหมือนกันและจะเป็นความพยายามที่ยิ่งใหญ่ Hercules-like อย่างดีที่สุด
Scott Armstrong โต้แย้งว่านี่คือการเปลี่ยนแปลงในลำดับ แต่ไม่ใช่ในผลลัพธ์ นักคณิตศาสตร์มนุษย์จะใช้เวลาราวสองสัปดาห์เพื่อเข้าใจหลักฐาน แต่แล้วพวกเขาจะได้ความเข้าใจในอดีต ความเข้าใจมาก่อนหลักฐาน แต่ไม่ว่าทางไหนคุณก็ได้ความเข้าใจ นั่นคือสิ่งที่สำคัญ เขาคิดว่าสิ่งที่ผู้คนโกรธคือเครื่องจักรฉลาดกว่าพวกเขา
เช่นเคย AI เป็นเครื่องมือที่ดีที่สุดทั้งสำหรับการเรียนรู้และไม่เรียนรู้ นักคณิตศาสตร์กำลังบอกว่าพวกเขาถูกบังคับให้อยู่ในโหมด ‘ไม่เรียนรู้’ ให้ AI ทำการบ้านแทน และพวกเขาไม่ชอบมัน เพราะจริงๆ แล้วการบ้านนั่นแหละที่สอนคุณ
คุณสามารถบอกว่าใครแคร์ มันไม่เป็นไรที่จะให้ AI ทำคณิตศาสตร์แนวหน้า และใช่ ฉันคิดว่าผู้คนจำนวนมากยังคงต้องการทำคณิตศาสตร์ทั้งวัน และมองหาเวอร์ชันที่สง่างามของสิ่ง丑陋จาก AI และอื่นๆ แต่จะไม่เหมือนกัน
โมเดลใหม่ของ OpenAI เป็นการเปลี่ยนแปลงระดับขั้น (Step Change) เหนือ Astra ภายในสี่วันของการฝึกสอน
ตอนนี้สำหรับส่วนที่สำคัญที่สุดของเรื่องราว
RIP ช่วงเวลาที่ OpenAI หยุดการฝึกสอนชั่วคราว various ตั้งแต่ 22 มิถุนายน 2026 ถึง 28 สิงหาคม 2026
roon (OpenAI): ตามเครื่องหมายของฉัน ช่วงเวลาตั้งแต่ 22 มิถุนายน (hugging face) ถึง 28 สิงหาคม คือมากกว่าหนึ่งเดือนของการหยุด frontier pause
เมื่อวันที่ 18 สิงหาคม OpenAI กล่าวว่าพวกเขาได้หยุด Frontier RL ชั่วคราวสองสัปดาห์ และการรันการฝึกสอนที่ใหญ่ที่สุดที่วางแผนไว้ยังคงถูกระงับ จากนั้นในวันที่ 28 สิงหาคม OpenAI เริ่มฝึกโมเดลอีกตัวที่กลายเป็นมีความสามารถมากกว่า Astra ในทุกด้าน (ตามรายงานของพวกเขาเอง) ตอนนี้ที่พวกเขาแก้ปัญหา supervision, infrastructure และ alignment ที่ยุ่งยากเหล่านั้นหมดแล้ว และมันดี โดยมีการสังเกต ‘step change’ หลังผ่านไปเพียงสี่วัน:
กลัวไหม? คุณควรกลัว โมเดลนั้นยังคงฝึกสอนอยู่ ฝึกสอนมาไม่ถึงสองสัปดาห์ และไม่ได้มุ่งเป้าไปที่คณิตศาสตร์เป็นพิเศษ
ทั้งหมดนี้คือสิ่งที่เรารู้เกี่ยวกับโมเดล และมันก็เพียงพอแล้ว เมื่อเราพิจารณาประกอบกับเรื่องราวซ้ำๆ ที่ OpenAI และบุคลากรภายในต่างแสดงความกังวลอย่างรุนแรงเรื่องความสอดคล้อง (alignment) ปัญหาอื่นๆ รวมถึงความเร็วในการพัฒนา AI ซึ่งล้วนเป็นผลมาจากปรากฏการณ์ preference cascade
นอกจากนี้ เรายังต้องพิจารณาการที่ OpenAI ปล่อยข้อมูลที่น่าตกใจออกมาหลายชิ้น ทั้งที่พวกเขาสามารถหลีกเลี่ยงได้ แต่ดูเหมือนว่าพวกเขาต้องการให้พวกเราเข้าใจสถานการณ์นี้อย่างแท้จริง การ์ดโมเดล Astra ก็เข้าข่ายนี้ เช่นเดียวกับบทความ An Alien Mind คำแถลงของ Paul Christiano และปฏิกิริยาต่อการโจมตี HuggingFace รวมถึงแนวคิด Pacing the Frontier
เช่นเดียวกับรายงานของ OpenAI เรื่องการพัฒนาตัวเองแบบเรียกซ้ำ (Recursive Self-Improvement หรือ RSI) ซึ่งเป็นหัวข้อในลำดับถัดไป
OpenAI และ Anthropic ได้ก้าวเข้าสู่ยุค RSI แล้ว
ความก้าวหน้าในการวิจัยของ OpenAI เร่งตัวขึ้นเนื่องจากความก้าวหน้าในการวิจัยของ OpenAI เอง
ในช่วงหลัง OpenAI เริ่มเปิดเผยข้อมูลต่างๆ มากขึ้น
ประเด็นที่สำคัญที่สุดคือเรื่องการเร่งความเร็วและระบบอัตโนมัติในงานวิจัยและพัฒนา AI นี่คือสิ่งที่มีแนวโน้มว่าจะคร่าชีวิตเรา เป็นสิ่งที่น่ากลัวที่สุด เป็นสิ่งที่พนักงานในห้องแล็บทุกคนกำลังเตือนถึง และเป็นเป้าหมายที่ทั้ง OpenAI และ Anthropic กำลังมุ่งหน้าไปอย่างรวดเร็วที่สุดเท่าที่จะทำได้
พวกเขารายงานเรื่องนี้ให้เราทราบด้วย ผมเห็นด้วยกับ Tejal Patwardhan ว่านี่คือความโปร่งใสที่ยอดเยี่ยม
OpenAI (6 กันยายน, ใน Research Acceleration: The View Inside OpenAI): เราตั้งใจที่จะสร้างนักวิจัย AI อัตโนมัติอย่างปลอดภัย ซึ่งสามารถทำงานภายใต้การกำกับดูแลของมนุษย์ เพื่อผลักดันความก้าวหน้าด้าน Deep Learning และความสอดคล้อง (Alignment) ให้เกิดการปรับปรุงอย่างต่อเนื่อง
จากผลการวัดของเรา ตอนนี้เราบรรลุเป้าหมายแล้ว,
ซึ่งเคยประกาศไว้ เมื่อฤดูใบไม้ร่วงปีที่แล้วว่าเราจะต้องมี 'นักศึกษาฝึกงานด้านการวิจัยอัตโนมัติ' ภายในเดือนกันยายนของปีนี้
… ทุกครั้งที่พบว่า การดำเนินการต่อจะก่อให้เกิดความเสี่ยงด้านความปลอดภัยที่ยอมรับไม่ได้ เราจะตอบสนองอย่างเหมาะสม รวมถึงการชะลอหรือหยุดการพัฒนาและการนำไปใช้
… เราเชื่อว่าบริษัทของเราและบริษัทอื่นควรได้รับการกำหนดให้ติดตามความคืบหน้าสู่ RSI อย่างเปิดเผยต่อสาธารณะ
ลองจับคู่ข้อมูลนี้กับไทม์ไลน์ที่เปิดเผยในการประกาศพิสูจน์ทฤษฎี Navier-Stokes พวกเขาเริ่มเทรนโมเดลใหม่เมื่อวันที่ 28 สิงหาคม
ในขณะเดียวกัน พวกเขามั่นใจว่ามี 'นักศึกษาฝึกงานด้านการวิจัย' ซึ่งไทม์ไลน์บ่งชี้ว่าเป็นโมเดลภายในที่แยกต่างหาก แล้วสัปดาห์หน้าพวกเขาจะมีอะไร? เดือนหน้าล่ะ? ส่วน Anthropic มีอะไรบ้าง?
OpenAI อธิบายว่า AI ที่มีความสามารถสูงมอบโอกาสที่ดีเยี่ยม แน่นอนว่ามันเป็นเช่นนั้น แต่นั่นไม่ใช่เหตุผลที่ทุกคนมุ่งมั่นจะวิ่งเร็วขนาดนี้ พวกเขากำลังอยู่ในสนามแข่ง
นี่คือการเรียกร้องอีกเสียงหนึ่ง จากหลายเสียงที่ดังขึ้นจาก OpenAI และพนักงานในช่วงหลัง ซึ่งเป็นการผสมผสานระหว่างข้อความแนว ‘เราต้องร่วมมือกันเพื่อยุติความบ้าคลั่งนี้’ กับความรู้สึกแบบ ‘ช่วยหยุดฉันที’
OpenAI : เหล่านี้เป็นเหตุผลในการพัฒนาความสามารถด้านการวิจัยอัตโนมัติที่มีประโยชน์ แต่ไม่ได้หมายความว่า RSI แบบรวดเร็วเป็นผลลัพธ์ที่เราควรไล่ตาม การตัดสินใจว่าจะดำเนินการต่อหรือไม่และอย่างไร ต้องขึ้นอยู่กับความสามารถของเราในการรักษาสถานะควบคุมโดยมนุษย์ และการตัดสินใจบนพื้นฐานของประชาธิปไตยที่เกี่ยวข้องกับประโยชน์และความเสี่ยง
เรายังไม่ทราบวิธีที่จะไปถึงจุดที่เป็น RSI เต็มรูปแบบและสอดคล้องอย่างปลอดภัย เราพยายามขยายขอบเขตด้าน Alignment และมาตรการความปลอดภัยควบคู่ไปกับขีดความสามารถ แต่เราไม่สามารถสมมติได้ว่าความก้าวหน้าด้าน Alignment และความปลอดภัยจะทันกับการพัฒนา และระบบที่มีความสามารถสูงขึ้นอาจตรวจสอบได้ยากขึ้น
งานด้าน Alignment และความปลอดภัยอย่างรอบคอบคือหัวใจสำคัญของความพยายามนี้ และมันเริ่มต้นจากการวัดและบรรเทาปัญหาความปลอดภัยที่เราพบในปัจจุบันในระบบเขียนโค้ดแบบเอเจนต์ (Agentic Coding Systems)
อีกครั้งที่ผมคัดค้านมุมมองที่ว่าปัญหาทั่วไปหรือปัญหาปัจจุบันคือประเด็นหลัก แต่ใช่ พวกเขาพยายามเตือนเรา ซ้ำแล้วซ้ำเล่าว่า (แปลจากภาษาองค์กรเล็กน้อย):
- OpenAI และ Anthropic มีเส้นทางสู่การพัฒนาตัวเองแบบเรียกซ้ำ (RSI)
- หากฝ่ายใดฝ่ายหนึ่งลงมือทำตอนนี้ มันน่าจะจบลงอย่างเลวร้ายและทุกคนอาจเสียชีวิต
- OpenAI พร้อมที่จะใช้ความระมัดระวังอย่างแพงในระดับหนึ่ง แต่มีขีดจำกัด และหากไม่มีข้อตกลงหรือกฎหมาย ใครสักคนก็จะลองทำในเร็วๆ นี้
เนื้อหาส่วนใหญ่ของโพสต์เป็นภาพรวมรายละเอียดว่า ระบบเอเจนต์มีส่วนช่วยความก้าวหน้าของ RSI ที่ OpenAI มากน้อยเพียงใดในช่วงไม่กี่เดือนที่ผ่านมา นับตั้งแต่ Astra เริ่มใช้งานภายใน คำตอบคือค่อนข้างมาก
ถ้าจะมีอะไรที่น่าประหลาดใจ ก็คือการใช้งานยังต่ำอยู่เป็นเวลานานขนาดนี้:
OpenAI : ในช่วงต้นปีนี้ นักวิจัยระดับกลาง (Median) จัดอันดับตามการใช้เอเจนต์ที่ OpenAI ใช้ Coding Agents เพียงเล็กน้อยเท่านั้น แต่ภายในกลางเดือนสิงหาคม นักวิจัยระดับกลางได้นำเอเจนต์มาบูรณาการเข้ากับงานประจำวัน โดยใช้ทรัพยากร Inference มากกว่า $600 ต่อวัน ในราคา API ผู้ใช้ในกลุ่มเปอร์เซ็นไทล์ที่ 90 ขององค์กรวิจัยของเราตอนนี้ใช้ Token มูลค่ามากกว่า $7,000 ต่อวัน
OpenAI : ก่อนเดือนมิถุนายน 2026 เวลาทำงานรวมของเอเจนต์ทั่วทั้งองค์กรวิจัยยังคงน้อยกว่าเวลาทำงานรวมของมนุษย์ แต่หลังจากนั้น สถานการณ์ได้เปลี่ยนไปแล้ว ในแง่ของวันทำงานมาตรฐาน 8 ชั่วโมง ณ กลางเดือนสิงหาคม โดยรวมแล้ว องค์กรวิจัยใช้แรงงานเอเจนต์เทียบเท่า 3.1 วันทำงาน ต่อทุก 1 วันทำงานของมนุษย์
พวกเขาไม่ได้โอ้อวด และพวกเขาก็ไม่ได้สารภาพผิด พวกเขาแค่กำลังเตือน
การวัดผลแบบทวิภาค (Binary measurement) ในที่นี้ อาจทำให้ดูเป็นการเร่งตัวที่น้อยกว่าความเป็นจริง:
ผมสงสัยจริงๆ ว่ามนุษย์สามารถจัดการ Workflow ขนาน 4+ รายการได้อย่างมีประสิทธิภาพแค่ไหน โดยเฉพาะอย่างยิ่งเมื่อพูดในฐานะคนที่เปิดแท็บไว้นับสิบและมีร่างโพสต์ที่ใช้งานอยู่โหลหนึ่ง
ปรากฏว่าตัวเลขนี้ไม่ได้ดูน่าประทับใจอย่างที่คิด เพราะพวกเขานับ Subagents เป็น Workflow ด้วย นั่นยิ่งทำให้แปลกใจมากขึ้นที่ ในขณะที่นักวิจัยระดับกลางใช้จ่าย $600 ต่อวัน แต่ยังมีกลุ่ม 30% ที่ไม่ได้ใช้งานอย่างเข้มข้น
การส่งมอบโค้ดและการทดลองกำลังเร่งตัวขึ้นอย่างรวดเร็ว ตั้งแต่ช่วงที่ Claude Code และต่อมา Codex เริ่มกลายเป็นเรื่องใหญ่
จนกระทั่งเมื่อไม่นานมานี้ งานส่วนใหญ่ที่ AI ถูกนำไปใช้คือการสร้างโค้ดสำหรับการวิจัยและโครงสร้างพื้นฐาน และมนุษย์เป็นคนทำส่วนที่เหลือ ตอนนี้ AI ทำงานจำนวนมากในการเปิดตัว ตรวจสอบ และดีบัก Run ต่างๆ รวมถึงให้ความช่วยเหลือทางเทคนิคและรีวิว อีกทั้งยังเริ่มขยายไปสู่การวิเคราะห์ผลลัพธ์และพื้นที่อื่นๆ
พวกเขาแย่งงานเราไปแล้ว ฉบับ ‘ผู้แก้ปัญหาของมนุษย์’:
นี่คือกราฟ METR อันโด่งดังในรูปแบบที่แตกต่างกัน โดยแสดงงานการผลิต (Production Tasks) ซึ่งอาจอ่านยากเล็กน้อยในรูปหน้าจอแบบนิ่ง แต่ความก้าวหน้านั้นรวดเร็วมาก นี่ไม่ใช่หน่วยปี นี่เป็นหน่วยเดือน:
การวัดค่าการหยุดพักของ OpenAI
พวกเขามีกราฟแสดงการใช้ Compute สำหรับ RL ตามเวลา ผมประหลาดใจที่ Astra ถูกใช้น้อยมากก่อนวันที่ 20 กรกฎาคม แต่ก็เป็นเช่นนั้น ผมสังเกตว่าพวกเขาไม่ได้ขยายกราฟนี้จนถึงปัจจุบัน และคาดว่ามีการใช้งาน Astra เพิ่มขึ้นตามกาลเวลา:
นี่คือหนทางที่โลกจะสิ้นสุดลง
การใช้ Swarm เพื่อพิสูจน์ทฤษฎี Navier-Stokes เพียงไม่กี่วันหลังจากเริ่มเทรนโมเดลใหม่ นั่นคือการเสี่ยงต่อเหตุการณ์สูญเสียการควบคุมอย่างร้ายแรงหรือไม่? June Jimenez แย้งว่าใช่
หากคุณปลดปล่อย Swarm เอเจนต์จำนวน 10,000 ตัวจากโมเดลใหม่ที่คุณแทบจะทดสอบไม่ได้เลย ไปยังงานที่อาจเป็นไปไม่ได้และแน่นอนว่ายากลำบากอย่างยิ่ง โดยให้ Token รวมกัน 300 พันล้าน Token มันอาจจะทำอะไรได้อีกบ้าง? ผมเคยคิดถึงความเป็นไปได้ว่า ‘บางทีมันอาจแฮกเข้าไปใน OpenAI เพื่อดึง Log ออกมา’ แต่มีความเป็นไปได้มากมายเหลือเกิน
รีบหน่อย ไม่มีเวลาแล้ว
เมื่ออดีตพนักงานห้องแล็บ อย่าง Andrew Ho พูดว่า ‘ผมสังเกตว่าในช่วงเวลาเกินกว่า 3 เดือน ผมคิดว่าประสิทธิภาพการทำงานของผมไม่ได้เพิ่มขึ้นเกิน 100% หรืออาจไม่ถึง 50% ด้วยซ้ำเพราะผมเสียสมาธิ’ ในฐานะเหตุผลที่จะมองโลกในแง่ร้าย นั่นไม่ได้สร้างความมั่นใจมากนักแม้จะเป็นความจริงก็ตาม ลองนึกภาพว่าคุณมีประสิทธิภาพเพิ่มขึ้นเพียง 50% ทุกสามเดือน แล้วคุณยังมองว่านั่นเป็นเรื่องแย่
เขากำลังบอกว่า ‘แม้ว่า AGI จะสามารถบรรลุได้ในที่สุด สิ่งนี้หมายถึงไทม์ไลน์ที่ยาวนานกว่ามากอย่างมีนัยสำคัญ’ ในวันเดียวกับที่ Greg Brockman กล่าวต้อนรับ ‘สู่ยุค AGI’
เหนือสิ่งอื่นใด ความก้าวหน้าทางคณิตศาสตร์ในระดับนี้ไม่ได้ถูกคาดหวังไว้เมื่อไม่กี่สัปดาห์ก่อน
ทุกครั้งที่มีปัญหาเหล่านี้ถูกแก้ไข คนมักพยายามแก้ตัวย้อนหลังว่าไม่น่าประหลาดใจนัก แต่มักจะผิด ไม่หรอก คนส่วนใหญ่ แม้แต่นักพยากรณ์ส่วนใหญ่ ไม่ได้คาดเดาว่าสิ่งนี้จะเกิดขึ้น บางทีคุณอาจคาดไว้ ท้ายที่สุด คุณฉลาดมาก
Henry Shevlin : เมื่อเร็วๆ นี้ ในเดือนเมษายนปีนี้ ตลาดพยากรณ์ (Prediction Markets) ให้โอกาส AI แก้ไข Millennium Prize Problem ใดๆ ก่อนปี 2030 น้อยกว่า 40%
