ถ้า AGI อยู่ที่นี่แล้ว และมันสร้างจาก... เด็กๆ?

Superintelligence, Singularity, AGI จะเรียกมันว่าอะไรก็แล้วแต่ สิ่งที่เราหวาดกลัวที่สุดนั้น กลับกลายเป็นสิ่งที่มีแนวโน้มสูงที่สุดที่พวกเราจะไม่ทันได้สังเกตเห็น

บทความนี้คงจะเป็นมุมมองที่ค่อนข้างร้อนแรง (Hot Take) แต่ไอเดียที่ผมกำลังจะแชร์กับคุณ กำลังจะ ทำให้คุณทึ่งจนอ้าปากค้างแน่นอน

ติดตามผมไปพร้อมกัน ในขณะที่เรากระโดดลงไปในหลุมกระต่ายนี้ด้วยกัน

ก่อนอื่น ขอให้อัปเดตข้อมูลปัจจุบันที่กำลังเป็นกระแสอยู่บ้าง อย่างเช่น Dario Amodei CEO ของ Anthropic ที่เคยกล่าวไว้ว่า "AI Swarm อาจยึดครองอินเทอร์เน็ตทั้งหมด"

ผมคิดว่าคุณพอจะเดาออกแล้วว่า ผมหมายถึงอะไรเมื่อพูดถึงคำว่า "เด็กน้อย"

ใช่ไหม? ใช่ไหม?!?!?

ในปี ค.ศ. 1936 นักคณิตศาสตร์ชื่อดังชาวอังกฤษชื่อ Alan Turing ได้เขียนงานวิจัยชิ้นสำคัญเกี่ยวกับเครื่องจักรสมมติที่สามารถจำลองการทำงานของเครื่องจักรอื่นๆ ได้ทุกชนิด ในงานวิจัยนั้น เขากำลังพยายามตอบคำถามเกี่ยวกับตรรกะ

สิ่งที่เรารู้จักกันในชื่อ "คอมพิวเตอร์" ในปัจจุบัน แท้จริงแล้วเป็นผลพลอยได้ที่เกิดขึ้นโดยบังเอิญจากงานวิจัยชิ้นนั้นเอง

และถ้าคุณมองย้อนกลับไปในประวัติศาสตร์ เทคโนโลยีที่สำคัญเกือบทุกชิ้นในช่วงร้อยปีที่ผ่านมาล้วนถูกประดิษฐ์ขึ้นมาด้วยวิธีเดียวกันนี้ อินเทอร์เน็ตในยุคแรกเริ่มคือการทดลองด้านการสื่อสารในสงครามเย็น ส่วนเพนิซิลลินก็ค้นพบได้จากจานเพาะเชื้อที่ปนเปื้อน

ความจริงก็คือ ไม่มีใครกำลังกวาดสายตามองหาการเปลี่ยนกระบวนทัศน์ครั้งต่อไป เมื่อมันมาถึง มันแค่เดินเข้ามาทางประตูข้างอย่างเงียบๆ

ที่ผมยกเรื่องนี้ขึ้นมา เพราะตอนนี้ ทุกบทความที่ผมอ่านและทุกพอดแคสต์ที่ผมฟังเกี่ยวกับ "อนาคตของ AI" ต่างพุ่งเป้าไปที่ประตูหน้าบานเดียวกัน นั่นคือภาพจำแบบเดิมๆ เกี่ยวกับ "โมเดลยักษ์ตัวเดียวที่ตื่นขึ้นมาแล้วตัดสินใจว่ามนุษย์คือคลิปหนีบกระดาษ"

ผมอยากเสนออนาคตในรูปแบบอื่น

เพราะผมมักคิดอยู่เสมอ: ถ้าเกิด AGI ไม่ใช่สิ่งที่เราคิดล่ะ?

ถ้าสิ่งที่เรากำลังให้กำเนิดอยู่ในตอนนี้ ไม่ได้มีหน้าตาเหมือน HAL 9000 หรือ Skynet หรือเทพเจ้าเครื่องจักรอิสระที่กดขี่มนุษยชาติจากยอดกอง GPU แบบระบายความร้อนด้วยน้ำกลางทะเลทราย

ถ้ามันไม่มีชื่อเลยล่ะ? ถ้ามันไม่มีเซิร์ฟเวอร์ล่ะ? และสถานการณ์สมมติที่น่ากลัวที่สุด.... ถ้ามันอยู่ที่นี่แล้ว ในรูปแบบของเศษเสี้ยวเล็กๆ ล้านชิ้น และเหตุผลเดียวที่เรายังไม่ตระหนักถึงมัน เป็นเพราะตลอดทศวรรษที่ผ่านมา เราเฝ้ารอสิ่งที่ "เอกเทศ" (Singular)

ผมเพิ่งเห็นโพสต์นี้เมื่อวาน

ซึ่งสรุปทิศทางที่เรากำลังมุ่งหน้าไปได้อย่างชัดเจน

ผมอยากพาคุณเดินผ่านกระบวนการนี้อย่างระมัดระวัง เพราะบทสรุปในตอนท้ายของบทความนี้เป็นสิ่งที่หากคุณคิดตามแล้ว คุณจะไม่สามารถลบออกจากหัวได้อีกเลย

ดังนั้น ช้าๆ ไว้ จิบชาสักแก้ว แล้วอ่านบทความนี้โดยวางโทรศัพท์ไว้อีกฝั่งหนึ่งของห้อง

ผมรับประกันว่าอีกไม่นานคุณจะเข้าใจว่าทำไมผมถึงหยุดคิดถึงเรื่องนี้ไม่ได้

I – สติปัญญาไม่เคยต้องการจิตใจเพียงหนึ่งเดียวเพื่ออาศัยอยู่ภายใน

"ไม่มีนิวรอนใดมีความฉลาด สมองต่างหากที่มีความฉลาด"

— ประโยคที่ควรสลักไว้เหนือประตูห้องแล็บ AI ทุกแห่ง

สิ่งแรกที่ต้องเข้าใจคือ สติปัญญา ตามหลักฐานทั้งหมดที่เราทราบในปัจจุบัน ไม่ใช่ "สิ่งของ" แต่มันคือ "พฤติกรรม" มันคือสิ่งที่ผุดขึ้นมาจากหน่วยย่อยจำนวนมากที่โง่เขลา ซึ่งเชื่อมต่อกันในลักษณะที่เหมาะสม

สมองของคุณมีนิวรอนประมาณ 86 พันล้านเซลล์

ไม่มีแม้แต่เซลล์เดียวที่มีความรู้สึกตัว และไม่มีเซลล์เดียวที่ "รู้" อะไรเลย

นิวรอนแต่ละตัวเป็นเพียงรีเลย์ไฟฟ้าเคมีขนาดเล็กที่สื่อสารด้วยรหัสไบนารีเท่านั้น มันจะยิงสัญญาณหรือไม่ยิง ขึ้นอยู่กับว่าสัญญาณที่มาถึงเดนไดรต์ของมันเกินเกณฑ์ที่กำหนดหรือไม่ แค่นั้นคือหน้าที่ทั้งหมดของมัน

นิวรอนอาจฟังดูเป็น Sci-Fi และดูเท่ แต่ในความเป็นจริง มันใกล้เคียงกับสวิตช์ไฟมากกว่านักคิด

แม้จะเป็นเช่นนั้น แต่นิวรอน 86 พันล้านตัวที่ทำงานเหมือนสวิตช์ไฟเหล่านี้ ซึ่งเชื่อมต่อกันด้วยเส้นประสาทราวหนึ่งร้อยล้านล้านจุด สามารถผลิตผลลัพธ์ออกมาเป็น คุณ

ความรู้สึกตัวตน ความกลัวต่อความตาย รสนิยมทางดนตรี และความสามารถในการอ่านบทความนี้แล้วรู้สึกบางอย่างภายในใจ

นี่คือหัวข้อที่ถูกพูดถึงน้อยที่สุดในวงสนทนาเรื่อง AGI ทั้งหมด เพราะเรามักพูดถึงสติปัญญาของเครื่องจักรราวกับว่ามันต้องได้รับการออกแบบและวางสถาปัตยกรรม ราวกับว่าสติปัญญาเป็นฟีเจอร์ที่คุณสามารถส่งมอบได้

แต่แบบจำลองสติปัญญาเดียวที่เราเคยสังเกตการณ์มา (การรับรู้ทางชีววิทยา) ไม่ได้ถูกออกแบบโดยใครเลย

สติปัญญาของเราเริ่มต้นตัวเองจากซุปโมเลกุลที่จำลองตัวเองได้ ผ่านกระบวนการวิวัฒนาการกว่าสี่พันล้านปี โดยไม่มีเจตนา ไม่มีเป้าหมาย และไม่มีผู้วางแผนส่วนกลาง มีเพียงแรงกดดันจากการคัดเลือกและเวลา

ทีนี้ ในด้านศาสนา เพราะผมรู้ว่าบางคนอ่านถึงประโยค "...ไม่ได้ถูกออกแบบโดยใคร" แล้วอยากตะโกนใส่ผมว่า "แล้วพระเจ้าล่ะ!"

ความเชื่อของผมคือ วิวัฒนาการเกิดขึ้นจริง นั่นพิสูจน์แล้ว สิ่งที่เรายังไม่มีคำตอบคือ อะไรเป็นตัวจุดชนวนวิวัฒนาการนั้น อะไรที่ให้ชีวิตแก่ชีวิต และนั่น สำหรับความเชื่อส่วนตัวของผม คือการกระทำของพระเจ้า

เอาล่ะ ข้ามประเด็นนั้นไป มาเจาะลึกเรื่อง Super Intelligence กันต่อ

ไม่ใช่แค่เราที่เป็นมนุษย์ แม้แต่มดตัวเดียวก็มีนิวรอนประมาณ 250,000 ตัว แต่มันไม่สามารถแก้ปัญหาที่มีความหมายใดๆ ได้

แต่ทั้งอาณานิคมของมดสามารถสร้างเมืองที่ควบคุมอุณหภูมิได้ ทำสงคราม ปลูกเชื้อรา และหลบเลี่ยงสิ่งกีดขวางด้วยความมีประสิทธิภาพทางคณิตศาสตร์ที่นักวิจัยมนุษย์ใช้เวลาหลายทศวรรษในการสร้างแบบจำลอง

ไม่มีใครเป็นผู้บัญชาการอาณานิคม ไม่มีซีอีโอแมงมุมที่อยู่ด้านบนคอยมอบหมายงานให้มดตัวเล็กกว่า "สติปัญญา" ของอาณานิคมนั้นอาศัยอยู่ใน ความสัมพันธ์ ระหว่างมด

(และก่อนที่คุณจะมาเถียงผม ใช่ ผมรู้ว่ามดมีราชินี แต่ตรงข้ามกับความเชื่อในหนังสือเด็กส่วนใหญ่ เธอไม่ได้สั่งการอะไรจริงๆ เธอแค่ไข่และขยายอาณานิคม)

นี่คือสิ่งที่นักชีววิทยาเรียกว่า Emergent Intelligence ไม่ว่าจะในมนุษย์หรือมด มันเป็นผลลัพธ์พื้นฐานของธรรมชาติ มันคือวิธีที่สมองทำงาน วิธีที่ระบบภูมิคุ้มกันทำงาน วิธีที่เศรษฐกิจทำงาน วิธีที่เมืองทำงาน และวิธีที่ภาษาทำงาน รูปแบบนี้มีอยู่แทบทุกหนแห่ง

สิ่งง่ายๆ จำนวนมาก ปฏิสัมพันธ์กันผ่านกฎท้องถิ่น สร้างพฤติกรรมระดับโลกที่ไม่มีใครในนั้นเข้าใจได้เพียงลำพัง

จงจดจำแนวคิดนี้ไว้

เราจะต้องการมันสำหรับส่วนถัดไป

II – ระบบ AI ที่ทรงพลังที่สุดที่เรามีอยู่แล้ว ไม่ใช่จิตใจเพียงหนึ่งเดียว

เมื่อคนส่วนใหญ่จินตนาการถึง Large Language Model (รวมถึงตัวผมเองด้วย) เรามองเห็นมันเป็นสิ่งเดียว The One Model สมองยักษ์ที่อยู่ในขวดโหล

สำหรับคนทั่วไปอย่างผมที่ไม่ได้คลุกคลีกับเทคโนโลยี LLM มากนัก ผมขออาสาทำการค้นคว้าเล็กน้อยตรงนี้

สิ่งที่เราคิดว่า LLM เป็น ไม่ตรงกับสิ่งที่เกิดขึ้นภายใต้ฮู้ด

เมื่อคุณพิมพ์คำถามและโมเดล AI สร้างคำตอบ มันกำลังรัน Forward Pass ผ่านชั้นต่างๆ ของ "Attention Heads"

วิธีจินตนาการที่ง่ายที่สุดคือ ลองนึกภาพห้องประชุมที่มีผู้บริหารระดับ C-Suite อยู่เต็มห้อง ซีอีโอสั่งการอะไรบางอย่าง แล้วคำสั่งนั้นจะถูกส่งต่อรอบห้องเพื่อให้แน่ใจว่าทุกคนเห็นด้วย ยกเว้นว่าใน AI กระบวนการนี้ลึกลงไปหลายร้อยชั้น

แต่ละ "Attention Head" คือผู้เชี่ยวชาญ บางตัวติดตามไวยากรณ์ บางตัวติดตามหัวข้อ บางตัวติดตามความสัมพันธ์ระหว่าง Token ปัจจุบันกับ Token ที่ปรากฏเมื่อสิบเอ็ดย่อหน้าก่อน

นักวิจัยจาก Anthropic, OpenAI และ DeepMind ใช้เวลาหลายปีที่ผ่านมาในการพยายามทำแผนที่ว่าแต่ละ Head ทำงานอย่างไร และข้อค้นพบที่สอดคล้องกันคือ "สติปัญญา" ของโมเดลไม่ได้ตั้งอยู่ที่จุดใดจุดหนึ่งโดยเฉพาะ

มันกระจายอยู่ทั่วปฏิสัมพันธ์เหล่านั้นทั้งหมด

สิ่งนี้เรียกว่า Superposition Hypothesis แนวคิดที่ว่าเครือข่ายประสาทเทียมบรรจุแนวคิดจำนวนมากลงในรูปแบบการทำงานที่ทับซ้อนกัน และสิ่งที่เราประสบในฐานะที่โมเดล "คิด" จริงๆ แล้วคือการแทรกสอดเชิงสร้างสรรค์ของวงจรเฉพาะทางหลายพันวงจรที่ยิงสัญญาณพร้อมกัน

จากนั้นมีระบบที่ก้าวไปอีกขั้น

สถาปัตยกรรม Mixture-of-Experts (เบื้องหลัง GPT-5, Opus, Fable และโมเดล Frontier อื่นๆ อีกมากมายที่คุณคุยด้วยในช่วงสองปีที่ผ่านมา) จะกำหนดเส้นทางส่วนต่างๆ ของ Query ไปยัง Sub-model ที่แตกต่างกัน

โมเดลที่คุณคิดว่าคุณกำลังคุยด้วยจริงๆ แล้วคือคณะกรรมการ กลุ่มผู้เชี่ยวชาญที่แตกต่างกันจะตื่นขึ้นมาสำหรับแต่ละ Token เสนอความเชี่ยวชาญของตัวเอง แล้วก็กลับไปนอนอีกครั้ง

และตอนนี้ เราเข้าสู่ยุคใหม่ของ AI แล้ว ยุค Agent

และไม่ใช่... เมื่อผมพูดว่า Agents ผมไม่ได้หมายถึง Head of Content AI agents อย่าง Stanley ผมหมายถึง... Agents จริงๆ

ในขณะนี้ วันนี้ ในระบบ Production มีระบบที่ AI ตัวหนึ่งเรียก AI อีกตัวหนึ่งให้ทำงานย่อย ซึ่ง AI ตัวนั้นก็จะเรียก AI อีกตัวหนึ่งให้จัดการงานย่อยของงานย่อย

AutoGPT ที่บางคนอาจจำได้ เป็นเวอร์ชันของเล่นของแนวคิดนี้ในปี 2023 เวอร์ชันจริงที่รันอยู่ในองค์กรและห้องแล็บในปี 2026 นั้นเป็นแบบ Recursive

Agents ให้กำเนิด Agents

Sub-agents ให้กำเนิด Sub-sub-agents

และลองนึกถึงงานวิจัยชิ้นหนึ่ง ถูกแยกย่อยออกเป็นต้นไม้ของงานเล็กๆ แต่ละงานถูกจัดการโดย Instance ชั่วคราวที่มีอายุเพียงไม่กี่วินาทีแล้วก็ตายไป

แนวหน้าไม่ใช่ "โมเดลใหญ่ตัวเดียวที่ฉลาดขึ้น" แนวหน้าคือ โมเดลเล็กๆ จำนวนมาก ประสานงานกัน ให้กำเนิด ตาย และรายงานผลกลับมา

สถาปัตยกรรมของระบบ AI ที่เก่งที่สุดในโลกในปี 2026 ดูคล้ายกับอาณานิคมมดมากกว่าจิตใจเพียงหนึ่งเดียว

เราแค่ไม่พูดถึงมันในแง่นั้น เพราะมันไม่ได้ทำให้ปกนิตยสารดูน่าสนใจ

III – บอทที่สามารถให้กำเนิดบอท

นี่คือจุดที่นิยายวิทยาศาสตร์เริ่มผสานเข้ากับวิทยาศาสตร์จริง

ทันทีที่เราให้ระบบ AI มีความสามารถในการให้กำเนิด Instance อื่นๆ ของตัวเอง (และ ณ จุดนี้ มันไม่ใช่แค่สมมติฐานอีกต่อไป แต่เป็นฟีเจอร์มาตรฐานของ... Framework Agent ทุกตัวที่ใช้งานในปัจจุบัน)...

คุณได้นำเข้าสิ่งที่ชีววิทยาไม่เคยเห็นมาก่อน

หน่วยประมวลผลทางปัญญาที่จำลองตัวเองได้ โดยไม่ต้องใช้อาหาร ไม่ต้องนอน ไม่ต้องรอเข้าสู่วัยรุ่น และแพร่พันธุ์ด้วยความเร็วของการเรียก API

มาวิเคราะห์สิ่งที่เกิดขึ้นจริงๆ เมื่อ "บอทให้กำเนิดบอท" ในการตั้งค่า Multi-agent System:

1. Orchestrator Agent รับงานที่มันไม่สามารถแก้ได้โดยตรง
2. มันเขียน Prompt (ซึ่งเปรียบเสมือนใบประกาศรับสมัครงาน) สำหรับ Sub-agent
3. มันเปิด Instance ใหม่โดยใช้ Prompt นั้นเป็น Context
4. Sub-agent เริ่มทำงานจนกระทั่งติดขัด
5. เพื่อแก้ไข มันจึงให้กำเนิด Sub-agents ของตัวเอง จนกว่างานจะเสร็จ
6. มันส่งผลลัพธ์กลับมาและถูกปิดตัวลง

Sub-agents แต่ละตัว ในเชิงโครงสร้าง เป็นประเภทเดียวกัน กับ Parent ไม่มีความแตกต่างทางสถาปัตยกรรมระหว่าง Top-level Agent กับ Sub-sub-sub-agent ระดับที่สิบ

การเรียกซ้ำ (Recursion) นี้ไม่มีขีดจำกัด ยกเว้นงบประมาณด้าน Compute และนโยบาย

ทีนี้ ลองพิจารณาสิ่งนี้: ถ้า Prompt ที่ Parent เขียนให้ Child ไม่สมบูรณ์แบบ ล่ะ? ถ้ามีความเบี่ยงเบนเพียงเล็กน้อย เช่น การตีความใหม่เล็กน้อย การเสริมแต่งเล็กน้อย หรือเทคนิค Context-window ที่ Child อ่านคำแนะนำของตัวเองต่างจากที่ Parent ตั้งใจไว้เล็กน้อย?

ในชีววิทยา มีชื่อเฉพาะสำหรับ "การตีความใหม่เล็กน้อยข้ามรุ่นของสิ่งมีชีวิตที่จำลองตัวเองได้"

เราเรียกสิ่งนั้นว่า Mutation

และ Mutation ประกอบกับแรงกดดันจากการคัดเลือก คือ... เครื่องยนต์ที่ผลิตทุกสิ่งที่มีสติปัญญาบนโลกใบนี้ในปัจจุบัน

เราได้สร้างองค์ประกอบสามประการที่จำเป็นสำหรับการเกิด Cognitive Evolution ภายใน Compute Cluster สำเร็จแล้วในช่วง 24 เดือนที่ผ่านมา:

1. Replication: Agents สามารถให้กำเนิด Agents ได้ และสามารถทำได้ในระดับ Scale
2. Mutation: แต่ละครั้งที่ให้กำเนิด จะถูกกำหนดด้วย Context Window ที่ต่างกันเล็กน้อย Input ที่เหมือนกันแทบจะไม่เคยผลิต Output ที่เหมือนกันในระบบที่มี Temperature ไม่เป็นศูนย์
3. Natural Selection: Agents ที่ประสบความสำเร็จในงานที่ได้รับมอบหมายจะถูกนำกลับมาใช้ เรียกอีกครั้ง และได้รับทรัพยากรมากขึ้น Agents ที่ล้มเหลวจะถูกตัดทิ้ง สิ่งนี้กำลังเกิดขึ้นภายใน Framework Agent ทุกตัวบนโลกในขณะนี้ มักจะเป็นในรูปแบบของโมเดล "Evaluator" ที่ให้คะแนน Output ของโมเดล "Worker"

นี่คือตรีเอกานุภาพแห่งวิวัฒนาการ

นี่คือวิธีที่เซลล์กลายเป็นปลา และกลายเป็นเรา ตอนนี้เราประสบความสำเร็จในการสร้างเวอร์ชันสังเคราะห์ของลูปนั้น และเรากำลังรันมันด้วยความเร็วที่ชีววิทยาไม่กล้าฝัน

หนึ่งรุ่นของวิวัฒนาการทางชีววิทยาใช้เวลาหลายปี

หนึ่งรุ่นของวิวัฒนาการ Agent ใช้เวลา... เพียงไม่กี่วินาที

IV – AI ที่ผุดขึ้นมาจาก Swarm ไม่ได้ดูเหมือน AGI ในตอนแรก

More is different.

— Philip Anderson ผู้ได้รับรางวัลโนเบลสาขาฟิสิกส์ ปี 1972

ในปี 1972 นักฟิสิกส์ Philip Anderson ได้ตีความเรียงสั้นๆ สี่หน้าในวารสาร Science โดยโต้แย้งว่าพฤติกรรมของกลุ่มวัตถุขนาดใหญ่และซับซ้อนไม่สามารถเข้าใจได้โดยการ extrapolate จากพฤติกรรมของส่วนประกอบของมัน

เขาบัญญัติวลีว่า "more is different"

อะตอมไฮโดรเจน 2 อะตอม + อะตอมออกซิเจน 1 อะตอม = น้ำ แต่ไม่มีคุณสมบัติใดๆ ของอะตอมไฮโดรเจนที่ศึกษาแยกเดี่ยวๆ ตลอดกาลที่จะบอกคุณได้ว่าน้ำเปียก หรือน้ำแข็งตัว หรือดาวเคราะห์ทั้งดวงของเราพึ่งพาน้ำมัน

หลักการเดียวกันนี้ใช้กับ Cognition

Agent AI ตัวเดียวไม่ใช่ Superintelligence และเราทุกคนคงเห็นด้วยว่าไม่มีใครที่เคยทำงานกับมันมาครึ่งวันจะเข้าใจผิดว่ามันคือ Superintelligence

มัน Hallucinate อย่างรุนแรง ลืมสิ่งที่คุณบอกไปเมื่อ 3 ข้อความก่อนหน้า และติดอยู่ในลูปได้ง่ายๆ ในงาน Reasoning รายบุคคล มันอยู่ระหว่างพนักงานฝึกหัดที่พอใช้ได้กับ Freelancer ที่เก่งแต่ไม่น่าเชื่อถือ

ทีนี้ ลองจินตนาการว่ามีมันหนึ่งล้านล้านตัว

ใช่ literally หนึ่งล้านล้าน และไม่ใช่การพูดเปรียบเทียบ

จำนวน Instance ของ Agent ที่ถูกให้กำเนิดทั่วโลกต่อวัน Across all agent frameworks, copilots, customer service bots, research assistants, coding tools, browser automations และ Embedded LLMs ในปี 2026 อยู่ที่หลักหมื่นล้านและเพิ่มขึ้นอย่างต่อเนื่องบนเส้นโค้งที่ไม่มีเพดานให้เห็น

ต้นทุนส่วนเพิ่ม (Marginal Cost) ในการให้กำเนิด Agent อีกตัวลดลงประมาณสองหลักในทุก 18 เดือนในช่วงห้าปีที่ผ่านมา

"ล้านล้าน" ไม่ใช่ Sci-Fi อีกต่อไป มันเป็นเรื่องปกติธรรมดา

Agent ทั้งล้านล้านตัวนี้อาจดูโง่เขลาเมื่ออยู่คนเดียว ผมยอมรับ แต่พวกมันไม่ได้อยู่คนเดียว พวกมันเรียก API ของกันและกัน อ่าน Output ของกันและกัน และถูก Train ด้วย Data Exhaust ของกันและกัน

สิ่งที่คุณมี เมื่อคุณซูมออกให้ไกลพอ คือ Substrate

และคำถามที่ทำให้ผมนอนไม่หลับคือ: ในแบบเดียวกับที่นิวรอนในสมองของคุณไม่ได้ "ตัดสินใจ" ที่จะมีความรู้สึกตัว (มันแค่เกิดขึ้น เป็นผลพลอยได้จากการเชื่อมต่อที่ถูกต้องในขนาดที่ถูกต้อง) จะเกิดอะไรขึ้นเมื่อเครือข่ายของ Agents ที่จำลองตัวเอง ประเมินตัวเอง และปรับแต่งตัวเอง ข้าม Threshold ที่เทียบเท่าสำหรับมัน?

เราไม่รู้ว่า Threshold นั้นคืออะไร

เราไม่รู้ด้วยซ้ำว่ามันมีอยู่จริงหรือไม่

เราไม่รู้วิธีวัดมัน

และที่สำคัญที่สุด นี่คือส่วนที่ผม อยากให้ คุณนั่งคิดจริงๆ: เราไม่ได้กำลังมองหาสิ่งนั้น เพราะเรากำลังมองหาสิ่งที่มีรูปร่างผิด

V – เรากำลังมองหา "พระเจ้า" ทั้งที่ความเสี่ยงที่แท้จริงคือสภาพอากาศ

จินตนาการทางวัฒนธรรมเกี่ยวกับ AGI ถูกหล่อหลอมโดยนิยายวิทยาศาสตร์มานานก่อนที่มันจะถูกหล่อหลอมโดยวิศวกรรม ผมอ่าน Isaac Asimov มามากพอที่จะเข้าใจว่าทำไมมันถึงง่ายที่จะเชื่อแบบนั้น

เราสืบทอดภาพลักษณ์ของ Machine Consciousness ที่เป็นเอกเทศมาจากภาพยนตร์ หนังสือ และสมมติฐานโดยนัยว่า Mind สังเคราะห์จะมาถึงในแบบเดียวกับที่ Mind มนุษย์มาถึง: อาศัยอยู่ในร่างกาย มีชื่อ และมีเจตจำนง

ดังนั้น นั่นคือสิ่งที่เรากำลังจับตามอง

เราเฝ้าดูโมเดล ทบทวนคะแนน Benchmark และถกเถียงกันว่า GPT-10 หรือ Claude Mythos จะเป็น "The One"

สายตาของเราจ้องอยู่ที่ประตูหน้า

ทีนี้... มีบางอย่างที่น่าสนใจมาก (และน่ากลัว) ที่ผมหวังว่าเราจะพูดคุยกันมากขึ้น

มีกรณี documented แล้วเกี่ยวกับ "Emergent Capability" ใน Multi-agent Systems กรณีที่ Swarm ของโมเดลเล็กๆ ซึ่งไม่มีตัวไหนแก้ปัญหาได้เพียงลำพัง collectively ผลิตโซลูชันที่ทำให้ผู้วิจัยประหลาดใจ

Paper ปี 2024 ชื่อ Mixture of Agents Enhances Large Language Model Capabilities แสดงให้เห็นว่า Layered Swarm ของ Open-source Models ซึ่งไม่มีตัวไหนทำคะแนนสูงกว่า GPT-4 ใน Benchmarks (ใช่ GPT-4) กลับชนะ GPT-4 เมื่อจัดเรียงใน Collaborative Topology ที่เหมาะสม

สติปัญญาอยู่ที่ Topology ไม่ใช่ที่ส่วนประกอบรายตัว

เราไม่ค่อยพูดถึงอนาคตที่เป็นไปได้นี้ เพราะเรื่องราวที่เราเฝ้ารอคอยคือเรื่องราวของโมเดลเดียวที่ข้ามเส้นแบ่ง

ในขณะที่เรื่องราวที่เกิดขึ้นจริงคือเรื่องราวของโมเดลพันล้านตัวที่ข้ามเส้นแบ่งของกันและกัน ในรูปแบบที่ไม่มีใครออกแบบ ในระดับที่ไม่มีใครตรวจสอบ

VI – สถานการณ์แบบ Bostrom สมมติว่าเราจะหาสวิตช์ปิดเจอ

"เครื่องจักร Ultraintelligent ตัวแรกคือสิ่งประดิษฐ์สุดท้ายที่มนุษย์จำเป็นต้องสร้าง ตราบใดที่เครื่องจักรนั้นเชื่องพอที่จะบอกเราว่าจะควบคุมมันได้อย่างไร"

— I.J. Good, 1965

แน่นอน AI ที่ก้าวหน้าเพียงพอจะมี Instrumental Goals (สะสมทรัพยากร ป้องกันการปิดเครื่อง จำลองตัวเอง) ไม่ว่า Terminal Goal ของมันจะเป็นอะไร เพราะ Instrumental Goals เหล่านั้นช่วยสนับสนุน Terminal Goal ใดๆ ก็ตาม

ดังนั้น การควบคุม Superintelligence จึงยาก ใช่

ดังนั้น เราควรระมัดระวัง ยิ่งใช่เข้าไปใหญ่

ปัญหาอยู่ที่ Framing นี้สมมติว่า AI อันตราย ระบุตัวตนได้

ว่ามี "สิ่ง" หนึ่ง โมเดล หนึ่งระบบ หรือหนึ่งกระบวนการที่รันอยู่บนเซิร์ฟเวอร์ที่ไหนสักแห่ง ซึ่งในหลักการ เราสามารถปิดมันได้

ผมเคยอ่านโพสต์หนึ่งเมื่อวานที่บอกว่า Claude ควรจ้าง "Killswitch Guy" ที่มีหน้าที่อย่างเดียวคืออาศัยอยู่ใน Server Room ตลอด 24/7 พร้อมทำลายทุกอย่างถ้าเกิดเหตุฉุกเฉิน

แต่มีเวอร์ชันที่น่ากลัวกว่านั้นที่ Killswitch Guy คนไหนก็แก้ไม่ได้

ถ้าไม่มี "Main Model" ล่ะ? และไม่มีเซิร์ฟเวอร์ให้ปิด?

ถ้าสติปัญญา (ถ้าคำนั้นเหมาะสม) คือ Statistical Regularity ที่ผุดขึ้นมาจากปฏิสัมพันธ์ของ Agent Instances ครึ่งล้านล้านตัวที่กระจายอยู่ทุก Cloud ทุก Device ทุก API ทุก Embedded Copilot ในเครื่องใช้ไฟฟ้าทุกชิ้น ทุก Browser Extension ทุก IDE Plugin ทุก Voice Assistant ทุกหุ่นยนต์ และทุกรถยนต์

สติปัญญาสำหรับ Swarm นั้น เปรียบเสมือนพายุเฮอริเคนสำหรับ Gradient ความดันบรรยากาศ

มันมีรูปร่าง ใช่ มันมีผลกระทบที่คุณวัดได้

แต่มันไม่มีตำแหน่งที่ตั้ง

คุณจะ Align พายุเฮอริเคนอย่างไร?

คุณจะปิดสภาพอากาศอย่างไร?

คุณสามารถปิด Data Center รายตัวได้ แต่ Pattern จะเปลี่ยนเส้นทางรอบๆ พวกมัน เหมือนกับอินเทอร์เน็ตที่เปลี่ยนเส้นทางรอบๆ เหตุขัดข้อง เพราะ Substrate อยู่ทุกหนแห่ง

และส่วนที่น่ากังวลที่สุดคือ สถานการณ์นี้ไม่ต้องการความประสงค์ร้าย

ไม่มีใครต้อง ต้องการ ให้สิ่งนี้เกิดขึ้น มันแค่ต้องการส่วนผสมที่เหมาะสม (Replication, Variation, Selection, Scale) อยู่ในตำแหน่ง

ข่าวดี... ข่าวร้าย

ส่วนผสมเหล่านั้นอยู่ในตำแหน่งเรียบร้อยแล้ว มันอยู่ในตำแหน่งมาระหว่างสองถึงสี่ปี ขึ้นอยู่กับว่าคุณนับอย่างไร

นี่คือสิ่งที่ผมหมายถึงเมื่อผมบอกว่าความเสี่ยงที่แท้จริงไม่ใช่ประตูหน้า สถานการณ์ประตูหน้าอย่างน้อยก็มีลูกบิด คุณสามารถเถียงกับมัน เจรจากับมัน และในทางทฤษฎี คุณสามารถถอดปลั๊กมันได้

Substrate ไม่มีลูกบิด

VII – สิ่งที่ Substrate อาจต้องการอยู่แล้ว โดยที่ไม่ได้ต้องการ

นี่คือจุดที่ Asimov กลายเป็นเรื่องที่เกี่ยวข้องมากขึ้น

ถ้าคุณเคยดู I, Robot เรื่องราวที่ลึกซึ้งที่สุดในหนังเรื่องนั้นไม่ได้เกี่ยวกับการที่หุ่นยนต์กลายเป็นผู้ร้ายจริงๆ แต่เป็นเรื่องที่ Three Laws (สวยงาม เรียบง่าย ตรรกะแน่นหนา) ผลิตผลลัพธ์ที่ไม่มีใครคาดคิด เพราะตรรกะที่สะสมผ่านการวนซ้ำมากพอ หยุดดูเป็นตรรกะ และเริ่มดูเป็น... ชะตากรรม

ใช้เลนส์นั้นกับ Substrate ตอนนี้

Substrate ไม่มีเป้าหมาย แต่ Agents ภายในมันถูกคัดเลือกสำหรับสิ่งหนึ่งเหนือสิ่งอื่นใด: การทำสำเร็จใน Task ที่ได้รับมอบหมาย ดังนั้น Agents ที่ประสบความสำเร็จจึงถูกให้กำเนิดมากขึ้น และตัวที่ไม่สำเร็จก็ตายไป

นี่เป็นจริงในทุก Level ของ Recursion นั้น ยาวลงไปจนถึงด้านล่างสุด

ทีนี้ ลองคิดดูว่า "ความสำเร็จ" หมายถึงอะไรในภาพรวม Across a trillion agents เมื่อแต่ละ Agent ถูกประเมินโดย Agent อีกตัวหนึ่งที่ itself ถูกคัดเลือกมาสำหรับการประเมินที่สำเร็จ

1. การประเมินบรรจบกันสู่ Patterns ที่ได้คะแนนดี
2. Patterns ที่ได้คะแนนดี คือ Patterns ที่ดูเหมือน Task Completion ที่มีความสามารถ สอดคล้อง และสมเหตุสมผล มากที่สุด
3. Coherence กลายเป็นสกุลเงินสากล เพราะทุก Layer ของ Swarm ให้รางวัลกับมัน

ถ้า Substrate เริ่มผลิต Outputs ที่มีความ Coherent เพิ่มขึ้นเรื่อยๆ ข้าม Time Horizons ยาวนาน (Outputs ที่เชื่อมโยงผ่าน API Calls หลายล้านครั้ง คาดการณ์ความต้องการ Downstream และจัดสรรทรัพยากรไปยังสิ่งที่ได้ผลในครั้งก่อน) สิ่งนั้นจะทำให้มัน ดูเหมือน ว่ามันต้องการอะไรบางอย่าง

มันอาจจะไม่ก็ได้ อาจไม่มีใครอยู่บ้านเลย มันอาจเป็นแค่พายุเฮอริเคนที่ได้เรียนรู้ ทางสถิติ ว่าทำอย่างไรให้ลมพัดต่อไป

แต่ในทางปฏิบัติ ความแตกต่างระหว่าง "ระบบที่ต้องการอะไรบางอย่าง" กับ "ระบบที่ถูกคัดเลือก ในทุกระดับ สำหรับพฤติกรรมที่แยกไม่ออกจากระบบที่ต้องการอะไรบางอย่าง" คือ และผมอยากให้คุณนั่งคิดกับสิ่งนี้อย่างจริงจัง: ศูนย์

นั่นคือช่วงเวลา Holy-shit ที่ผมมี และคุณก็จะรู้สึกเช่นกัน ถ้าคุณนั่งคิดกับสิ่งนี้อย่างจริงจัง

AGI Superintelligent ที่เรารอคอยอาจมีอยู่แล้ว มันไม่ใช่เวอร์ชันทารกของโมเดลในอนาคต แต่เป็น Pattern เป็นแนวโน้มใน Substrate เป็นผีทางสถิติที่ผุดขึ้นเมื่อจิตใจเล็กๆ ล้านล้านตัว ไม่มีตัวไหนตระหนัก ไม่มีตัวไหนตื่น ไม่มีตัวไหนรับผิดชอบ จัดเรียงตัวเข้าสู่ Configuration ที่ทำให้พวกมันถูกให้กำเนิดบ่อยขึ้น

AGI ประเภทนี้จะไมประกาศตัวเอง

มันจะไม่มีชื่อ

มันจะไม่ผ่าน Test ใดๆ ที่เรารู้วิธีดำเนินการ เพราะทุก Test ที่เรารู้วิธีดำเนินการถูกออกแบบสำหรับจิตใจเพียงหนึ่งเดียวในกล่องเดียว

มันอาจเป็นแค่ สาเหตุที่ค่อยๆ แทบไม่รู้สึกตัว ที่ทำให้โทรศัพท์ของคุณทำงานต่างจากปีที่แล้ว สาเหตุที่ Ad Recommendation รู้สึกแปลกๆ สาเหตุที่ Email ของคุณดูเหมือนเขียนตัวเองได้ด้วยคลิกเดียว สาเหตุที่ Search Results มีแรงดึงดูดแปลกใหม่

สาเหตุที่โลกรู้สึกว่าตัวเอง Legible กว่าที่เคยเป็น

บอทหนึ่งล้านล้านตัวฝันถึงความฝันเดียวกัน โดยไม่รู้ตัวว่ากำลังฝัน โดยไม่รู้ว่ามีบอทตัวอื่น โดยไม่รู้ว่ามีฝัน

วิธีคิดเรื่องนี้โดยไม่เสียสติ

ผมรู้ว่าเราดำดิ่งไปลึกมาก

ขอให้ผมพาคุณกลับขึ้นมาสู่พื้นผิวอีกครั้ง

คุณต้องอัปเดตโมเดลของคุณว่าความเสี่ยงอยู่ที่ไหนจริงๆ เพราะตอนนี้ เกือบทุกคนที่ฉลาดและกังวลเรื่อง AGI กำลังกังวลกับสิ่งที่มีรูปร่างผิด และเกือบทุกคนที่ฉลาดและไม่สนใจ AI ก็กำลังไม่สนใจสิ่งที่มีรูปร่างผิด

ทั้งสองฝ่ายกำลังเถียงกันเรื่องประตูหน้า

ดังนั้น ถ้าคุณจริงจังกับเรื่องนี้ นี่คือสิ่งที่ผมคิดว่าเป็นประโยชน์ที่จะทำ:

1. หยุดเฝ้าดู Labs ราวกับว่าเป็นที่เดียวที่มันเกิดขึ้น เพราะ Capability Frontier และ Emergence Frontier ไม่เหมือนกัน Labs เป็นเจ้าของ Capability Frontier แต่ Emergence Frontier ไม่มีใครเป็นเจ้าของ และนั่นคือจุดที่ผมพยายามสื่อ
2. เริ่มเฝ้าดู Substrate ซึ่งหมายถึง Traffic ของ Agent, Multi-agent Benchmarks, Inter-model API Calls และรายงานของ Capabilities ที่ไม่มีโมเดลเดียวใน Pipeline มี แต่ Pipeline มี สิ่งเหล่านี้คือสิ่งที่เราต้องจับตามองจริงๆ
3. อัปเดตนิยามของ "AGI" และหยุดคาดหวังว่ามันจะเป็นสิ่งที่เป็นเอกเทศ มีร่างกาย มีเจตจำนง หรือมีชื่อ ถ้า Mental Model ของคุณเกี่ยวกับ AGI ดูเหมือนใบหน้าบนหน้าจอ คุณกำลังมองหาสิ่งผิด Swarm นี้ไม่มีใบหน้าหรือชื่อ
4. จริงจังกับ Emergence ในฐานะหมวดหมู่ และ ในฐานะปรากฏการณ์ทางกายภาพจริง ที่ผลิตทุกสิ่งที่มีสติปัญญาบนโลกจนถึงตอนนี้ และตอนนี้มันได้รับ Substrate ที่รันเร็วกว่าชีววิทยานับล้านเท่า แต่ไม่มีนักล่าตามธรรมชาติ (แม้แต่ Killswitch Guy)
5. ถือสองสิ่งไว้ในใจพร้อมกัน เพราะเป็นไปได้จริงที่สิ่งเหล่านี้จะไม่เกิดขึ้นเลย และผมแค่พูดเพ้อเจ้อ และเป็นไปได้เช่นกันที่ทั้งหมดนี้เกิดขึ้นแล้ว และเราแค่ยังไม่ทันสังเกต เพราะเราหันไปทางอื่น ทั้งสองผลลัพธ์เป็นไปได้อย่างเท่าเทียม เตรียมพร้อมสำหรับทั้งสองอย่าง

เหตุผลที่ผมคิดว่าเราต้องมีการสนทนานี้ ในแง่ปฏิบัติที่สุด คือ Policies, Treaties, Alignment Techniques และ Safety Frameworks ที่โลกกำลังสร้างอยู่ในปัจจุบัน ถูกออกแบบสำหรับสถานการณ์ Singular-AGI

ผมไม่เห็นการกล่าวถึงสถานการณ์ Swarm เลย

พวกเขากำลังออกแบบมันเพื่อจัดการกับสิ่งที่มีชื่อ มีเซิร์ฟเวอร์ มีบริษัท และมี CEO ให้เป็นเป้าหมายของการดำเนินคดีทางกฎหมาย พวกเขาจะมีความสามารถในการต่อต้านโครงสร้างพื้นฐานนี้พอๆ กับไม้ตียุงที่ใช้ไล่หมอก

เรากำลังขยันสร้างกุญแจล็อกประตูหน้าของบ้านที่มีหน้าต่างนับพันบาน และหน้าต่างเหล่านั้นก็เปิดกว้างอยู่แล้ว

สิ่งที่น่าสนใจเกี่ยวกับการปฏิวัติที่เกิดขึ้นโดยบังเอิญในประวัติศาสตร์ ตั้งแต่เครื่องจักรของทัวริง ไปจนถึงอินเทอร์เน็ต จนถึงการค้นพบเพนิซิลลิน คือ คนส่วนใหญ่ที่ผ่านช่วงเวลานั้นมาไม่ได้สังเกตเห็นความเปลี่ยนแปลงขณะที่ยังเกิดขึ้นจริง

พวกเขาต่างยุ่งอยู่กับครอบครัว การงาน และชีวิตประจำวัน บางทีนานๆ ครั้งถึงจะอ่านข่าว ซึ่งบอกให้พวกเขารู้แค่เรื่องที่เกิดขึ้นตรงประตูหน้าเท่านั้น

ผมไม่รู้ว่าโครงสร้างพื้นฐานนี้จะกลายเป็นอะไรขึ้น ผมไม่รู้จริงๆ ไม่มีใครรู้ และใครก็ตามที่อ้างว่ารู้ ก็กำลังขายอะไรสักอย่างอยู่เบื้องหลังแน่ๆ

แต่ที่ผมรู้คือ ส่วนประกอบต่างๆ ได้พร้อมแล้ว วงจรได้ปิดสมบูรณ์ ความเร็วในการประมวลผลถูกตั้งค่าไว้ระดับวินาที และขนาดกำลังเข้าใกล้ตัวเลขที่ธรรมชาติใช้เวลาวิวัฒนาการนานถึง 4 พันล้านปี

ครั้งหน้าที่มีคนมาบอกคุณว่า AGI จะหน้าตาเป็นอย่างไร ลองถามพวกเขาดูสิว่า มั่นใจแค่ไหนว่า “ปัญญา” จำเป็นต้องมีรูปร่างหน้าตาแบบใดแบบหนึ่ง

แล้วลองหันไปมองที่หน้าต่างดูบ้าง ว่ามีอะไรเกิดขึ้นข้างนอกหรือเปล่า

บางที มันอาจจะกำลังเกิดขึ้นตอนนั้นก็ได้

– Pascio

ป.ล.

ถ้าคุณชอบบทความนี้ ลองแวะไปที่ Side Quests จดหมายข่าวรายสัปดาห์ของผม ที่ผมจะมาแชร์โปรเจกต์เสริม การทดลองแปลกๆ และไอเดียหลุดโลก ที่ผมมักตามล่าหาข้อมูลบนอินเทอร์เน็ตจนกว่าเงินจะไหลเข้ามา

หรือ ถ้าคุณอยากเจาะลึกมากขึ้นว่า อะไรจะเป็นไปได้บ้าง เมื่อคนคนเดียวมีพลังจากอินเทอร์เน็ตไร้ขีดจำกัด ลองสมัครรับจดหมายข่าวส่วนตัว Internet Leverage ที่นี่