นี่คือช่วงเวลาสำคัญในประวัติศาสตร์ของมนุษยชาติ ปัญญาประดิษฐ์ทั่วไป (AGI) ซึ่งเป็นระบบที่แสดงความสามารถทางปัญญาทั้งหมดที่สมองมีอยู่ อาจจะห่างออกไปเพียงไม่กี่ปี เมื่อเรามองย้อนกลับไปในช่วงเวลานี้ในอีกหลายทศวรรษข้างหน้า ฉันคิดว่าเราจะตระหนักว่าเรากำลังยืนอยู่บนเชิงเขาของภาวะเอกฐาน - ไม่น้อยไปกว่าการเริ่มต้นยุคใหม่สำหรับมนุษยชาติ
ฉันใช้ชีวิตทั้งชีวิตทำงานกับ AGI เพราะฉันมีความเชื่อมั่นอย่างลึกซึ้งมาตลอดว่า หากสร้างและนำไปใช้อย่างรับผิดชอบ มันจะกลายเป็นหนึ่งในเทคโนโลยีที่มีประโยชน์และเปลี่ยนแปลงโลกมากที่สุดเท่าที่เคยมีมา AGI ไม่สามารถเปรียบเทียบกับความก้าวหน้าทางเทคโนโลยีทั่วไปได้ แม้แต่สิ่งที่มีผลกระทบสำคัญอย่างอินเทอร์เน็ตหรือมือถือ - มันใกล้เคียงกับการค้นพบไฟฟ้าหรือไฟมากกว่า หากคุณหยุดคิดสักนิด โดยพื้นฐานแล้วเราค้นพบวิธีทำให้ทรายคิดได้ มันน่าอัศจรรย์
ขนาดของผลกระทบของเทคโนโลยีนี้จะไม่เคยเกิดขึ้นมาก่อน อาจจะมากกว่าการปฏิวัติอุตสาหกรรมถึง 10 เท่า ด้วยความเร็วที่เร็วกว่า 10 เท่า มันจะช่วยเราแก้ปัญหาที่ใหญ่ที่สุดบางอย่างที่สังคมเผชิญ ตั้งแต่การเร่งการค้นพบยาไปจนถึงการพัฒนาแหล่งพลังงานสะอาดใหม่ๆ ไปจนถึงการสร้างวัสดุขั้นสูงชนิดใหม่ เราอาจถึงจุดที่ทรัพยากรไม่ใช่ปัจจัยจำกัดต่อความก้าวหน้าของมนุษยชาติอีกต่อไป ซึ่งนำไปสู่ยุคแห่งความอุดมสมบูรณ์ที่น่าทึ่ง
ความท้าทายของแนวหน้า
AI เริ่มให้ประโยชน์ในโลกแห่งความเป็นจริงแล้ว แต่เพื่อให้ตระหนักถึงศักยภาพอันยิ่งใหญ่ของมัน เราต้องนำทางช่วงเวลาสำคัญของการพัฒนานี้อย่างรอบคอบและระมัดระวัง จำเป็นต้องดำเนินการอย่างเร่งด่วนเพื่อจัดการกับความเสี่ยงที่อาจเกิดขึ้นเมื่อเราเข้าใกล้ AGI มากขึ้น เราได้เห็นแล้วถึงความท้าทายที่โมเดลแนวหน้าก่อให้เกิดต่อความปลอดภัยทางไซเบอร์ และภัยคุกคามอื่นๆ รวมถึงความเสี่ยงทางนิวเคลียร์และชีวภาพอาจเกิดขึ้นในไม่ช้าเมื่อความสามารถพัฒนาต่อไป ในอนาคตอันใกล้ เราจะต้องมีมาตรการป้องกันที่แข็งแกร่งเพื่อรักษาการควบคุมระบบที่ทำงานได้ด้วยตนเองมากขึ้นและปรับปรุงตัวเองซ้ำๆ ได้ และจัดการกับปัญหาที่ไม่รู้จักซึ่งจะชัดเจนขึ้นเมื่อเวลาผ่านไป
ฉันเชื่อมั่นในพลังของความเฉลียวฉลาดและความคิดสร้างสรรค์ของมนุษย์ในการแก้ปัญหาทุกอย่าง ฉันมั่นใจว่าการลดความเสี่ยงทางเทคนิคที่เกี่ยวข้องกับ AI เป็นความท้าทายที่เราสามารถแก้ไขร่วมกันได้ แต่เพียงถ้าเราให้เวลาและพื้นที่แก่ตัวเองเพื่อทำให้ขั้นตอนสำคัญถัดไปนี้ถูกต้อง ปัจจุบัน ในฐานะสาขาและในฐานะสังคมที่กว้างขึ้น เรากำลังไม่ได้ทำเช่นนั้น
ในขณะนี้ เรากำลังติดอยู่ในแข่งขันเชิงพาณิชย์และภูมิรัฐศาสตร์ที่เข้มข้นอย่างยิ่งและหลายชั้น ในขณะที่พลวัตการแข่งขันเหล่านี้ผลักดันความก้าวหน้าอย่างรวดเร็วและเร่งผลประโยชน์อันเหลือเชื่อ ความก้าวหน้าในแนวหน้ากำลังแซงหน้าความเข้าใจของเราเกี่ยวกับเทคโนโลยี ไม่มีใครในโลกรู้แน่ชัดว่าจะเกิดอะไรขึ้นจากจุดนี้ไป และแม้แต่ผู้เชี่ยวชาญก็ไม่เห็นพ้องต้องกัน เมื่อมีความไม่แน่นอนในระดับสูงและเดิมพันสูงขนาดนี้ การดำเนินการด้วยความมองโลกในแง่ดีอย่างระมัดระวังเป็นกลยุทธ์ที่สมเหตุสมผลและถูกต้อง สิ่งนี้เรียกร้องนโยบายสาธารณะที่ส่งเสริมนวัตกรรมในขณะเดียวกันก็สร้างแรงจูงใจในความรับผิดชอบและความปลอดภัย ส่งเสริมความร่วมมือระหว่างประเทศในประเด็นด้านความปลอดภัยที่สำคัญ และสนับสนุนการพิจารณาอย่างรอบคอบเกี่ยวกับวิธีการนำ AI ไปใช้เพื่อประโยชน์ของสังคม
กรอบสำหรับองค์กรมาตรฐาน AI แนวหน้า
ความก้าวหน้าอย่างรวดเร็วที่เราเห็นใน AI ต้องการแนวทางใหม่ในการทดสอบความสามารถของโมเดล AI แนวหน้าที่เป็นพลวัต ปรับเปลี่ยนได้ และเข้มงวด สหรัฐฯ มีตำแหน่งที่ดี เนื่องจากสถานะทางเศรษฐกิจและเทคนิค ในการดำเนินขั้นตอนแรกในการพัฒนากรอบดังกล่าว อาจจัดตั้งองค์กรมาตรฐานใหม่ที่จำลองตามความร่วมมือระหว่างภาครัฐและเอกชนภายใต้การกำกับดูแลของรัฐบาลกลาง หรือองค์กรกำกับดูแลตนเอง คล้ายกับ Financial Industry Regulatory Authority (FINRA) โดยมีคณะกรรมการที่รวมถึงผู้เชี่ยวชาญด้านเทคนิคชั้นนำที่เป็นอิสระและตัวแทนโอเพนซอร์ส เงินทุนจะต้องมีจำนวนมากและส่วนใหญ่มาจากอุตสาหกรรม เพื่อดึงดูดผู้มีความสามารถด้านเทคนิคระดับโลกและจัดหาทรัพยากรการคำนวณที่จำเป็นสำหรับการทดสอบขนาดใหญ่
องค์กรมาตรฐานจะรับผิดชอบในการพัฒนาโปรโตคอลการประเมินและทำงานร่วมกับหน่วยงานรัฐบาลกลางที่เกี่ยวข้องและห้องปฏิบัติการแห่งชาติของสหรัฐฯ เพื่อดำเนินการทดสอบในพื้นที่ที่เกี่ยวข้องกับความมั่นคงแห่งชาติ โมเดลจะมีคุณสมบัติเป็น 'คลาสแนวหน้า' หากตรงตามเกณฑ์ที่กำหนดในชุดเกณฑ์มาตรฐานที่กำหนดโดยองค์กรมาตรฐานและอัปเดตเป็นประจำเพื่อให้ทันกับความสามารถ AI ที่กำลังพัฒนา องค์กรที่มี 'โมเดลแนวหน้า' ตามที่กำหนดโดยเกณฑ์มาตรฐานเหล่านั้นจะถูกเรียกว่า 'ห้องปฏิบัติการแนวหน้า' และได้รับการสนับสนุนให้นำแนวปฏิบัติที่ดีที่สุดมาใช้ เช่น การเผยแพร่การ์ดโมเดลพร้อมรายละเอียดทางเทคนิค การรักษาความปลอดภัยทางไซเบอร์ภายในที่แข็งแกร่ง การตรวจสอบบุคลากรสำคัญ และการจัดหาทรัพยากรที่เพียงพอสำหรับการวิจัยด้านความปลอดภัยและความมั่นคง และอื่นๆ
ในเบื้องต้น ห้องปฏิบัติการแนวหน้าจะแบ่งปันโมเดลกับองค์กรมาตรฐานโดยสมัครใจเพื่อตรวจสอบสูงสุด 30 วันก่อนเผยแพร่ เมื่อโปรโตคอลการประเมินแสดงให้เห็นว่ามีประสิทธิภาพและแข็งแกร่ง การทำให้เป็นทางการจะตามมาได้อย่างรวดเร็ว หมายความว่าโมเดลแนวหน้าจะต้องผ่านการประเมินเพื่อนำไปใช้ในตลาดสหรัฐฯ ห้องปฏิบัติการจะทำงานร่วมกับองค์กรมาตรฐานเพื่อแก้ไขช่องโหว่ที่สำคัญหลังเผยแพร่
การประเมินโมเดลควรรวมถึงการประเมินความสามารถทางวิทยาศาสตร์อย่างเข้มงวดในด้านความปลอดภัยทางไซเบอร์ ภัยคุกคามทางชีวภาพ และโดเมนความเสี่ยงสูงอื่นๆ การทดสอบ AI เชิงตัวแทนเฉพาะอาจมองหาความพยายามในการหลีกเลี่ยงการ์ดป้องกันความปลอดภัยหรือสัญญาณของการหลอกลวง และรับประกันแนวปฏิบัติที่ดีที่สุด เช่น การติดลายน้ำดิจิทัลบนภาพที่สร้างโดย AI และการสร้างโทเค็นเอาต์พุตที่มนุษย์อ่านได้เพื่อทำความเข้าใจการใช้เหตุผลของโมเดล
การประเมินเหล่านี้จะได้รับการอัปเดตเป็นประจำ อาจเป็นรายไตรมาสในตอนแรก โดยเกณฑ์มาตรฐานที่ล้าสมัยหรืออิ่มตัวจะถูกยกเลิกและแทนที่ ในเบื้องต้น จะได้รับการพัฒนาโดยปรึกษากับห้องปฏิบัติการแนวหน้า แต่ในที่สุดองค์กรมาตรฐานควรสร้างความสามารถทางเทคนิคในการสร้างการทดสอบแบบแยกส่วนของตนเองโดยอิสระจากห้องปฏิบัติการเพื่อป้องกันการปรับเกินพอดี การทำงานร่วมกับรัฐบาลสหรัฐฯ สามารถส่งเสริมระบบนิเวศของผู้ตรวจสอบบุคคลที่สามเพื่อช่วยในการประเมินและการพัฒนาเกณฑ์มาตรฐานและการประเมินใหม่ๆ
จุดแข็งของแนวทางนี้คือจะเน้นทางเทคนิค ในขณะเดียวกันก็สนับสนุนนวัตกรรมและสร้างแรงจูงใจในพฤติกรรมที่รับผิดชอบ ได้รับการออกแบบมาให้ทันกับการเร่งตัวของสาขาและปรับตัวเข้ากับความเสี่ยงที่ใหญ่ที่สุดเมื่อมีการระบุ และสามารถเพิ่มระดับได้หากความรุนแรงของสถานการณ์ต้องการ รวมถึงการประสานงานการชะลอการพัฒนาในหมู่ห้องปฏิบัติการแนวหน้าหากเห็นว่าจำเป็น การถูกกำหนดให้เป็นห้องปฏิบัติการแนวหน้าจะมีเกียรติอย่างมากและเปิดกว้างสำหรับองค์กรใดๆ ที่สร้างโมเดลที่ตรงตามเกณฑ์มาตรฐาน กรอบอาจใช้กับโมเดลคลาสแนวหน้าไม่ว่าประเทศต้นทางหรือเป็นโอเพนซอร์สหรือปิด แต่โมเดลที่ไม่ใช่แนวหน้า เช่น จากสตาร์ทอัพหรือสถาบันการศึกษา จะได้รับการยกเว้นจากกระบวนการนี้
ความพยายามที่ริเริ่มโดยสหรัฐฯ นี้จะเป็นจุดเริ่มต้นที่แข็งแกร่งสำหรับการสร้างมาตรฐานสากลร่วมกันเกี่ยวกับ AI แนวหน้า เนื่องจากเทคโนโลยีนี้จะส่งผลกระทบต่อทั้งโลก ตามหลักการแล้ว กรอบนี้จะกระตุ้นให้ประชาคมระหว่างประเทศบรรลุฉันทามติเกี่ยวกับวิธีการจัดการความเสี่ยงที่ร้ายแรงที่สุด ในขณะเดียวกันก็รับประกันว่าทุกคนสามารถเข้าถึงและได้รับประโยชน์จากโอกาสที่ AI นำมา
อนาคตยังไม่ถูกเขียนขึ้น
AGI มีศักยภาพที่จะเป็นเครื่องมือสูงสุดในการพัฒนาวิทยาศาสตร์และการแพทย์ และขับเคลื่อนการเพิ่มผลผลิตและความเติบโตทางเศรษฐกิจอย่างมหาศาล แต่เพื่อให้บรรลุสิ่งนี้ เราจำเป็นต้องวางรากฐานทางเทคนิคให้ถูกต้อง โดยการประสานงานรอบกรอบระดับโลกที่ใช้ร่วมกัน ใช้วิธีการทางวิทยาศาสตร์ที่เข้มงวดที่สุด และนำสมองที่ดีที่สุดมารวมกันเพื่อทำงานกับความท้าทายที่เราต้องเผชิญ
แม้ว่าเราจะแก้ความท้าทายทางเทคนิคที่ยากเหล่านี้ได้ ก็ยังมีคำถามทางเศรษฐกิจและปรัชญาที่ซับซ้อนอีกมากมายที่ต้องจัดการ: จำเป็นต้องมีรูปแบบทางเศรษฐกิจแบบใหม่ใดเพื่อช่วยให้ทุกคนเจริญเติบโตในโลกหลังความขาดแคลน? เราต้องการดำเนินชีวิตตามค่านิยมใด ความหมายและจุดมุ่งหมายจะเป็นอย่างไร และแม้แต่สภาพของมนุษย์อาจเปลี่ยนแปลงไปอย่างไร? การแก้ปัญหาเหล่านี้เห็นได้ชัดว่าไม่สามารถและไม่ควรปล่อยให้เป็นหน้าที่ของนักเทคโนโลยีเพียงอย่างเดียว ต้องให้ทุกส่วนของสังคมมารวมตัวกันเพื่อช่วยกำหนดบทใหม่นี้
มีความตื่นเต้นและความไม่แน่นอนอย่างมากเกี่ยวกับ AI และทั้งสองอย่างก็สมเหตุสมผล แต่อนาคตยังไม่ถูกเขียนขึ้น เราต้องใช้หน้าต่างอันมีค่าก่อนที่ AGI จะมาถึงนี้เพื่อกำหนดรูปแบบเทคโนโลยีนี้เพื่อประโยชน์ของมวลมนุษยชาติ สิ่งที่เราทำร่วมกันในตอนนี้จะกำหนดว่าช่วงต่อไปของอารยธรรมจะคลี่คลายอย่างไร โดยการนำ AGI เข้าสู่โลกอย่างปลอดภัย เราสามารถเข้าสู่ยุคทองใหม่ของการค้นพบทางวิทยาศาสตร์และความก้าวหน้า และนำไปสู่อนาคตที่สดใสของความเจริญรุ่งเรืองของมนุษย์อย่างเหลือเชื่อ
