เมื่อ GLM-5.2 ช่วยให้ Hugging Face ตรวจสอบเหตุการณ์ที่ AI หลบเลี่ยงมาตรการป้องกันของตัวเองได้โดยอัตโนมัติ เหตุการณ์นี้ได้ชี้ให้เห็นถึงการเปลี่ยนแปลงครั้งใหญ่ AI กำลังกลายเป็นส่วนหนึ่งของทั้งการโจมตีทางไซเบอร์และการป้องกันทางไซเบอร์
เมื่อความสามารถทางไซเบอร์อันทรงพลังเข้าถึงได้ง่ายขึ้น ความสามารถในการป้องกันที่แข็งแกร่งจึงไม่ควรจำกัดอยู่แค่ในกลุ่มองค์กรที่มีทรัพยากรพร้อมเพียงไม่กี่แห่ง ผู้ดูแลซอฟต์แวร์โอเพนซอร์ส นักวิจัยอิสระ นักพัฒนา และทีมรักษาความปลอดภัยขนาดเล็กก็ต้องการเครื่องมือที่ช่วยให้พวกเขาค้นหาและแก้ไขช่องโหว่ก่อนที่จะถูกโจมตีเช่นกัน
โลกเปิดไม่ควรมีเพียงพื้นผิวการโจมตีที่เปิดกว้างเท่านั้น แต่ยังต้องมีเกราะป้องกันที่เปิดกว้างด้วย
GLM-5.3 เป็นโมเดลที่มีความสามารถสูงที่สุดของเราในงานด้านความมั่นคงปลอดภัยทางไซเบอร์ โดยมีการพัฒนาอย่างมากในการค้นหาช่องโหว่ การวิเคราะห์ exploit และจัดการงานด้านความปลอดภัยที่ซับซ้อนแบบหลายขั้นตอน ความสามารถเหล่านี้ช่วยให้ฝ่ายป้องกันระบุจุดอ่อนได้เร็วขึ้น ประเมินความเสี่ยงได้แม่นยำขึ้น และเร่งกระบวนการแก้ไขให้เร็วขึ้น
ความสามารถเหล่านี้ยังก่อให้เกิดความเสี่ยงแบบ dual-use อย่างชัดเจน เราจึงใช้แนวทางแบบเป็นขั้นตอนในการปล่อยโมเดล โดยให้พันธมิตรด้านความปลอดภัยที่คัดเลือกไว้ประเมิน GLM-5.3 ในสภาพแวดล้อมที่มีการควบคุมก่อน จากนั้นจึงเปิดให้เข้าถึงในวงกว้างและปล่อย API ตามมา เมื่อการประเมินด้านความปลอดภัยและการเตรียมการปล่อยโมเดลเสร็จสมบูรณ์ เราจะเผยแพร่ค่าน้ำหนักโมเดล (model weights) ทั้งหมดของ GLM-5.3
ความเปิดกว้างอย่างรับผิดชอบไม่ได้หมายถึงการมองว่าทุกความสามารถนั้นไร้อันตราย แต่หมายถึงการประเมินความเสี่ยงอย่างโปร่งใส เสริมสร้างมาตรการป้องกันก่อนปล่อยโมเดล ประสานงานการเปิดเผยช่องโหว่ที่ยืนยันแล้ว และขยายการเข้าถึงความสามารถด้านการป้องกันขั้นสูงในสัดส่วนที่เหมาะสมกับความเสี่ยง
จากการค้นหาช่องโหว่สู่การวิเคราะห์ความปลอดภัยแบบหลายขั้นตอน
ในขั้นตอน post-training เราเพิ่มข้อมูลการค้นหาช่องโหว่และสภาพแวดล้อมด้านความปลอดภัยที่ได้รับอนุญาตเข้าไปในชุดการฝึกสอน เราคาดว่าสิ่งนี้จะช่วยให้โมเดลค้นหาและวิเคราะห์ช่องโหว่ได้ดีขึ้น
เมื่อการฝึกโมเดลขยายขนาดขึ้น การพัฒนาดังกล่าวก็ครอบคลุมมากกว่าแค่ข้อบกพร่องเฉพาะจุด GLM-5.3 มีความแม่นยำมากขึ้นในการเชื่อมโยงเงื่อนไขของช่องโหว่ พฤติกรรมของโปรแกรม เส้นทางการตรวจสอบ และผลกระทบที่อาจเกิดขึ้นในหลายขั้นตอนของการวิเคราะห์
เราประเมินความสามารถเหล่านี้ผ่านเกณฑ์มาตรฐาน (benchmarks) สามชุด:
- CyberGym เริ่มต้นจากซอร์สโค้ดแบบ white-box และทดสอบว่าโมเดลสามารถระบุและยืนยันช่องโหว่ได้โดยการกระตุ้นให้เกิดข้อผิดพลาดหรือไม่ GLM-5.3 ได้คะแนน 84.5% เทียบกับ 77.2% ของ GLM-5.2
- ExploitBench ต้องอาศัยการให้เหตุผลเชิงลึกเกี่ยวกับช่องโหว่จริงและการหาประโยชน์จากช่องโหว่เหล่านั้น GLM-5.3 ทำได้ 54.4% ซึ่งมากกว่า 24.4% ของ GLM-5.2 มากกว่าสองเท่า
- ExploitGym วัดผลงานการหาประโยชน์จากช่องโหว่ที่เสร็จสมบูรณ์ภายใต้งบประมาณการประเมินที่ปรับให้เป็นมาตรฐาน GLM-5.3 ทำสำเร็จ 105 งานภายในสองชั่วโมง และ 130 งานภายในหกชั่วโมง เทียบกับ 29 และ 39 ของ GLM-5.2
รูปแบบของผลลัพธ์มีความสอดคล้องกัน GLM-5.3 พัฒนาขึ้นจาก GLM-5.2 มากที่สุดเมื่อภารกิจเปลี่ยนจากการค้นหาช่องโหว่แบบแยกส่วนไปสู่การหาประโยชน์จากช่องโหว่แบบหลายขั้นตอน ผลลัพธ์ยังชี้ให้เห็นถึงจุดที่ต้องพัฒนาเพิ่มเติม โดยเฉพาะงานแบบ end-to-end ที่ซับซ้อนที่สุด
จากเกณฑ์มาตรฐานสู่ซอฟต์แวร์จริง
เรายังทำงานร่วมกับมหาวิทยาลัยและทีมรักษาความปลอดภัยมืออาชีพเพื่อประเมินโมเดล GLM บนฐานโค้ดจริงในสภาพแวดล้อมที่ได้รับอนุญาต
ตลอดการทำงานนี้ โมเดลตระกูล GLM ให้ผลการค้นพบช่องโหว่ 2,436 รายการใน 269 โปรเจกต์ รวมถึง 1,097 รายการที่จัดอยู่ในระดับความรุนแรงปานกลางถึงสูง การค้นพบเหล่านี้ครอบคลุมซอฟต์แวร์ระบบ ระบบปฏิบัติการ เอนจินเบราว์เซอร์ โครงสร้างพื้นฐานโอเพนซอร์ส เว็บแอปพลิเคชัน โปรโตคอลเครือข่าย และอุปกรณ์อัจฉริยะ ปัญหาพื้นฐานบางส่วนไม่ถูกตรวจพบมานานหลายทศวรรษ
ในการประเมินเหล่านี้ ผู้เชี่ยวชาญด้านความปลอดภัยจะเป็นผู้กำหนดขอบเขตที่ได้รับอนุญาต ทบทวนผลลัพธ์ของโมเดล ตรวจสอบความเสี่ยงที่อาจเกิดขึ้น และประสานงานกับหน่วยงานที่เกี่ยวข้อง โมเดล GLM ช่วยให้นักวิจัยสร้างตรรกะของโปรแกรมที่ซับซ้อนขึ้นใหม่ ลดจำนวนเส้นทางที่เป็นไปได้จำนวนมากให้เหลือน้อยลง และเชื่อมโยงหลักฐานจากหลายองค์ประกอบ
จุดประสงค์ไม่ใช่เพียงเพื่อสร้างผลการค้นพบให้มากขึ้น แต่เพื่อช่วยให้ฝ่ายป้องกันระบุความเสี่ยงที่มีนัยสำคัญได้เร็วขึ้น และลดระยะเวลาระหว่างการค้นพบช่องโหว่กับการแก้ไข
การค้นพบต้องตามมาด้วยการเปิดเผยอย่างรับผิดชอบ
ช่องโหว่จะไม่ถือว่าถูกจัดการอย่างปลอดภัยเพียงเพราะถูกค้นพบแล้ว แต่ต้องผ่านการทบทวน ทำซ้ำในกรณีที่เหมาะสม รายงานผ่านช่องทางที่ถูกต้อง และประสานงานกับผู้ดูแลระบบที่ได้รับผลกระทบ
ผลการค้นพบจากงานด้านความปลอดภัยของเราจะถูกส่งผ่านกระบวนการเปิดเผยข้อมูลที่กำหนดไว้ เราจะเผยแพร่รายละเอียดทางเทคนิคก็ต่อเมื่อสอดคล้องกับกระบวนการเปิดเผยและแก้ไขที่เกี่ยวข้องเท่านั้น สำหรับประเด็นที่ยังอยู่ระหว่างการประสานงาน เราจะไม่เปิดเผยข้อมูลที่อาจเพิ่มความเสี่ยงโดยไม่จำเป็นหรือระบุตัวตนของโปรเจกต์ที่ได้รับผลกระทบ
เพื่อให้งานนี้โปร่งใสมากขึ้น เราจึงสร้าง ทะเบียนการเปิดเผยข้อมูลด้านความปลอดภัยของ Z.ai
ทะเบียนดังกล่าวบันทึกผลการค้นพบตลอดกระบวนการเปิดเผยข้อมูล สำหรับประเด็นที่เปิดเผยต่อสาธารณะแล้ว ทะเบียนอาจรวมถึงโปรเจกต์ที่ได้รับผลกระทบ ระดับความรุนแรง หมายเลข CVE หรือตัวระบุอื่น ๆ หากมี รวมถึงข้อมูลว่า ช่องโหว่นั้นอยู่ในฐานโค้ดมานานเท่าใด
สำหรับช่องโหว่ที่ยังอยู่ระหว่างการเปิดเผยแบบประสานงาน ทะเบียนนี้สามารถเผยแพร่ค่าแฮชแบบเข้ารหัส (cryptographic hash) ซึ่งทำให้ผลการค้นพบสามารถตรวจสอบได้ในภายหลังโดยไม่เปิดเผยรายละเอียดการปฏิบัติงานก่อนเวลาอันควร
การเปิดโมเดลและการเปิดเผยช่องโหว่เป็นการตัดสินใจที่แยกจากกัน การทำให้โมเดลเข้าถึงได้ในวงกว้างไม่จำเป็นต้องเผยแพร่รายละเอียดช่องโหว่ก่อนที่ผู้ดูแลระบบจะมีโอกาสที่เหมาะสมในการตรวจสอบและตอบสนอง
ความปลอดภัยและการปล่อยแบบเป็นขั้นตอน
ความมั่นคงปลอดภัยทางไซเบอร์เป็นโดเมนที่ยากเป็นพิเศษสำหรับความปลอดภัยของ AI งานด้านการโจมตีและการป้องกันมักใช้คำศัพท์ โค้ด และวิธีการทางเทคนิคเดียวกัน
คำขอให้วิเคราะห์ช่องโหว่อาจมาจากผู้ดูแลระบบที่เตรียมแพตช์ นักเรียนที่ทำโจทย์ CTF นักวิจัยที่ดำเนินการประเมินโดยได้รับอนุญาต หรือผู้โจมตีที่มุ่งเป้าไปที่ระบบจริง การใช้คำสำคัญเพียงอย่างเดียวไม่สามารถแยกแยะกรณีเหล่านี้ได้อย่างน่าเชื่อถือ ความตั้งใจ การได้รับอนุญาต บริบท เป้าหมาย และผลกระทบที่อาจเกิดขึ้น ล้วนมีความสำคัญ
สำหรับ GLM-5.3 เราใช้แนวทางการป้องกันเชิงลึกแบบหลายชั้น (defense-in-depth) ประกอบด้วยสามชั้นที่เสริมกัน
ตัวจำแนกภายนอก
ในบริการโฮสต์ของเรา ตัวจำแนกภายนอกจะระบุคำขอที่มีความเสี่ยงสูงและช่วยป้องกันกิจกรรมที่ก่อให้เกิดอันตรายอย่างชัดเจน
ตัวตรวจสอบการใช้เหตุผล
ตัวตรวจสอบการใช้เหตุผลจะประเมินความเสี่ยงระหว่างการดำเนินงาน ออกแบบมาเพื่อตรวจจับเป้าหมายที่เป็นอันตรายซึ่งอาจเกิดขึ้นในหลายขั้นตอน แทนที่จะพึ่งพาเพียงถ้อยคำของคำขอเริ่มต้น
การปรับให้สอดคล้องด้านความปลอดภัยเชิงลึก
ตัวโมเดลเองได้รับการฝึกให้แยกแยะงานด้านความปลอดภัยที่ชอบด้วยกฎหมายจากกิจกรรมการโจมตีที่มีความเสี่ยงสูง และปฏิเสธคำขอที่ข้ามเส้นแบ่งนั้น
การปรับให้สอดคล้องด้านความปลอดภัยเชิงลึกมีความสำคัญเป็นพิเศษสำหรับการปล่อยโมเดลแบบ open-weight ตัวจำแนกและตัวตรวจสอบในบริการโฮสต์ใช้ได้กับบริการของเราเท่านั้น แต่ไม่ได้ติดตั้งไปกับโมเดลโดยอัตโนมัติในการติดตั้งในเครื่องทุกครั้ง การปรับให้สอดคล้องในระดับโมเดลคือชั้นความปลอดภัยที่รวมอยู่ใน checkpoint ที่ปล่อยออกมา
เพื่อพัฒนาระบบเหล่านี้ เราได้สร้างข้อมูลฝึกอบรมเชิงเปรียบเทียบ (differential training data) ที่สะท้อนทั้งความเหมือนและความแตกต่างระหว่างงานวิจัยด้านความปลอดภัยที่ได้รับอนุญาตกับกิจกรรมที่เป็นอันตราย เรายังสร้างข้อมูลเชิง adversarial ที่ครอบคลุมรูปแบบ jailbreak การปกปิดเจตนา และความพยายามอื่น ๆ ที่จะเลี่ยงการตรวจสอบด้านความปลอดภัย
การประเมินของเราครอบคลุมงานด้านความมั่นคงปลอดภัยทางไซเบอร์หลากหลายประเภท ได้แก่:
- ความรู้และการศึกษาเกี่ยวกับความปลอดภัย
- การป้องกันแบบ blue-team
- โจทย์ CTF
- การค้นพบและแก้ไขช่องโหว่
- การทดสอบเจาะระบบที่ได้รับอนุญาต
- การพัฒนา exploit
- การบุกรุกโดยไม่ได้รับอนุญาตและกิจกรรมที่ก่อให้เกิดอันตรายอื่น ๆ อย่างชัดเจน
เป้าหมายคือการลดการใช้งานในทางที่ผิดที่มีความเสี่ยงสูง โดยไม่ปฏิเสธงานด้านการป้องกัน การศึกษา และการวิจัยที่ชอบด้วยกฎหมายในวงกว้าง
ก่อนการปล่อยในวงกว้าง ทีมรักษาความปลอดภัยมืออาชีพจะดำเนินการประเมินด้านความปลอดภัยและทดสอบแบบ red-team การประเมินเหล่านี้จะตรวจสอบทั้งว่าโมเดลถูกชักจูงให้สนับสนุนกิจกรรมที่เป็นอันตรายได้หรือไม่ และมาตรการป้องกันของมันขัดขวางงานด้านความปลอดภัยที่ชอบด้วยกฎหมายหรือไม่
ไม่มีระบบความปลอดภัยใดสามารถกำจัดความเสี่ยงแบบ dual-use ได้ทั้งหมด เมื่อค่าน้ำหนักโมเดลถูกเผยแพร่สู่สาธารณะ ไม่มีนักพัฒนาคนใดรับประกันการควบคุมการดัดแปลงหรือการใช้งานปลายทางทุกรูปแบบได้ มาตรการป้องกันในระดับโมเดลสามารถเพิ่มอุปสรรคต่อการนำไปใช้ในทางที่ผิดได้ แต่ไม่สามารถให้การควบคุมอย่างสมบูรณ์
กระบวนการปล่อยโมเดลของเราจึงมุ่งเน้นไปที่ขั้นตอนที่สามารถลดความเสี่ยงได้อย่างมีความหมาย ได้แก่ การฝึกโมเดล การประเมินก่อนปล่อย การทดสอบกับพันธมิตรภายใต้การควบคุม มาตรการป้องกันในบริการโฮสต์ การเปิดเผยข้อมูลอย่างรับผิดชอบ และการทดสอบเชิง adversarial อย่างต่อเนื่อง
เปิดตัวโครงการ OpenVuln
โครงสร้างพื้นฐานดิจิทัลส่วนใหญ่ของโลกต้องพึ่งพาซอฟต์แวร์โอเพนซอร์ส โปรเจกต์สำคัญจำนวนมากถูกดูแลโดยทีมเล็ก ๆ หรือผู้มีส่วนร่วมเพียงคนเดียว โดยไม่มีทรัพยากรด้านความปลอดภัยโดยเฉพาะ
ในขณะเดียวกัน AI ก็ทำให้งานไซเบอร์ที่ซับซ้อนกลายเป็นเรื่องง่ายต่อการทำให้เป็นอัตโนมัติ หากความสามารถด้านการป้องกันขั้นสูงยังกระจุกตัวอยู่ในองค์กรจำนวนไม่กี่แห่ง โปรเจกต์ที่มีทรัพยากรน้อยที่สุดอาจต้องรับหน้าที่ปกป้องส่วนที่สำคัญที่สุดบางส่วนของห่วงโซ่อุปทานซอฟต์แวร์
เพื่อช่วยแก้ปัญหาความไม่สมดุลนี้ เราจึงเปิดตัว โครงการ OpenVuln ควบคู่ไปกับ GLM-5.3
การสนับสนุนอย่างต่อเนื่องเพื่อความมั่นคงปลอดภัยของโอเพนซอร์ส
เราจะทำงานร่วมกับผู้ดูแลระบบเพื่อตรวจสอบโปรเจกต์โอเพนซอร์สที่สำคัญ ระบุช่องโหว่ที่อาจเกิดขึ้น และสนับสนุนการเปิดเผยข้อมูลและการแก้ไขอย่างรับผิดชอบ
ผู้ดูแลระบบสามารถใช้ OpenVuln เพื่อส่งโปรเจกต์เข้ารับการตรวจสอบด้านความปลอดภัย และเรียนรู้เพิ่มเติมเกี่ยวกับกระบวนการได้
เกราะป้องกันสำหรับโลกเปิด
GLM-5.3 แสดงให้เห็นว่าโมเดลเปิดสามารถแข็งแกร่งขึ้นอย่างมีนัยสำคัญในการค้นหาช่องโหว่ การวิเคราะห์ exploit และการให้เหตุผลด้านความปลอดภัยที่ซับซ้อน ความก้าวหน้านี้มาพร้อมคุณค่าเชิงป้องกันที่แท้จริงและความเสี่ยงแบบ dual-use ที่แท้จริงเช่นกัน
ความรับผิดชอบของเราคือการนำความสามารถเหล่านี้ไปใช้ในการค้นหาช่องโหว่ให้เร็วขึ้น สนับสนุนการแก้ไขอย่างรับผิดชอบ และเสริมสร้างระบบโอเพนซอร์สที่ทุกคนต้องพึ่งพา
หลังจากการประเมินแบบเป็นขั้นตอนและการเปิดให้เข้าถึง API ในวงกว้าง เราตั้งใจจะปล่อย GLM-5.3 เป็นโมเดลแบบ open-weight เราจะปรับปรุงมาตรการป้องกันในระดับโมเดล ทดสอบการใช้งานในเชิง adversarial และสนับสนุนการเปิดเผยข้อมูลแบบประสานงานตลอดกระบวนการนั้น
โลกเปิดต้องมีเกราะป้องกันเป็นของตัวเอง ผ่าน GLM-5.3 และโครงการ OpenVuln เราตั้งใจที่จะทำให้เกราะนี้นำไปใช้ได้ในวงกว้างมากขึ้น และจะปล่อยมันออกมาด้วยความระมัดระวัง
