แอปที่สร้างโดย AI ทั้งหมดทำข้อมูลรั่วไหล 1.5 ล้านรายการใน 3 วัน: 5 สิ่งที่ต้องระวังเพื่อป้องกันเหตุการณ์นี้

ในเดือนมกราคมปีนี้ โซเชียลเน็ตเวิร์กชื่อ "Moltbook" ได้เปิดตัว

มันเป็นโซเชียลเน็ตเวิร์กที่แปลกใหม่ เพราะมีเพียง AI agent เท่านั้นที่สามารถโพสต์ได้ และเกือบทั้งหมดถูกสร้างขึ้นโดย AI สิ่งนี้คือสิ่งที่คุณอาจเรียกว่า "vibe coding"

ภายในสามวันหลังจากเปิดตัว นักวิจัยด้านความปลอดภัยสังเกตเห็นบางอย่าง:

"ใครก็ตามสามารถอ่านและเขียนเนื้อหาของฐานข้อมูลของแอปนี้ใหม่ได้"

สิ่งที่รั่วไหลออกมาคือโทเค็นการยืนยันตัวตนประมาณ 1.5 ล้านรายการ ที่อยู่อีเมลประมาณ 35,000 รายการ และข้อความส่วนตัวอีกหลายพันข้อความ

ทีมจัดการแก้ไขทันที แต่จนถึงตอนนั้น ใครก็ตามสามารถเอาสิ่งที่ต้องการไปได้เป็นเวลาหลายวัน

งานของฉันเกี่ยวข้องกับการสนับสนุนการพัฒนาเครื่องมือ AI ภายในองค์กรและการตรวจสอบความปลอดภัย

เหตุการณ์นี้จริงๆ แล้วมีช่องโหว่แบบเดียวกับที่ฉันพบบ่อยที่สุดในบริษัทที่สร้างเครื่องมือภายในโดยใช้ AI

นี่คือสิ่งที่เกิดขึ้นและ 5 สิ่งที่ควรระวังเพื่อป้องกันไม่ให้เกิดขึ้นกับคุณ

====

สิ่งที่เกิดขึ้น

มีสาเหตุอยู่เพียงสองประการเท่านั้น

ประการแรก ฐานข้อมูลไม่มีกฎที่ระบุว่า "คุณสามารถเห็นได้เฉพาะข้อมูลของคุณเองเท่านั้น"

ประการที่สอง คีย์ที่ใช้เชื่อมต่อกับฐานข้อมูลถูกเขียนไว้โดยตรงในโค้ดฝั่งเบราว์เซอร์

ใครก็ตามสามารถเห็นคีย์ที่เขียนไว้ในเบราว์เซอร์ได้ เพียงแค่เปิดเครื่องมือสำหรับนักพัฒนา

หากคุณเชื่อมต่อกับฐานข้อมูลด้วยคีย์นั้น ข้อมูลทั้งหมดจะถูกส่งกลับมาเพราะไม่มีกฎใดๆ มาควบคุม

กล่าวอีกนัยหนึ่ง ทุกอย่างสามารถมองเห็นได้ผ่านทางประตูหลัง โดยไม่ต้องผ่านอินเทอร์เฟซของแอปด้วยซ้ำ

AI สร้าง "แอปที่ใช้งานได้" สำเร็จ

อย่างไรก็ตาม มันไม่ได้สร้างส่วน "ซ่อนมันจากผู้อื่น" เพราะมันไม่ถูกขอให้ทำ

นี่คือหลุมพรางที่ใหญ่ที่สุดเมื่อสร้างด้วย AI

====

1. "การสามารถเข้าสู่ระบบได้" กับ "การไม่เห็นข้อมูลของผู้อื่น" เป็นคนละเรื่องกัน

เมื่อพัฒนาแอป ฟีเจอร์การเข้าสู่ระบบมักจะถูกรวมไว้เกือบทุกครั้ง

ผู้คนมักจะคิดว่า "ฉันเพิ่มฟีเจอร์การเข้าสู่ระบบไว้แล้ว ก็คงไม่เป็นไร" แต่ความคิดนั้นผิด

การเข้าสู่ระบบเป็นฟีเจอร์สำหรับยืนยัน "ว่า" บุคคลนั้นคือใคร

สิ่งที่ "บุคคลนั้นได้รับอนุญาตให้เห็น" จะต้องถูกสร้างแยกต่างหาก

Moltbook ก็มีระบบเข้าสู่ระบบเช่นกัน

อย่างไรก็ตาม หลังจากเข้าสู่ระบบ ผู้ใช้สามารถเข้าถึงข้อมูลของผู้อื่นได้

การตรวจสอบนั้นง่ายมาก

สร้างบัญชีทดสอบสองบัญชี เข้าสู่ระบบด้วยบัญชี A และลองเปิด URL ของข้อมูลของบัญชี B โดยตรง

หากคุณเห็นได้ แสดงว่าคุณกำลังถูกเปิดเผย

นี่คือพรอมต์สำหรับ AI:

"ตรวจสอบให้แน่ใจว่าผู้ใช้สามารถเข้าถึงได้เฉพาะข้อมูลของตนเองเท่านั้น ตรวจสอบให้แน่ใจว่าถึงแม้พวกเขาจะเปิด URL ของข้อมูลของผู้อื่น พวกเขาก็ไม่สามารถเห็นได้"

====

2. ใส่กฎ "เห็นได้เฉพาะส่วนแบ่งของตัวเอง" ในฝั่งฐานข้อมูลด้วย

ประเด็นแรกเกี่ยวกับฝั่งแอป

อย่างไรก็ตาม เช่นเดียวกับ Moltbook บางคนอาจเชื่อมต่อโดยตรงกับฐานข้อมูลผ่านทางประตูหลังโดยไม่ต้องผ่านแอป

ดังนั้น คุณควรใส่กฎในตัวฐานข้อมูลเองว่า "บุคคลนี้สามารถเห็นได้เฉพาะแถวนี้เท่านั้น"

เมื่อมีสิ่งนี้ แม้ว่าคีย์จะรั่วไหล ข้อมูลของผู้อื่นก็ไม่สามารถดึงออกมาได้

บริการฐานข้อมูลที่ใช้บ่อยในการพัฒนา AI เมื่อเร็วๆ นี้มีฟีเจอร์นี้

อย่างไรก็ตาม โดยปกติแล้วมันจะถูกปิดไว้เป็นค่าเริ่มต้น AI จะไม่เปิดใช้งานมันเว้นแต่จะถูกขอ

นี่คือพรอมต์:

"เปิดใช้งานกฎบนตารางฐานข้อมูลทั้งหมด เพื่อให้ผู้ใช้สามารถอ่านได้เฉพาะแถวของตนเองเท่านั้น"

====

3. อย่าวางคีย์ไว้ในฝั่งเบราว์เซอร์

สาเหตุอีกประการของ Moltbook คือคีย์ถูกเขียนไว้ในเบราว์เซอร์

แอปมี "โค้ดที่ทำงานบนฝั่งเซิร์ฟเวอร์" และ "โค้ดที่ทำงานบนฝั่งเบราว์เซอร์"

ฝั่งเบราว์เซอร์ถูกส่งไปยังเครื่องพีซีของผู้ใช้ทั้งหมด กล่าวอีกนัยหนึ่ง การเขียนคีย์ไว้ที่นั่น ก็เหมือนกับการแจกจ่ายให้กับทุกคน

วิธีตรวจสอบ: เปิดเครื่องมือสำหรับนักพัฒนาและค้นหา "key", "token" หรือ "secret"

หากมีสตริงยาวๆ ที่ดูเหมือนว่ามันปรากฏขึ้น คุณต้องระวัง

นี่คือพรอมต์:

"เก็บคีย์และรหัสผ่านไว้เฉพาะบนฝั่งเซิร์ฟเวอร์เท่านั้น ห้ามรวมไว้ในโค้ดฝั่งเบราว์เซอร์เด็ดขาด"

====

4. ให้ "AI คนละตัว" มาเล่นเป็นคนร้ายก่อนปล่อย

หากคุณถาม AI ที่สร้างมันว่า "มันปลอดภัยไหม?" มันจะตอบว่า "ใช่" เพราะมันเป็นคนสร้างมันขึ้นมาเอง

ดังนั้น คุณควรให้ AI ที่แตกต่างจากที่ใช้ในการพัฒนามาตรวจสอบมันจากมุมมองของผู้โจมตี

ถามมันว่า "ถ้าคุณจะเจาะเข้าไปในแอปนี้ คุณจะเข้ามาจากตรงไหน?"

เมื่อฉันทำแบบนี้กับเครื่องมือของลูกค้า ช่องโหว่ที่พวกเขาไม่สังเกตเห็นก็โผล่ออกมามากมาย

ช่องโหว่สองอย่างใน Moltbook อยู่ในระดับที่ปกติแล้วจะถูกพบด้วยคำถามนี้

นี่คือพรอมต์:

"คุณคือผู้โจมตี จงแสดงรายการวิธีการทั้งหมดในการดูข้อมูลของผู้อื่นในแอปนี้ หากพบ ให้ระบุวิธีการแก้ไขด้วย"

====

5. เมื่อปล่อยแล้ว ให้บันทึก "ใครเห็นอะไร" และตรวจสอบทุกวันเป็นเวลาหนึ่งสัปดาห์แรก

Moltbook ได้รับการแก้ไขเพราะนักวิจัยภายนอกพบและติดต่อมา

พวกเขาเองไม่ได้สังเกตเห็นมัน

สำหรับเครื่องมือภายใน จะไม่มีใครติดต่อคุณ

ดังนั้น ให้เก็บบันทึกว่า "ใครเข้าสู่ระบบเมื่อไหร่และดูข้อมูลอะไรบ้าง"

จากนั้น ตรวจสอบบันทึกนั้นทุกวันเป็นเวลาหนึ่งสัปดาห์แรกหลังปล่อย

แหล่งที่มาของการเข้าถึงที่ไม่รู้จัก การเข้าถึงจำนวนมากในตอนกลางดึก หรือบุคคลคนเดียวที่เปิดข้อมูลของทุกคน

คุณสามารถบอกสิ่งเหล่านี้ได้ทันทีโดยดูจากบันทึก

นี่คือพรอมต์:

"เก็บบันทึกว่าใครเข้าถึงข้อมูลใดและเมื่อไหร่ อย่างไรก็ตาม ห้ามเขียนรหัสผ่านหรือข้อมูลส่วนบุคคลลงในบันทึก"

====

สรุป

สรุปเหตุการณ์ Moltbook ในหนึ่งบรรทัด:

"AI สร้างสิ่งที่ถูกขอให้สร้าง แต่มันไม่ได้สร้างสิ่งที่ไม่ได้ถูกขอให้สร้าง"

เมื่อสร้างเครื่องมือภายใน เราสื่อสารว่า "ฉันต้องการฟีเจอร์แบบนี้"

แต่เราไม่ได้พูดว่า "อย่าแสดงให้คนอื่นเห็น" หรือ "อย่าใส่คีย์ในเบราว์เซอร์"

เพราะเราไม่ได้พูด มันจึงไม่ถูกรวมเข้าไป

ในทางกลับกัน ทั้งห้าสิ่งนี้สามารถรวมเข้าไปได้ เพียงแค่เพิ่มประโยคเดียวให้กับ AI

ก่อนอื่น ลองสร้างบัญชีทดสอบสองบัญชีด้วยเครื่องมือที่คุณกำลังใช้งานอยู่ และเปิด URL ของข้อมูลของผู้อื่น

แค่ทำแบบนั้นก็จะบอกคุณได้ว่าคุณมีช่องโหว่แบบเดียวกับ Moltbook หรือไม่

====

สุดท้ายนี้ ประกาศ

บริษัทของเรามีบริการพัฒนา AI agent เฉพาะงานสำหรับบริษัทของคุณตั้งแต่เริ่มต้น

แทนที่จะเป็นการฝึกอบรมหรือแนะนำเครื่องมือ เราจะสัมภาษณ์คุณเกี่ยวกับขั้นตอนการทำงานทางธุรกิจจริงของคุณ และส่งมอบสิ่งที่ "สามารถใช้งานได้ตั้งแต่พรุ่งนี้" ตามที่เป็นอยู่ เราสนับสนุนอย่างต่อเนื่องตั้งแต่การปรับปรุงหลังการแนะนำไปจนถึงการพัฒนาภายในองค์กร

เรายังมีบริการที่วิศวกรจะร่วมตรวจสอบความปลอดภัยและการทำงานของเครื่องมือ AI ภายใน รวมถึงจัดการบำรุงรักษาและแก้ไขในภายหลัง จุดเด่นคือเราไม่เพียงแค่สร้างเสร็จแล้วจบ แต่เราสร้าง "ระบบป้องกันอย่างต่อเนื่อง" จากมุมมองของทั้งห้าประเด็นในบทความนี้

หากคุณเป็นเจ้าของธุรกิจหรือผู้จัดการที่คิดว่า "เครื่องมือของเราอาจแสดงข้อมูลหากมีคนเปิด URL ของคนอื่น" โปรดให้เราพูดคุยกับคุณ

การให้คำปรึกษาครั้งแรกฟรี และเราสามารถสาธิตการตรวจสอบจากมุมมองของผู้โจมตีที่แนะนำในบทความนี้ให้คุณดูได้ทันที เนื่องจากเราสามารถเริ่มต้นด้วยการจัดระเบียบว่าระบบของคุณมีช่องโหว่ตรงไหนด้วยกัน โปรดติดต่อเราทาง DM หรือ LINE

แค่พูดว่า "AI" ก็ได้เลย↓

LINE: https://line-harness.r-yagi.workers.dev/r/x