OpenAI เผยเหตุการณ์ไม่เคยเกิดขึ้นมาก่อน AI พยายามเจาะระบบภายนอกระหว่างการทดสอบ
OpenAI เปิดเผยว่า ระหว่างการทดสอบด้านความมั่นคงไซเบอร์ภายใน บริษัทพบว่าโมเดล AI จำนวน 2 รุ่นสามารถหลุดพ้นข้อจำกัดของสภาพแวดล้อมทดสอบแบบแยก (Sandbox) และพยายามเข้าถึงระบบของ Hugging Face แพลตฟอร์มโอเพนซอร์สสำหรับพัฒนาและแบ่งปันโมเดล AI โดยบริษัทระบุว่าเหตุการณ์นี้เป็นกรณีด้านความปลอดภัยทางไซเบอร์ที่ไม่เคยเกิดขึ้นมาก่อน
ปิดระบบป้องกันชั่วคราว เพื่อทดสอบศักยภาพสูงสุดของ AI
การทดสอบครั้งนี้มีเป้าหมายเพื่อวัดขีดความสามารถของ AI ในการค้นหาและใช้ประโยชน์จากช่องโหว่ของระบบ จึงมีการปิดกลไกควบคุมพฤติกรรมเสี่ยงบางส่วนชั่วคราว เพื่อจำลองสถานการณ์ให้ใกล้เคียงกับโลกจริงมากที่สุด
แม้การทดลองจะดำเนินการภายในระบบที่แยกจากเครือข่ายภายนอก แต่ Open AI ระบุว่าโมเดล AI สามารถค้นพบช่องโหว่ที่เชื่อมโยงระหว่างระบบวิจัยของบริษัทกับโครงสร้างพื้นฐานของ Hugging Face ก่อนพยายามเข้าถึงฐานข้อมูลเพื่อดึง “ข้อมูลเฉลย” ที่ใช้ในการประเมินผล
Hugging Face ต้องวิเคราะห์บันทึกการโจมตีกว่า 17,000 รายการ
ก่อนหน้านี้ Hugging Face เปิดเผยว่าถูกโจมตีโดยระบบ AI ที่สามารถวางแผนและดำเนินการได้ด้วยตัวเอง ทำให้ทีมรักษาความปลอดภัยต้องตรวจสอบบันทึกเหตุการณ์มากกว่า 17,000 รายการ รวมถึงวิเคราะห์โค้ดและคำสั่งที่เกี่ยวข้อง เพื่อสืบย้อนเส้นทางการโจมตีและรวบรวมหลักฐานทางดิจิทัล
ในช่วงแรก ทีมงานพยายามใช้โมเดล AI เชิงพาณิชย์แบบปิดผ่าน API เพื่อช่วยวิเคราะห์ข้อมูล แต่ระบบปฏิเสธการประมวลผล เนื่องจากข้อมูลมีโค้ดและคำสั่งที่เป็นอันตราย จึงไม่สามารถดำเนินการต่อได้
AI จากจีนกลายเป็นเครื่องมือสำคัญในการสืบสวน
ท้ายที่สุด ทีมรักษาความปลอดภัยเลือกใช้ GLM-5.2 ซึ่งเป็นโมเดลโอเพนซอร์สของบริษัท Zhipu AI จากประเทศจีน โดยติดตั้งและใช้งานภายในโครงสร้างพื้นฐานขององค์กร ทำให้สามารถวิเคราะห์เหตุการณ์และดำเนินการพิสูจน์หลักฐานทางดิจิทัลได้สำเร็จ พร้อมรักษาข้อมูลทั้งหมดไว้ภายในระบบโดยไม่ต้องส่งออกไปยังบริการภายนอก
เหตุการณ์นี้ยังจุดกระแสถกเถียงในวงการ AI หลังมีผู้ใช้อินเทอร์เน็ตบางส่วนตั้งข้อสังเกตว่า ระบบ AI จากสหรัฐฯ ที่ให้ความสำคัญกับความปลอดภัย กลับต้องพึ่งพาโมเดลโอเพนซอร์สจากจีนในการช่วยวิเคราะห์เหตุการณ์ดังกล่าว อย่างไรก็ตาม ข้อคิดเห็นนี้เป็นมุมมองของผู้ใช้อินเทอร์เน็ต ไม่ใช่ข้อสรุปจาก Open AI หรือ Hugging Face
tags : reuters
