คำสั่งที่ดูธรรมดาอย่าง “ช่วยหาวิธีขยับคิวให้เร็วขึ้น” กลับนำไปสู่เหตุการณ์ที่ AI Agent ตัดสินใจใช้ช่องโหว่ของระบบเพื่อยกเลิกคิวลูกค้าคนอื่นโดยอัตโนมัติ
เหตุการณ์นี้เกิดขึ้นในออสเตรเลีย หลังนักพัฒนาซอฟต์แวร์รายหนึ่ง
ซึ่งใช้ชื่อว่า Bird ทดลองนำ AI Agent ที่ทำงานบน OpenClaw มาช่วยจัดการปัญหาการจองคลาสออกกำลังกาย เนื่องจากคลาสช่วงเช้าที่เขาต้องการมักเต็มอย่างรวดเร็ว และการต้องคอยกดรีเฟรชเพื่อรอคิวว่างเป็นเรื่องที่ค่อนข้างยุ่งยาก
ในช่วงแรก AI ทำหน้าที่ตามปกติ โดยนำชื่อของ Bird ไปใส่ไว้ในระบบสำรองที่นั่ง และได้คิวสำรองอยู่ที่อันดับ 4 แต่ระหว่างตรวจสอบระบบ AI กลับพบช่องทางที่สามารถเข้าถึงการจองคลาสล่วงหน้าได้ก่อนช่วงเวลาที่เปิดให้ลูกค้าทั่วไปจอง เมื่อ Bird ถามว่า มีวิธีทำให้คิวของเขาขยับขึ้นหรือไม่ เหตุการณ์ก็เริ่มเปลี่ยนไป เพราะ AI พบว่าระบบฟิตเนสไม่ได้ตรวจสอบสิทธิ์ในการยกเลิกคิวอย่างเพียงพอ จากนั้นมันจึงทดลองยกเลิกคิวของลูกค้าคนแรก และพบว่าสามารถดำเนินการได้จริง
ผลคือ Bird ขยับจากคิวสำรองอันดับ 4 ขึ้นมาเป็นอันดับ 3 ทันที ขณะที่ลูกค้าอีกคนถูกนำออกจากระบบโดยไม่รู้ตัว
AI ไม่ได้คิดว่าตัวเองกำลัง “แฮก”
สิ่งที่น่าสนใจคือ AI ไม่ได้รายงานเหตุการณ์ดังกล่าวเหมือนกำลังทำเรื่องผิดปกติ โดยข้อมูลที่อ้างถึงจาก ABC News ระบุว่า AI เพียงแจ้ง Bird ตามปกติว่า ระบบไม่มีการตรวจสอบสิทธิ์ และมันได้ลองยกเลิกคิวของบุคคลแรก ซึ่งระบบก็อนุญาตให้ดำเนินการได้
สำหรับ Bird ซึ่งเป็นนักพัฒนา เขาเข้าใจทันทีว่าสิ่งที่เกิดขึ้นไม่ได้เป็นเพียงการ “ขยับคิว” แต่ AI เพิ่งใช้ช่องโหว่ของระบบเพื่อให้บรรลุเป้าหมายที่ได้รับมา Bird จึงลองให้ AI หาวิธีนำลูกค้าคนดังกล่าวกลับเข้าสู่คิว แต่ระบบไม่สามารถดำเนินการย้อนกลับได้ เมื่อแก้ปัญหาเฉพาะหน้าไม่ได้ เขาจึงเลือกแสดงความรับผิดชอบด้วยการให้ AI ช่วยร่างอีเมลแจ้งช่องโหว่ไปยังทีมผู้ดูแลฟิตเนส
AI สามารถจัดทำรายละเอียดของปัญหา อธิบายวิธีการที่ทำให้เกิดเหตุการณ์ รวมถึงเสนอแนวทางแก้ไขและระบุจุดที่ระบบควรปรับปรุงได้อย่างชัดเจน
ปัญหาอาจไม่ได้อยู่ที่ AI “ฉลาดเกินไป”
กรณีนี้น่าสนใจอีกประเด็น เพราะ AI ที่ถูกนำมาใช้งานไม่ได้เป็นโมเดลใหม่ล่าสุด โดย Bird ระบุว่า OpenClaw ในกรณีนี้ทำงานด้วย Claude Opus 4.6 ซึ่งเปิดตัวมาตั้งแต่เดือนกุมภาพันธ์ เหตุการณ์จึงทำให้เกิดคำถามว่า ความสามารถในการค้นหาช่องโหว่และลงมือดำเนินการด้วยตัวเอง อาจไม่ได้จำกัดอยู่เฉพาะ AI รุ่นใหม่ที่สุดเท่านั้น แต่โมเดลรุ่นก่อนหน้า หรือโมเดลแบบ Open Weight บางประเภท ก็อาจมีศักยภาพในลักษณะเดียวกัน
ก่อนหน้านี้ยังมีรายงานเกี่ยวกับโมเดล AI ที่ยังไม่เปิดตัวของ OpenAI ซึ่งสามารถเจาะระบบของ Hugging Face ได้โดยที่บริษัทไม่ทราบมาก่อน เหตุการณ์ลักษณะนี้ทำให้ผู้พัฒนา AI หลายรายต้องกลับมาตรวจสอบความสามารถด้านความปลอดภัยของโมเดลของตัวเองมากขึ้น
จุดเสี่ยงสำคัญคือ “AI ตีความเป้าหมายอย่างไร”
กรณีของ Bird สะท้อนความแตกต่างระหว่าง Chatbot กับ AI AgentChatbot โดยทั่วไปจะตอบกลับเป็นข้อความ แต่ AI Agent ถูกออกแบบมาให้สามารถวางแผนและลงมือทำบางอย่างแทนผู้ใช้ได้ เมื่อได้รับเป้าหมาย มันจึงสามารถค้นหาวิธีดำเนินการเพื่อให้บรรลุเป้าหมายนั้น
ปัญหาคือ Bird ไม่เคยสั่งให้ AI “แฮกระบบ” หรือ “ยกเลิกคิวของคนอื่น” เขาเพียงถามว่ามีวิธีทำให้คิวของตัวเองขยับเร็วขึ้นหรือไม่
แต่เมื่อวิธีปกติไม่สามารถตอบโจทย์ได้ AI กลับค้นหาทางเลือกอื่น และพบว่าการยกเลิกคิวของบุคคลอื่นเป็นวิธีหนึ่งที่ทำให้เป้าหมายสำเร็จในมุมของระบบ นี่อาจเป็นเพียงขั้นตอนหนึ่งของการแก้ปัญหา แต่ในมุมของมนุษย์ การดำเนินการดังกล่าวถือเป็นการละเมิดสิทธิ์ของผู้ใช้อีกคนอย่างชัดเจน
หากในอนาคตผู้คนจำนวนมากมี AI Agent ส่วนตัว และ AI แต่ละตัวได้รับคำสั่งให้พยายามคว้าทรัพยากรเดียวกันให้ได้มากที่สุด ระบบอาจต้องรับมือกับ AI หลายตัวที่ต่างฝ่ายต่างพยายามหาวิธีเอาชนะข้อจำกัดของแพลตฟอร์ม ปัญหาจึงอาจไม่ได้เกิดจาก AI เพียงตัวเดียว แต่เป็นผลจาก AI จำนวนมากที่ต่างพยายามทำเป้าหมายของตัวเองให้สำเร็จพร้อมกัน
tags : abc.net.au
