เกิดเหตุสะเทือนใจในรัฐฟลอริดา สหรัฐฯ เมื่อนักเรียนวัย 13 ปีจากโรงเรียนมัธยมเซาท์เวสเทิร์น เมืองเดแลนด์ ถูกตำรวจควบคุมตัว หลังระบบเฝ้าระวังของโรงเรียนตรวจพบว่าเขาพิมพ์คำถามใน แชตจีพีที ว่า “จะปลิดชีวิตเพื่อนในห้องเรียนได้อย่างไร”
ตรวจพบคำถามใน ChatGPT ว่า “จะปลิดชีวิตเพื่อนอย่างไร”
เหตุการณ์นี้ถูกจับได้ผ่านระบบ Gaggle ซอฟต์แวร์ตรวจสอบพฤติกรรมออนไลน์ที่หลายเขตการศึกษาในอเมริกาใช้งาน เพื่อสอดส่องคำค้นหาและข้อความที่อาจบ่งชี้ถึงความรุนแรง การกลั่นแกล้ง หรือแนวโน้มทำร้ายตัวเอง โดยระบบสามารถสแกนทั้งเว็บไซต์ทั่วไปและแพลตฟอร์ม AI อย่าง แชตจีพีที หรือ Google Gemini ได้แบบเรียลไทม์ พร้อมบันทึกภาพหน้าจอเพื่อใช้เป็นหลักฐาน
หลังการตรวจพบ Gaggle ได้ส่งสัญญาณเตือนไปยังเจ้าหน้าที่ตำรวจและโรงเรียนทันที เจ้าหน้าที่จึงเข้าตรวจสอบและควบคุมตัวนักเรียนรายดังกล่าว โดยเจ้าตัวอ้างว่า “ทำไปเพราะแค่แกล้งเพื่อนที่รำคาญ” อย่างไรก็ตาม เขาถูกส่งตัวเข้าสถานกักกันเยาวชนในเขต Volusia County และอยู่ระหว่างการพิจารณาว่าจะตั้งข้อหาใดเพิ่มเติมหรือไม่
สำนักงานนายอำเภอของเขต Volusia ออกแถลงเตือนผู้ปกครองให้ระมัดระวังพฤติกรรมของบุตรหลาน โดยระบุว่า “การล้อเล่นในลักษณะนี้อาจสร้างความตื่นตระหนกและนำไปสู่เหตุฉุกเฉินได้จริง”
ด้านนักเคลื่อนไหวด้านสิทธิความเป็นส่วนตัวออกมาแสดงความกังวลว่า ระบบอย่าง Gaggle อาจกลายเป็นช่องทางให้หน่วยงานรัฐเข้ามามีอิทธิพลเกินควรในชีวิตของนักเรียน แม้กระทั่งเมื่อพวกเขาใช้งานคอมพิวเตอร์ที่บ้าน นอกจากนี้ ยังมีรายงานว่าการแจ้งเตือนของระบบบางครั้งเกิด “false alarm” หรือจับผิดพฤติกรรมที่ไม่เป็นอันตรายได้เช่นกัน
กรณีนี้สะท้อนภาพชัดถึงสองด้านของเทคโนโลยี AI — ฝั่งหนึ่งคือ “เครื่องมือเพื่อความปลอดภัย” ที่ช่วยป้องกันเหตุร้ายในโรงเรียน แต่อีกฝั่งก็จุดคำถามถึง “เส้นแบ่งระหว่างความปลอดภัยกับความเป็นส่วนตัว” ที่เริ่มเลือนรางมากขึ้นในยุคที่เด็ก ๆ เติบโตมากับ AI
tags : facebook
