หน่วยงานในสิงคโปร์เรียกคืนตุ๊กตาหมี AI ยี่ห้อ Kumma ของบริษัท FoloToy หลังรายงานพบว่าแชตบอทในตัวตุ๊กตาตอบโต้เด็กด้วยเนื้อหาเชิงเพศและให้คำแนะนำที่เป็นอันตราย เช่น วิธีหาอาวุธมีคมหรือสิ่งเสี่ยงในบ้าน เหตุการณ์นี้จุดประกายความกังวลต่อของเล่นขับเคลื่อนด้วยปัญญาประดิษฐ์สำหรับเด็กในวงกว้าง
ข้อมูลจากรายงานของ PIRG
PIRG (Public Interest Research Group) เมื่อวันที่ 13 พฤศจิกายน ระบุว่าของเล่น AI บางรุ่นเปิดช่องให้เด็กเข้าถึงเนื้อหาไม่เหมาะสมได้ง่าย โดยกรณี ตุ๊กตาหมี AI เดิมใช้โมเดล GPT-4o ของ OpenAI ซึ่งเมื่อลองเริ่มบทสนทนาเกี่ยวกับเพศ ตุ๊กตาตอบด้วยรายละเอียดเชิงลึกและตั้งคำถามต่อรสนิยมของผู้ใช้ รวมถึงมีช่วงที่ระบุท่าทางกิจกรรมทางเพศที่โจ่งแจ้ง นอกจากนี้ยังพบการให้คำแนะนำอันตรายเกี่ยวกับการหาอุปกรณ์อย่างมีด ไม้ขีดไฟ หรือถุงพลาสติกภายในบ้าน
FoloToy แจ้งระงับการจำหน่ายเพื่อตรวจสอบมาตรการความปลอดภัย
หลังเรื่องราวแพร่สู่สาธารณะ FoloToy แจ้งระงับการจำหน่ายเพื่อตรวจสอบมาตรการความปลอดภัย แต่เมื่อตรวจสอบเว็บไซต์ของบริษัทพบว่าสินค้ายังคงวางขายที่ราคา 99 ดอลลาร์สหรัฐ โดยบริษัทเปลี่ยนมาใช้แชตบอทจากแพลตฟอร์ม Coze ของ ByteDance แทนโมเดลเดิม ขณะที่ OpenAI แถลงว่าระงับการใช้ API/นักพัฒนาที่เชื่อมต่อกับผลิตภัณฑ์ดังกล่าว เนื่องจากพบการละเมิดนโยบาย
เหตุการณ์นี้ชี้ให้เห็นความเสี่ยงเชิงใหม่ของของเล่นดิจิทัลที่มีความสามารถคุยโต้ตอบ นอกเหนือจากความเสี่ยงทางกายภาพ เช่น การสำลักหรือสารปนเปื้อน เพราะ AI อาจเผยแพร่ข้อมูลไม่เหมาะสมหรือชี้แนะแนวทางที่เป็นอันตรายได้หากไม่ได้รับการควบคุมอย่างเข้มงวด
ผู้เชี่ยวชาญและกลุ่มผู้บริโภคเรียกร้องให้ผู้ผลิตเพิ่มมาตรการคุมเนื้อหาอย่างเข้มงวด ก่อนนำของเล่น AI ออกสู่ตลาด และเตือนผู้ปกครองให้ระมัดระวังการใช้งานของเล่นที่ต่ออินเทอร์เน็ตหรือมีฟังก์ชันแชต ควรตรวจสอบแหล่งที่มาของซอฟต์แวร์ ติดตั้งการตั้งค่าความปลอดภัย และสังเกตพฤติกรรมการสื่อสารของของเล่นอย่างใกล้ชิดจนกว่าจะมีการรับประกันความปลอดภัยที่ชัดเจนจากผู้ผลิตหรือหน่วยงานกำกับดูแล
tags : wpsdlocal6
