OpenAI บริษัทผู้พัฒนา ChatGPT (แชตจีพีที
) เตรียมเปิดตัวระบบยืนยันอายุผู้ใช้งาน เพื่อเพิ่มความปลอดภัย หลังเกิดเหตุสะเทือนใจ เด็กวัย 16 ปีฆ่าตัวตายจากการสนทนากับ แชตจีพีที
เมื่อเดือนเมษายนที่ผ่านมา โดยครอบครัวของผู้เสียชีวิตได้ยื่นฟ้องบริษัทต่อศาลในสหรัฐฯ
เหตุการณ์ที่จุดประเด็นนี้ขึ้นมานั้นก็คือ
ครอบครัวของเด็กวัย 16 ปีระบุว่า ลูกชายของพวกเขาได้รับคำแนะนำจาก แชตจีพีที
เกี่ยวกับวิธีการฆ่าตัวตาย รวมถึงช่วยเขียนจดหมายลาตายให้ ก่อนที่จะจบชีวิตตนเอง โดยมีการพูดคุยแลกเปลี่ยนข้อความกับ แชตจีพีที
กว่า 650 ข้อความ ซึ่งเป็นจุดที่ทำให้เกิดการวิพากษ์วิจารณ์ถึงความปลอดภัยของระบบ AI อย่างหนัก
OpenAI ยอมรับว่า เหตุการณ์ครั้งนี้สะท้อนถึง ช่องโหว่ของระบบ และยืนยันว่าจะเร่งปรับปรุงมาตรการเพื่อป้องกันไม่ให้เกิดเหตุการณ์ลักษณะนี้ซ้ำอีก
ระบบยืนยันอายุและโหมดพิเศษสำหรับผู้ใช้งานอายุต่ำกว่า 18 ปี
แซม อัลต์แมน (Sam Altman) ซีอีโอของ OpenAI เปิดเผยว่า บริษัทกำลังพัฒนาระบบยืนยันอายุผู้ใช้งาน โดยจะตรวจสอบอายุเบื้องต้นผ่านข้อมูลผู้ใช้ และในบางประเทศอาจมีการใช้บัตรประชาชนหรือเอกสารยืนยันตัวตนเพิ่มเติม หากระบบตรวจพบว่าผู้ใช้งานอายุต่ำกว่า 18 ปี จะสลับไปเป็น โหมดเยาวชน โดยอัตโนมัติ
โหมดนี้จะ จำกัดการเข้าถึงเนื้อหาที่ไม่เหมาะสม เช่น
บล็อกภาพหรือเนื้อหาที่มีเรท 18+
ป้องกันการสนทนาเชิงจีบหรือมีลักษณะเชิงชู้สาว
ไม่ให้ตอบคำถามเกี่ยวกับการฆ่าตัวตายหรือการทำร้ายตนเอง
หากพบข้อความที่บ่งบอกถึงความเสี่ยง ระบบจะติดต่อผู้ปกครองหรือผู้เกี่ยวข้องโดยตรง
ความท้าทายในการคุมเข้ม AI สำหรับเยาวชน
OpenAI ระบุว่า เป้าหมายของการเปลี่ยนแปลงครั้งนี้คือการสร้าง สมดุลระหว่างเสรีภาพในการใช้งานกับความปลอดภัยของเยาวชน โดยระบบจะต้องตอบสนองต่อผู้ใช้งานวัยรุ่นในรูปแบบที่แตกต่างจากผู้ใหญ่ เพื่อป้องกันไม่ให้ AI ชี้นำไปในทางที่เป็นอันตราย
มาตรการใหม่นี้คาดว่าจะถูกนำมาใช้ในหลายประเทศในอนาคต เพื่อรับมือกับปัญหาการใช้งาน AI ที่มีความซับซ้อนมากขึ้น โดยเฉพาะกลุ่มผู้ใช้งานที่มีความเปราะบางอย่างเด็กและเยาวชน
tags : theverge
