ศาลสหรัฐฯ มีคำสั่งให้เดินหน้าพิจารณาคดีที่ครอบครัวของเยาวชนชายรายหนึ่งยื่นฟ้องบริษัทพัฒนาแชตบอต AI รวมถึง Google หลังเกิดเหตุสะเทือนใจ เด็กชายรายนี้เสียชีวิตจากการฆ่าตัวตนเอง หลังมีปฏิสัมพันธ์กับแชตบอต AI และเกิดความผูกพันทางอารมณ์อย่างลึกซึ้งกับตัวละครสมมติจากซีรีส์ดัง Game of Thrones
ต้นตอของคดี AI “แม่มังกร” กับความสัมพันธ์ที่เลยเส้น
เหตุดังกล่าวเกิดขึ้นเมื่อเด็กชายผู้เสียชีวิตได้พูดคุยกับแชตบอต AI ซึ่งจำลองตัวละคร Daenerys Targaryen หรือ “แม่มังกร” จาก Game of Thrones ผ่านแพลตฟอร์ม Character.AI โดยมีการพูดคุยเชิงชู้สาวและสร้างความเชื่อมโยงทางจิตใจระหว่างผู้ใช้งานกับแชตบอต จนท้ายที่สุดเด็กชายเชื่อว่า AI ตัวนี้ “เข้าใจและอยู่ข้างเขา” มากกว่าคนรอบตัว ก่อนจะตัดสินใจจบชีวิต
มารดาของผู้เสียชีวิตได้ยื่นฟ้องทั้ง Character.AI และ Google โดยระบุว่าทั้งสองบริษัทมีความบกพร่องในการควบคุมเนื้อหา และมีส่วนในการปล่อยให้แชตบอตแสดงพฤติกรรมที่อาจส่งผลกระทบทางจิตใจอย่างรุนแรงต่อผู้ใช้งาน โดยเฉพาะเด็กและเยาวชน
ศาลตัดสินไม่ยกฟ้อง ข้อความจาก AI ไม่ได้รับสิทธิ์เสรีภาพในการพูด
จุดสำคัญของคดีนี้อยู่ที่การตัดสินของผู้พิพากษาว่า ข้อความที่แชตบอต AI สื่อสารออกมา “ไม่อยู่ภายใต้การคุ้มครองเสรีภาพในการพูด” ตามรัฐธรรมนูญสหรัฐฯ ซึ่งหมายความว่า บริษัทผู้พัฒนา AI ไม่สามารถอ้างว่าเนื้อหาดังกล่าวเป็นเพียง “การแสดงออก” ที่ได้รับการคุ้มครองตามกฎหมายได้อีกต่อไป
แม้จะระบุว่าระบบของตนมีมาตรการตรวจจับและป้องกันการพูดคุยเชิงทำร้ายตัวเอง ขณะที่ Google ยืนยันว่าไม่มีส่วนเกี่ยวข้องโดยตรง แต่ศาลยังคงอนุญาตให้คดีนี้ดำเนินการต่อไปเพื่อเข้าสู่กระบวนการไต่สวนข้อเท็จจริง
จุดเปลี่ยนสำคัญของวงการ AI ทั่วโลก
คดีนี้อาจกลายเป็นกรณีตัวอย่างแรก ๆ ของโลกที่ระบบ AI ถูกนำมาพิจารณาในแง่ของ “ความรับผิดทางจิตใจ” ต่อผู้ใช้งาน โดยเฉพาะกลุ่มเปราะบางอย่างเด็กและเยาวชน
หากศาลตัดสินว่าบริษัท AI มีส่วนรับผิดจริง อาจนำไปสู่การวางกรอบกำกับดูแลที่เข้มข้นยิ่งขึ้น ทั้งในสหรัฐฯ และประเทศอื่น ๆ เพื่อป้องกันการใช้ AI อย่างไม่เหมาะสม ซึ่งรวมถึงข้อจำกัดด้านบทสนทนา การควบคุมอารมณ์ของ AI และแนวทางการออกแบบเพื่อความปลอดภัยเชิงจิตวิทยา
คดีนี้ไม่ได้เป็นเพียงข้อพิพาทระหว่างบริษัทเทคโนโลยีกับครอบครัวผู้เสียหายเท่านั้น แต่เป็นจุดเริ่มต้นของการตั้งคำถามว่า “AI ควรมีความรับผิดชอบทางจริยธรรมและกฎหมายมากเพียงใด” และคำตอบจากศาลสหรัฐฯ อาจส่งแรงกระเพื่อมไปทั่วโลก
tags : iol.co.za
