OpenAI กำลังเพิ่มอีกหนึ่งชั้นของการระบุแหล่งที่มาของข้อความ AI หลังเตรียมใช้เทคโนโลยีลายน้ำแบบมองไม่เห็นชื่อว่า textGrain กับข้อความที่สร้างจาก ChatGPT และ Codex ในสหภาพยุโรป เพื่อให้ระบบภายนอกสามารถตรวจสอบได้ว่าข้อความดังกล่าวมีสัญญาณจากโมเดลของ OpenAI หรือไม่
OpenAI ระบุว่า
การเพิ่มระบบดังกล่าวเป็นส่วนหนึ่งของการปฏิบัติตามข้อกำหนดด้านความโปร่งใสของ EU AI Act โดยบริษัทจะทยอยเปิดใช้กับผู้ใช้ ChatGPT และ Codex ที่เข้าเกณฑ์ใน EU ในช่วงไม่กี่สัปดาห์ข้างหน้า และจะครอบคลุมทุกแผนที่รองรับในภูมิภาคนี้
จุดที่น่าสนใจคือ ลายน้ำของ textGrain
ไม่ได้มาในรูปตัวอักษรพิเศษ เครื่องหมาย หรือช่องว่างที่ซ่อนอยู่ แต่เป็นการปรับรูปแบบทางสถิติในขั้นตอนที่โมเดลเลือกคำหรือส่วนของคำ ทำให้ข้อความยังดูเป็นธรรมชาติและผู้อ่านทั่วไปไม่สามารถสังเกตได้ว่ามีลายน้ำอยู่เบื้องหลัง
จากนั้นระบบตรวจจับที่มีคีย์เฉพาะจะวิเคราะห์รูปแบบดังกล่าว เพื่อประเมินว่าข้อความมีลายน้ำของ OpenAI อยู่หรือไม่ อย่างไรก็ตาม OpenAI ย้ำว่าเทคโนโลยีนี้ยังมีข้อจำกัด โดยเฉพาะข้อความที่สั้นมาก มีตัวเลือกคำที่จำกัด หรือผ่านการแก้ไข ดัดแปลง หรือแปลเป็นภาษาอื่นในระดับมาก ซึ่งอาจทำให้สัญญาณตรวจจับได้ยากขึ้น
สำหรับผู้ใช้งาน OpenAI API ทั่วโลก
บริษัทเปิดให้เลือกเปิดใช้งาน text watermark ได้ตั้งแต่วันที่ประกาศ โดยยังคงปิดไว้เป็นค่าเริ่มต้น และรองรับเฉพาะโมเดลที่เข้าเกณฑ์ในช่วงแรก แนวทางนี้ทำให้ผู้พัฒนาสามารถเลือกใช้ระบบลายน้ำตามความต้องการด้านความโปร่งใสของบริการตัวเองได้
ส่วนเครื่องมือตรวจจับข้อความ OpenAI ยังไม่ได้เปิดให้บุคคลทั่วไปใช้งานในทันที แต่เปิดให้ นักวิจัยและองค์กรผู้เชี่ยวชาญที่ได้รับอนุมัติ สมัครเข้าถึงเป็นกรณี ๆ ไป เพื่อช่วยประเมินความแม่นยำและพัฒนาเทคโนโลยีตรวจสอบแหล่งที่มาของข้อความต่อไป
สิ่งสำคัญคือ การพบลายน้ำไม่ได้หมายความว่า OpenAI เป็นผู้เขียนข้อความทั้งหมด และการตรวจไม่พบลายน้ำก็ไม่ได้พิสูจน์ว่าข้อความนั้นเขียนโดยมนุษย์ เพราะระบบไม่สามารถระบุได้ว่า AI มีส่วนร่วมกับข้อความมากน้อยแค่ไหน อีกทั้งข้อความที่ถูกแก้ไขหรือมีความยาวไม่เพียงพออาจตรวจจับได้ยาก
tags : techcrunch
