Wall Street Journal รายงานว่า OpenAI พัฒนาเครื่องตรวจสอบลายน้ำ ป้องกันนักเรียนใช้ ChatGPT เขียนบทความเพื่อโกงสอบเรียบร้อยแล้ว แต่ยังไม่ประกาศว่าใช้งานได้เมื่อไหร่
ทาง Wall Street Journal รายงานว่า OpenAI กำลังพัฒนาเครื่องมือที่สามารถตรวจจับบทความที่เขียนโดย ChatGPT ได้อย่างแม่นยำ ซึ่งทางบริษัทได้เปิดเผยข้อมูลบางส่วนเกี่ยวกับการวิจัยเกี่ยวกับลายน้ำในข้อความ ส่วนสาเหตุที่ไม่เปิดเผยวิธีการตรวจจับเป็นเพราะว่ากำลังพิจารณาว่า ควรเปิดตัวเครื่องมือนี้หรือไม่
ก่อนหน้านี้ทางTechCrunch ได้พบเห็น OpenAI โพสต์ในบล็อกว่า “ทีมงานของเราได้พัฒนาวิธีการลายน้ำในข้อความ ซึ่งเราจะพิจารณาการใช้งานต่อไป รวมถึงเราค้นคว้าทางเลือกอื่นด้วย”
การใส่ลายน้ำเป็นหนึ่งในหลายโซลูชัน รวมถึงตัวจำแนกประเภทและเมตาดาต้า ซึ่งเป็นส่วนหนึ่งของ “การวิจัยเชิงลึกเกี่ยวกับที่มาของข้อความ” ตามข้อมูลของ OpenAI บอกว่า การใส่ลายน้ำ “มีความแม่นยำสูง” แต่ในบางสถานการณ์ ก็ยังทำงานได้ไม่ดีนักเมื่อต้องเผชิญกับการดัดแปลงบางรูปแบบ “เช่น การใช้ระบบแปล การเปลี่ยนคำด้วยโมเดลเชิงสร้างสรรค์อื่น หรือการขอให้ AI แทรกอักขระพิเศษระหว่างคำแต่ละคำแล้วลบอักขระนั้น”
ทาง OpenAI เขียนว่าการใส่ลายน้ำในข้อความอาจ “ส่งผลกระทบต่อกลุ่มคนบางกลุ่มได้ เช่น คนที่ไม่ได้ภาษาอังกฤษเป็นภาษาแม่ อาจโดนดูถูกเหยียดหยามได้” ซึ่งทางบริษัทได้พิจารณาถึงความเสี่ยงเหล่านี้
ทางบริษัทให้ความสำคัญกับการเปิดตัวเครื่องมือตรวจสอบสิทธิ์สำหรับเนื้อหาด้านภาพและเสียงเป็นอันดับแรกแต่ก็มี “ความซับซ้อนที่เกี่ยวข้องและผลกระทบที่อาจเกิดขึ้นต่อระบบนิเวศที่กว้างไกลกว่า OpenAI”
ที่มา https://www.engadget.com/openai-confirms-its-looking-into-text-watermarking-for-chatgpt-that-could-expose-cheating-students-223920531.html
