DeepMind และ Hugging Face เปิดตัว SynthID ใส่ลายน้ำในข้อความที่ LLM สร้างขึ้น

จะรู้ได้อย่างไรว่าข้อความดังกล่าวนั้นถูกสร้างขึ้นโดย LLM หรือเขียนขึ้นมาเอง ล่าสุด Google DeepMind และ Hugging Face ดูเหมือนจะมีโซลูชันแก้ไขปัญหาแบบหนึ่ง โดยได้ปล่อยเครื่องมือที่มีชื่อว่า SynthID Text ที่จะทำเครื่องหมายและตรวจจับข้อความที่สร้างโดย LLM ได้

โดย SynthID Text จะมีการเข้ารหัส (Encode) ลายน้ำให้กลายเป็นข้อความที่สร้างขึ้นโดย AI เพื่อเป็นแนวทางที่จะช่วยให้สามารถตรวจจับได้ว่าข้อความดังกล่าวนั้นถูกสร้างขึ้นโดย LLM ที่สำคัญ ยังสามารถดำเนินการได้โดยที่ไม่จำเป็นจะต้องแก้ไขวิธีการทำงานของ LLM หรือว่าต้องลดคุณภาพข้อความที่ถูกสร้างขึ้นมาด้วย

We've open sourced @GoogleDeepMind's SynthID, a tool that allows model creators to embed and detect watermarks in text outputs from their own LLMs. More details published in @Nature today: https://t.co/5Q6QGRvD3G

— Sundar Pichai (@sundarpichai) October 23, 2024

เทคนิคที่อยู่เบื้องหลัง SynthID Text นั้นถูกพัฒนาโดยนักวิจัยจาก DeepMind และได้นำเสนอไว้ในงานตีพิมพ์ที่เผยแพร่ในนิตยสาร Nature เป็นที่เรียบร้อยแล้ว อีกทั้งการพัฒนา SynthID Text ก็ยังได้ถูกเพิ่มเติมเข้าไปในชุด Library ของ Transformer ใน Hugging Face แล้วอีกด้วย ทั้งนี้เครื่องมือดังกล่าวจะเน้นการใส่ลายน้ำเข้าไปข้อความผลลัพธ์จาก LLM มากกว่าการใช้ตรวจจับว่าข้อความนั้นถูกสร้างโดย LLM หรือไม่ 

อย่างไรก็ดี สิ่งนี้ยังคงมีข้อจำกัดคือ แม้ว่าจะยังคงทนทานต่อข้อความที่ถูกสร้างขึ้นโดย LLM แล้วถูกตัดทอนบางส่วนหรือแก้ไขข้อความบางอย่าง แต่จะมีประสิทธิภาพน้อยลงถ้าหากว่าข้อความผลลัพธ์นั้นเป็นข้อเท็จจริงมาก ๆ และแก้ไขก็อาจจะส่งผลทำให้ความถูกต้องลดลงได้ หรือแม้กระทั่งการถูกนำข้อความพิมพ์ขึ้นมาใหม่ เป็นต้น

สำหรับผู้ที่สนใจในรายละเอียดของ SynthID Text สามารถเข้าไปดูเพิ่มเติมได้บนเว็บไซต์ Hugging Face  

ที่มา: https://venturebeat.com/ai/deepmind-and-hugging-face-release-synthid-to-watermark-llm-generated-text/