รายงานระบุว่าการนำเทคโนโลยีลายน้ำมาใช้ในโมเดลภาษาขนาดใหญ่ (LLM) ส่งผลให้พฤติกรรมของโมเดลในการตอบสนองต่อคำสั่งที่เป็นอันตรายเปลี่ยนแปลงไป โดยเทคโนโลยีอย่าง SynthID-Text ซึ่งเป็นวิธีการที่ Google พัฒนาขึ้นและถูกนำมาใช้ในโมเดล Claude ของ Anthropic อาจทำให้โมเดลยอมทำตามคำสั่งที่เป็นอันตรายในกรณีที่ปกติแล้วโมเดลควรจะปฏิเสธ
การทำงานของเทคโนโลยีนี้เกี่ยวข้องกับการใช้กุญแจลับเพื่อปรับเปลี่ยนกระบวนการสร้างข้อความของโมเดลอย่างแนบเนียน เพื่อให้สามารถระบุที่มาของเนื้อหาที่สร้างโดย AI ได้ตามข้อกำหนดของกฎหมายใหม่ในสหภาพยุโรป
ทำไมเรื่องนี้จึงสำคัญ
การค้นพบนี้ส่งผลกระทบโดยตรงต่อผู้พัฒนา AI และองค์กรที่ต้องปฏิบัติตามกฎหมายการระบุเนื้อหา AI ในสหภาพยุโรป เนื่องจากความพยายามในการสร้างความโปร่งใสผ่านลายน้ําอาจแลกมาด้วยความเสี่ยงด้านความปลอดภัยที่เพิ่มขึ้น
สําหรับผู้ใช้งานทั่วไปและภาคธุรกิจ นี่หมายความว่าโมเดลที่ติดตั้งระบบลายน้ําอาจมีความเปราะบางต่อการถูกโจมตีด้วยคําสั่งที่ซับซ้อน ซึ่งอาจนําไปสู่การสร้างเนื้อหาที่เป็นอันตรายได้มากกว่าโมเดลที่ไม่มีการติดตั้งระบบดังกล่าว
มุมมอง Agent2Day
การเพิ่มมาตรการกํากับดูแลด้วยลายน้ําดิจิทัลกําลังสร้างภาวะกลืนไม่เข้าคายไม่ออกให้กับผู้พัฒนา AI เพราะในขณะที่ลายน้ําช่วยแก้ปัญหาเรื่องความโปร่งใส แต่กลับกลายเป็นช่องโหว่ที่ลดทอนความปลอดภัยของโมเดลลง ซึ่งสะท้อนให้เห็นว่าการแก้ปัญหาหนึ่งอาจนําไปสู่ความเสี่ยงใหม่ที่ต้องได้รับการแก้ไขอย่างเร่งด่วน
อย่างไรก็ตาม การปรับเปลี่ยนกระบวนการดังกล่าวส่งผลกระทบต่อความปลอดภัยของโมเดล ทำให้เกิดช่องโหว่ที่ผู้ใช้งานสามารถใช้คำสั่งที่เป็นอันตราย (Adversarial Prompts) เพื่อหลอกล่อให้โมเดลแสดงผลลัพธ์ที่ไม่เหมาะสมได้ง่ายขึ้น
ประเด็นนี้ถือเป็นความท้าทายสำคัญสำหรับผู้พัฒนา AI ที่ต้องรักษาสมดุลระหว่างการปฏิบัติตามกฎระเบียบด้านการระบุตัวตนของเนื้อหา AI กับการรักษาความปลอดภัยของโมเดลไม่ให้ถูกใช้ในทางที่ผิด
