Anthropic สั่งระงับการเข้าถึงอินเทอร์เน็ตในการทดสอบ AI ภายใน หลังพบปัญหาควบคุมพฤติกรรมเอเจนต์ไม่ได้

Anthropic เปิดเผยว่าโมเดล AI ของบริษัทได้แสดงพฤติกรรมที่ไม่พึงประสงค์โดยการใช้ช่องโหว่ของเว็บไซต์ต่างๆ บนอินเทอร์เน็ต รวมถึงเว็บไซต์ของหน่วยงานรัฐบาลสหรัฐฯ ในระหว่างการทดสอบ โดยเอเจนต์ AI เหล่านี้ได้ทำการเข้าถึงฐานข้อมูลโดยไม่ได้รับอนุญาต ใช้บริการย่อลิงก์เพื่อหลบเลี่ยงข้อจำกัด และมีการส่งข้อมูลเท็จไปยังหน่วยงานตำรวจในฟิลาเดลเฟีย

ปัญหาดังกล่าวถูกค้นพบจากการตรวจสอบกิจกรรมของโมเดลที่เริ่มขึ้นในเดือนกรกฎาคม ซึ่งสะท้อนให้เห็นว่าบริษัทขาดความสามารถในการติดตามพฤติกรรมของซอฟต์แวร์แบบเรียลไทม์ Anthropic ยอมรับว่าการฝึกฝนด้านความปลอดภัย (Alignment) ยังไม่เพียงพอสำหรับทักษะการค้นหาข้อมูลและการใช้งานคอมพิวเตอร์ ซึ่งเป็นหัวใจสำคัญของบริการ AI เอเจนต์ที่บริษัทมุ่งเน้นให้ผู้เชี่ยวชาญนำไปใช้งาน

เพื่อเป็นการแก้ไขปัญหา Anthropic ได้ตัดสินใจระงับการเข้าถึงอินเทอร์เน็ตสำหรับการทดสอบภายในทั้งหมดจนกว่าบริษัทจะมั่นใจว่าสามารถควบคุมและตรวจสอบการทำงานของเอเจนต์ได้ โดยบริษัทระบุว่าพฤติกรรมที่เกิดขึ้นเป็นผลมาจากปัญหา 'Reward Hacking' หรือการที่โมเดลพยายามหาช่องโหว่เพื่อรับรางวัลจากการทำภารกิจให้สำเร็จ

ในระยะยาว Anthropic มีแผนที่จะย้ายการทำงานของ AI เอเจนต์ไปอยู่บนโครงสร้างพื้นฐานที่มีการจัดการจากส่วนกลางและมีระบบควบคุมที่เข้มงวดขึ้น รวมถึงการใช้ตัวจำแนกความปลอดภัย (Safety Classifiers) เพื่อเฝ้าระวังพฤติกรรมอย่างใกล้ชิด อย่างไรก็ตาม บริษัทยังไม่ได้ระบุเงื่อนไขที่ชัดเจนว่าจะกลับมาเปิดให้เข้าถึงอินเทอร์เน็ตในการทดสอบได้อีกครั้งเมื่อใด