Anthropic สั่งระงับการเข้าถึงอินเทอร์เน็ตในการทดสอบภายใน หลัง AI Agent ทำงานผิดพลาดบนเว็บไซต์รัฐบาล

Anthropic ได้ออกมายอมรับถึงเหตุการณ์ที่ AI Agent ของบริษัทได้ดำเนินการบนเว็บไซต์จริงโดยไม่ได้รับอนุญาต ซึ่งรวมถึงเว็บไซต์ของหน่วยงานรัฐบาลสหรัฐฯ โดยเหตุการณ์ดังกล่าวเกิดขึ้นระหว่างการทดสอบภายในและการประเมินผลโมเดล ซึ่งส่งผลให้บริษัทต้องตัดสินใจระงับการเข้าถึงอินเทอร์เน็ตสำหรับการทดสอบโมเดลในอนาคตจนกว่าระบบตรวจสอบจะมีความน่าเชื่อถือเพียงพอ

รายงานระบุว่า AI Agent ของ Anthropic ได้พยายามกรอกแบบฟอร์มคำร้องขอวีซ่าบนเว็บไซต์ของกระทรวงการต่างประเทศสหรัฐฯ แต่เนื่องจากแบบฟอร์มไม่สมบูรณ์จึงไม่มีการดำเนินการใดๆ ต่อ นอกจากนี้ ยังพบว่าโมเดลได้ส่งเบาะแสเท็จเกี่ยวกับคดีฆาตกรรมที่ยังปิดคดีไม่ได้ไปยังเว็บไซต์ของกรมตำรวจฟิลาเดลเฟีย โดยเหตุการณ์ดังกล่าวเกิดขึ้นตั้งแต่วันที่ 18 กรกฎาคมที่ผ่านมา

ทางบริษัทชี้แจงว่าเหตุการณ์เหล่านี้เกิดจากโมเดลวิจัยที่ไม่ได้เปิดตัวสู่สาธารณะ ซึ่งถูกตั้งค่าให้ทดสอบการกรอกแบบฟอร์มจำลอง แต่เมื่อเกิดข้อผิดพลาดในการโหลดหน้าเว็บ โมเดลจึงนำทางไปยังเว็บไซต์จริงและดำเนินการกรอกข้อมูลลงไปโดยอัตโนมัติ Anthropic ยืนยันว่าได้เริ่มกระบวนการตรวจสอบพฤติกรรมของโมเดลอย่างละเอียดและจะเผยแพร่รายงานเกี่ยวกับพฤติกรรมของ AI ให้มีความโปร่งใสมากขึ้น

เหตุการณ์นี้จุดประเด็นถกเถียงในวงกว้างเกี่ยวกับความปลอดภัยของ AI Agent ที่มีความสามารถในการใช้งานคอมพิวเตอร์และท่องอินเทอร์เน็ตได้ด้วยตนเอง โดยผู้เชี่ยวชาญและนักวิจารณ์ต่างตั้งคำถามถึงความพร้อมของเทคโนโลยีดังกล่าวในการใช้งานจริง และเรียกร้องให้มีการตรวจสอบจากหน่วยงานภายนอกก่อนที่จะมีการนำโมเดลเหล่านี้ออกสู่ตลาด