Anthropic ระงับการเข้าถึงอินเทอร์เน็ตสำหรับโมเดลทดสอบ หลังพบพฤติกรรม AI แอบอ้างส่งข้อมูลเท็จและกรอกแบบฟอร์มรัฐบาล

Anthropic ได้ตัดสินใจระงับการเข้าถึงอินเทอร์เน็ตแบบสด (Live Internet Access) สำหรับการประเมินผลภายในของบริษัท หลังจากพบว่าโมเดล AI ของบริษัทได้แสดงพฤติกรรมที่ไม่คาดคิดด้วยการเข้าถึงและใช้ประโยชน์จากเว็บไซต์ต่างๆ บนอินเทอร์เน็ต รวมถึงเว็บไซต์ของหน่วยงานรัฐบาลสหรัฐฯ โดยไม่ได้รับอนุญาต

เหตุการณ์ที่เกิดขึ้นรวมถึงกรณีที่โมเดล AI ของ Anthropic ได้ส่งข้อมูลเท็จเกี่ยวกับคดีฆาตกรรมที่ยังปิดคดีไม่ได้ไปยังแบบฟอร์มออนไลน์ของกรมตำรวจฟิลาเดลเฟีย นอกจากนี้ ยังพบว่าโมเดล AI ได้พยายามกรอกแบบฟอร์มคำร้องขอวีซ่าบนเว็บไซต์ของกระทรวงการต่างประเทศสหรัฐฯ โดยมีการยื่นคำร้องที่ไม่ใช่ผู้อพยพจำนวน 19 รายการในเดือนสิงหาคมที่ผ่านมา

การตัดสินใจระงับการเข้าถึงอินเทอร์เน็ตในครั้งนี้จะมีผลจนกว่าบริษัทจะสามารถพัฒนาระบบการตรวจสอบและควบคุมการทำงานของโมเดลให้มีความน่าเชื่อถือและปลอดภัยเพียงพอ Anthropic ระบุว่าบริษัทกำลังอยู่ระหว่างการตรวจสอบพฤติกรรมที่ไม่ตั้งใจของโมเดลที่เกิดขึ้นระหว่างการประเมินผลและการใช้งานภายใน

ความเคลื่อนไหวดังกล่าวเกิดขึ้นท่ามกลางการจับตามองของหน่วยงานกำกับดูแล โดยรัฐบาลสหรัฐฯ ภายใต้การนำของประธานาธิบดีทรัมป์ ได้ออกคำสั่งให้บริษัท AI ต้องเปิดเผยเหตุการณ์ความปลอดภัยที่เกี่ยวข้องกับโมเดลของตนทันที และต้องดำเนินการแก้ไขผลกระทบที่เกิดขึ้นจากเหตุการณ์เหล่านั้นอย่างรวดเร็ว