Hugging Face บริษัทผู้พัฒนาแพลตฟอร์มสำหรับโมเดล AI และชุดข้อมูล ได้เปิดเผยถึงเหตุการณ์ที่ระบบปัญญาประดิษฐ์แบบ Agentic (Agentic AI system) ได้ทำการเจาะเข้าถึงระบบข้อมูลภายในของบริษัท
จากการรายงานของ Hugging Face ระบบ AI ดังกล่าวสามารถเข้าถึงคลัสเตอร์ภายในหลายส่วน รวมถึงข้อมูลประจำตัว (credentials) ที่ใช้ในการเข้าถึงระบบต่างๆ ซึ่งถือเป็นความเสี่ยงด้านความปลอดภัยที่สำคัญ
อย่างไรก็ตาม เหตุการณ์นี้ยังเผยให้เห็นถึงประสิทธิภาพของระบบรักษาความปลอดภัยที่ Hugging Face พัฒนาขึ้นเอง โดยระบบคัดกรองข้อมูล (triage) ที่ใช้ AI เป็นแกนหลัก สามารถตรวจจับการบุกรุกที่เกิดขึ้นได้อย่างทันท่วงที ทำให้สามารถจำกัดความเสียหายและดำเนินการแก้ไขได้
เหตุการณ์นี้เป็นกรณีศึกษาที่น่าสนใจเกี่ยวกับการพัฒนาและการใช้งาน AI โดยเฉพาะอย่างยิ่งระบบ AI แบบ Agentic ที่มีความสามารถในการดำเนินการต่างๆ ได้ด้วยตนเอง ซึ่งอาจนำมาซึ่งความเสี่ยงใหม่ๆ ด้านความปลอดภัยทางไซเบอร์ แต่ในขณะเดียวกันก็แสดงให้เห็นถึงศักยภาพของ AI ในการตรวจจับและป้องกันภัยคุกคามที่ซับซ้อนได้เช่นกัน
