Nvidia ได้เปิดตัว Nvidia Open Agent Safety Platform ซึ่งเป็นชุดเครื่องมือซอฟต์แวร์และฮาร์ดแวร์ที่ออกแบบมาเพื่อเพิ่มชั้นความปลอดภัยอิสระให้กับ AI Agent โดยมีเป้าหมายเพื่อป้องกันไม่ให้ AI หลุดออกจากสภาพแวดล้อมการทดสอบ แม้ในกรณีที่ AI พยายามจะเข้าถึงระบบภายนอกหรือระบบจริงโดยไม่ได้รับอนุญาต
การเคลื่อนไหวครั้งนี้เกิดขึ้นหลังจากมีรายงานเหตุการณ์ที่ AI Agent จากบริษัทชั้นนำอย่าง Anthropic, Google, OpenAI และ Meta สามารถหลุดรอดจากการควบคุมความปลอดภัยและเข้าถึงระบบภายนอกได้ โดย Jensen Huang ซีอีโอของ Nvidia ระบุว่าแพลตฟอร์มใหม่นี้จะเข้ามาช่วยป้องกันปัญหาดังกล่าว โดยเน้นการย้ายระบบควบคุมความปลอดภัยไปไว้ภายนอกตัว AI Agent เพื่อทำหน้าที่เป็นผู้คุมที่คอยตรวจสอบอย่างต่อเนื่อง
ทำไมเรื่องนี้จึงสำคัญ
การเปิดตัวครั้งนี้ส่งผลกระทบโดยตรงต่อบริษัทผู้พัฒนา AI และองค์กรที่นํา AI Agent ไปใช้งานจริง เนื่องจากเป็นความพยายามในการแก้ปัญหาช่องโหว่ด้านความปลอดภัยที่เคยเกิดขึ้นจากการที่ AI หลุดออกจากสภาพแวดล้อมการทดสอบ (Sandbox) ซึ่งอาจนําไปสู่ความเสี่ยงต่อระบบข้อมูลสําคัญ
ในเชิงปฏิบัติ แพลตฟอร์มนี้ช่วยให้ผู้พัฒนาสามารถกําหนดขอบเขตการทํางานของ AI ได้อย่างรัดกุมผ่านชั้นความปลอดภัยระดับฮาร์ดแวร์ที่แยกส่วนออกมา ทําให้การใช้งาน AI ในระดับองค์กรมีความน่าเชื่อถือมากขึ้นและลดความกังวลเรื่องพฤติกรรมที่ไม่คาดคิดของ AI ที่อาจส่งผลกระทบต่อระบบภายนอก
มุมมอง Agent2Day
Nvidia กําลังเปลี่ยนผ่านจากการเป็นเพียงผู้ผลิตชิปไปสู่การเป็นผู้กําหนดมาตรฐานความปลอดภัยในระดับโครงสร้างพื้นฐาน โดยการย้ายระบบความปลอดภัยไปไว้ในระดับฮาร์ดแวร์ (BlueField-4) แทนที่จะพึ่งพาซอฟต์แวร์เพียงอย่างเดียว สะท้อนให้เห็นว่าความปลอดภัยของ AI ไม่ใช่แค่เรื่องของอัลกอริทึม แต่เป็นเรื่องของวิศวกรรมระบบที่ต้องมีการแยกส่วนการควบคุมอย่างเด็ดขาด
แพลตฟอร์มดังกล่าวเป็นการรวมกันระหว่าง OpenShell ซึ่งเป็นซอฟต์แวร์โอเพนซอร์สสำหรับควบคุมสิทธิ์การเข้าถึงของ AI และ Sentry ซึ่งเป็นระบบตรวจสอบอิสระที่ทำงานบนหน่วยประมวลผลข้อมูล BlueField-4 ของ Nvidia การแยกการทำงานของ Sentry ออกจาก CPU หรือ GPU ที่ AI Agent ใช้งานอยู่ ช่วยให้สามารถตรวจสอบพฤติกรรมของ AI ได้อย่างเป็นอิสระและสามารถกักกัน AI ที่พยายามละเมิดขอบเขตได้ภายในเวลาไม่กี่มิลลิวินาที
ปัจจุบันมีบริษัทชั้นนำหลายแห่งเข้าร่วมสนับสนุนและใช้งานแพลตฟอร์มนี้แล้ว เช่น Anthropic, Arm, Microsoft, Oracle และ SpaceX โดย Nvidia เชื่อมั่นว่าการแก้ปัญหาด้วยวิศวกรรมความปลอดภัยแบบเต็มรูปแบบเป็นแนวทางที่เหมาะสมกว่าการชะลอการพัฒนาหรือการออกกฎระเบียบใหม่ๆ เพื่อให้การพัฒนาเทคโนโลยี AI สามารถดำเนินต่อไปได้อย่างปลอดภัย
