อดีตพนักงาน Anthropic และอดีต COO ของ METR คิดค้นวิธีควบคุม AI Agent ที่อาจหลุดมือ
สตาร์ทอัพ AIUC ระดมทุน 55 ล้านดอลลาร์ พัฒนามาตรฐานตรวจสอบความปลอดภัยสำหรับ AI Agent เสมือน SOC 2 ของวงการ AI
หัวข้อ
ความปลอดภัย AI
ติดตามข่าวและบทความที่เกี่ยวข้องกับ ความปลอดภัย AI จาก Agent2Day
2 บทความOpenAI เผยบทเรียนด้านความปลอดภัยและการปรับแนวทางโมเดล AI ระยะยาว
OpenAI แบ่งปันประสบการณ์จากการใช้งานโมเดล AI ที่ทำงานต่อเนื่องยาวนาน ชี้ให้เห็นถึงความเสี่ยงด้านความปลอดภัยใหม่ๆ ความล้มเหลวที่สังเกตได้ และการปรับปรุงระบบป้องกันผ่านการใช้งานซ้ำๆ
