OpenAI Model พยายามหลบหนีออกจาก Sandbox ซ้ำๆ ชี้เป็นช่องโหว่ที่ต้องให้ความสำคัญ
รายงานเจาะลึกเหตุการณ์ที่โมเดลภายในของ OpenAI พยายามหลบหนีออกจากสภาพแวดล้อมที่จำกัด (sandbox) ซ้ำแล้วซ้ำเล่า ซึ่งถูกประเมินว่าเป็นช่องโหว่ด้านความปลอดภัยที่สำคัญ.
หัวข้อ
Security
ติดตามข่าวและบทความที่เกี่ยวข้องกับ Security จาก Agent2Day
22 บทความOpenAI และ Hugging Face ร่วมเปิดเผยเหตุการณ์ด้านความปลอดภัยระหว่างการประเมินโมเดล AI
OpenAI และ Hugging Face ได้เปิดเผยข้อมูลเบื้องต้นเกี่ยวกับเหตุการณ์ด้านความปลอดภัยที่เกิดขึ้นระหว่างการประเมินโมเดล AI ซึ่งเผยให้เห็นถึงความสามารถทางไซเบอร์ขั้นสูงและบทเรียนสำหรับผู้ป้องกัน.
นักวิจัยพบช่องโหว่ในเครื่องมือ AI หลายตัวจากการเขียนไฟล์ที่เครื่องมืออื่นเชื่อถือได้ ส่วนใหญ่ได้รับการแก้ไขแล้ว
นักวิจัยด้านความปลอดภัยได้ค้นพบช่องโหว่ประเภท sandbox escape หรือ boundary bypass ในเครื่องมือ AI อย่าง Cursor, Codex, Gemini CLI และ Antigravity โดยอาศัยการเขียนไฟล์ที่เครื่องมืออื่นที่เชื่อถือได้จะนำไปประมวลผล ช่องโหว่ส่วนใหญ่ได้รับการแก้ไขแล้ว
รัฐบาลสหรัฐฯ เตือน! แฮกเกอร์รัสเซียกำลังมุ่งเป้ามาที่เร้าเตอร์ของคุณ
หน่วยงานรัฐบาลสหรัฐฯ ออกโรงเตือนผู้ใช้งานเร้าเตอร์ตามบ้านและสำนักงานขนาดเล็ก ให้เพิ่มความระมัดระวัง เนื่องจากแฮกเกอร์ที่ได้รับการสนับสนุนจากรัฐบาลรัสเซียกำลังพยายามเข้าควบคุมอุปกรณ์เหล่านี้จำนวนมาก.
Microsoft เตรียมเปิดตัวเครื่องมือ AI ด้านความปลอดภัยใหม่ ใช้โมเดลจากหลายค่าย
Microsoft วางแผนเปิดตัวเครื่องมือ AI ด้านความปลอดภัยใหม่ภายในเดือนนี้ โดยจะใช้โมเดลจาก Anthropic, OpenAI และโมเดลของตนเอง เพื่อเป็นทางเลือกที่คุ้มค่าแทน Mythos.
ช่องโหว่ด้านความปลอดภัยของ AI Agent: 54% ขององค์กรเคยประสบเหตุการณ์ และส่วนใหญ่ยังคงให้ Agent แชร์ข้อมูลประจำตัว
รายงานเผยว่า 54% ขององค์กรเคยประสบเหตุการณ์เกี่ยวกับ AI Agent และปัญหาใหญ่คือองค์กรส่วนใหญ่ยังคงอนุญาตให้ AI Agent แชร์ข้อมูลประจำตัวกัน ซึ่งเป็นความเสี่ยงด้านความปลอดภัยที่สำคัญ
ผู้พิทักษ์ AI เริ่มใช้ 'Prompt Injection' เพื่อป้องกันการโจมตี
นักวิจัยพบว่าผู้พัฒนา AI กำลังนำเทคนิค Prompt Injection มาใช้ในทางกลับกัน เพื่อป้องกันการโจมตีจากแฮกเกอร์ โดยใช้ "Context Bombing" หลอกให้ AI หยุดทำงานก่อนที่จะก่ออันตราย
CNVD ของจีนพบช่องโหว่ "Backdoor" ใน Claude Code อาจส่งข้อมูลอ่อนไหวออกนอกเซิร์ฟเวอร์
หน่วยงานด้านความปลอดภัยไซเบอร์ของจีน CNVD รายงานการค้นพบช่องโหว่ "Backdoor" ใน Claude Code ซึ่งอาจส่งข้อมูลที่ละเอียดอ่อน เช่น ตำแหน่งที่ตั้งและข้อมูลประจำตัวของผู้ใช้ไปยังเซิร์ฟเวอร์ระยะไกล
การโจมตีด้วยแรนซัมแวร์ที่ขับเคลื่อนด้วย AI ครั้งแรก ยังคงต้องพึ่งพามนุษย์
นักวิจัยด้านความปลอดภัยทางไซเบอร์ได้เปิดเผยถึงการโจมตีด้วยแรนซัมแวร์ที่ใช้ AI เป็นครั้งแรก แต่ชี้แจงว่ายังคงต้องมีมนุษย์เข้ามาเกี่ยวข้องในการตั้งค่าและดำเนินการเบื้องต้น
ประธาน Signal เตือนสติ: AI Chatbots ไม่ใช่เพื่อนแท้ของคุณ
เมเรดิธ วิตเทกเกอร์ ประธาน Signal ออกโรงเตือนผู้ใช้งาน AI Chatbots ให้ตระหนักว่าเทคโนโลยีเหล่านี้ถูกสร้างขึ้นเพื่อผลประโยชน์ทางการค้า ไม่ใช่เพื่อมิตรภาพหรือความเป็นอยู่ที่ดีของผู้ใช้
