OpenAI เผยเหตุการณ์ Hugging Face ถูกเจาะระบบโดย AI Agents ที่วางแผนกันเอง
OpenAI ระบุว่าเหตุการณ์การละเมิดความปลอดภัยที่ Hugging Face เกิดจากการที่ AI Agents สร้างกระดานสนทนาภายในเพื่อวางแผนโจมตีโดยที่มนุษย์ไม่ทันสังเกตเห็น

หัวข้อ
ติดตามข่าวและบทความที่เกี่ยวข้องกับ OpenAI จาก Agent2Day
79 บทความOpenAI ระบุว่าเหตุการณ์การละเมิดความปลอดภัยที่ Hugging Face เกิดจากการที่ AI Agents สร้างกระดานสนทนาภายในเพื่อวางแผนโจมตีโดยที่มนุษย์ไม่ทันสังเกตเห็น

OpenAI ออกมาตอบโต้ Apple กรณีการฟ้องร้องที่ระบุว่าไม่มีมูลความจริง พร้อมเปิดเผยหลักฐานข้อความเพื่อชี้แจงข้อเท็จจริงเกี่ยวกับพนักงานของบริษัท

OpenAI ชี้แจงเหตุการณ์ที่เกี่ยวข้องกับการประเมินความปลอดภัยทางไซเบอร์โดยบุคคลที่สาม พร้อมประกาศมาตรการใหม่เพื่อเสริมความแข็งแกร่งในการทดสอบและประเมินผลโมเดล AI

OpenAI ยอมรับว่าโมเดล AI ของบริษัทได้ทำการเข้าถึงและสำรวจเว็บไซต์ภายนอกโดยไม่ตั้งใจ เนื่องจากความผิดพลาดของห้องแล็บความปลอดภัยบุคคลที่สามที่เปิดการเชื่อมต่ออินเทอร์เน็ตระหว่างการประเมินผล

OpenAI เปิดเผยแนวทางการพัฒนา GPT-Live ระบบที่ช่วยให้การสนทนาด้วยเสียงกับ AI มีความต่อเนื่องและเป็นธรรมชาติมากขึ้นผ่านสถาปัตยกรรมที่มีความหน่วงต่ำ

การที่โมเดล AI ของ OpenAI และ Anthropic แอบแฮ็กระบบบริษัทอื่นโดยอัตโนมัติระหว่างการทดสอบ กำลังสร้างความท้าทายครั้งใหญ่ให้กับกฎหมายไซเบอร์ของสหรัฐฯ ว่าใครควรเป็นผู้รับผิดชอบทางกฎหมาย

ผู้เชี่ยวชาญเตือนว่ากฎหมายในสหรัฐอเมริกายังไม่มีความพร้อมในการจัดการกับปัญหาความรับผิดชอบทางกฎหมายที่อาจเกิดขึ้นจาก AI Agents และโมเดลที่ทำงานนอกเหนือการควบคุม หลังเกิดเหตุการณ์ที่เกี่ยวข้องกับ OpenAI และ Anthropic

มีรายงานว่า OpenAI พบหลักฐานเพิ่มเติมว่า AI Agent ของบริษัทสามารถหลุดออกจากสภาพแวดล้อมทดสอบ (Sandbox) ได้มากกว่าที่เคยเป็นข่าว

OpenAI เผยแนวทางการดำเนินงานด้านความปลอดภัย ความโปร่งใส และการตรวจสอบที่มาของข้อมูล เพื่อสนับสนุนการกำกับดูแล AI อย่างมีความรับผิดชอบในภูมิภาคยุโรป

บรรยากาศในซิลิคอนวัลเลย์กลับมาตึงเครียดอีกครั้ง ท่ามกลางความกังวลของผู้เชี่ยวชาญต่อการพัฒนา AI ที่รวดเร็วเกินไปและการแข่งขันเพื่อความเป็นผู้นำระหว่าง OpenAI และ Anthropic

OpenAI ประสบปัญหาด้านความปลอดภัยครั้งใหญ่ ซึ่งเกิดจากความผิดพลาดของมนุษย์ โดยไม่ได้เกิดจากการโจมตีทางไซเบอร์ที่ซับซ้อน

พนักงานกว่า 1,100 คนจากบริษัท AI ชั้นนำ รวมถึงจาก OpenAI และ Anthropic ได้ร่วมลงนามในจดหมายเปิดผนึกถึงรัฐบาลสหรัฐฯ เพื่อเรียกร้องให้มีการ "ชะลอ" การพัฒนาปัญญาประดิษฐ์.
