OpenAI ได้ออกมาเปิดเผยว่าบริษัทได้ระงับการทำงานในบางส่วนของโมเดล Astra ที่กำลังอยู่ในระหว่างการพัฒนา หลังจากผลการตรวจสอบภายในพบว่าโมเดลดังกล่าวมีความก้าวหน้าอย่างมากในด้านการเขียนโค้ดแบบเอเจนต์ (agentic coding) และความปลอดภัยทางไซเบอร์ ซึ่งความสามารถเหล่านี้อยู่ในระดับที่น่ากังวล
ตามรายงานจากบล็อกของ OpenAI ระบุว่าโมเดล Astra ได้ก้าวข้าม 'เกณฑ์ความปลอดภัยทางไซเบอร์ระดับวิกฤต' (critical cybersecurity threshold) ซึ่งหมายความว่าโมเดลอาจมีความสามารถในการระบุและดำเนินการโจมตีทางไซเบอร์ต่อระบบที่มีการป้องกันอย่างแน่นหนาในโลกแห่งความเป็นจริงได้ด้วยตนเอง ส่งผลให้บริษัทต้องใช้มาตรการป้องกันเพิ่มเติมภายใต้ 'กรอบการเตรียมความพร้อม' (Preparedness Framework) ที่จัดตั้งขึ้นในปี 2023
การเปิดเผยข้อมูลในครั้งนี้ถือเป็นเรื่องที่ค่อนข้างหาได้ยากในอุตสาหกรรม AI เนื่องจากบริษัทส่วนใหญ่มักไม่ประกาศการตัดสินใจระงับการพัฒนาผลิตภัณฑ์ต่อสาธารณะ อย่างไรก็ตาม OpenAI ระบุว่าการสื่อสารในครั้งนี้มีความสำคัญเพื่อให้เกิดความโปร่งใสต่อสาธารณชน รวมถึงชุมชนด้านความปลอดภัยและมั่นคงปลอดภัยทางไซเบอร์ เกี่ยวกับการเปลี่ยนแปลงของขีดความสามารถของโมเดลที่อาจเกิดขึ้น
ในขณะนี้ OpenAI ได้ดำเนินมาตรการควบคุมความปลอดภัยที่เข้มงวดขึ้น และระงับกิจกรรมภายในที่เกี่ยวข้องกับ Astra ซึ่งไม่ผ่านเกณฑ์มาตรฐานความปลอดภัยใหม่ที่กำหนดไว้ นอกจากนี้ บริษัทยังกำลังร่วมมือกับหน่วยงานภาครัฐและองค์กรด้านความปลอดภัยของ AI เพื่อทดสอบขีดความสามารถของโมเดลดังกล่าวอย่างละเอียดต่อไป
