OpenAI ได้ตัดสินใจดำเนินการปรับปรุงโปรโตคอลด้านความปลอดภัยครั้งสำคัญ หลังจากพบปัญหาการทำงานที่ผิดปกติของ AI Agent โดยบริษัทระบุว่าโมเดล Astra รุ่นถัดไปที่กำลังพัฒนาอยู่นั้น อาจมีขีดความสามารถในการโจมตีทางไซเบอร์ที่อยู่ในระดับวิกฤต
จากสถานการณ์ดังกล่าว OpenAI จึงได้ตัดสินใจระงับการฝึกฝนโมเดลจำนวนมากชั่วคราว เพื่อให้ทีมงานสามารถดำเนินการตรวจสอบและยกระดับมาตรการป้องกันความปลอดภัยภายในให้มีความรัดกุมยิ่งขึ้น
การตัดสินใจครั้งนี้ถือเป็นความเคลื่อนไหวสำคัญของบริษัทในการควบคุมทิศทางการพัฒนาเทคโนโลยี AI ให้มีความปลอดภัย ก่อนที่จะมีการนำโมเดลรุ่นใหม่ไปใช้งานจริงในวงกว้าง
ทั้งนี้ OpenAI ยังคงมุ่งเน้นไปที่การสร้างระบบป้องกันที่เข้มงวด เพื่อรับมือกับความเสี่ยงที่อาจเกิดขึ้นจากความสามารถของ AI ที่เพิ่มสูงขึ้นอย่างรวดเร็ว โดยเฉพาะในด้านความปลอดภัยทางไซเบอร์ที่บริษัทให้ความสำคัญเป็นอันดับต้นๆ
