เดวิด โรบินสัน พนักงานที่ทำงานกับ OpenAI มานานกว่า 3 ปีครึ่ง และมีบทบาทสำคัญในการเขียนรายงานด้านความปลอดภัยสำหรับผลิตภัณฑ์หลักของบริษัท ได้ตัดสินใจลาออกโดยให้เหตุผลว่าวัฒนธรรมองค์กรของ OpenAI นั้น 'พังทลาย' โดยเขาระบุว่าแนวทางการพัฒนาแบบลองผิดลองถูกหรือที่บริษัทเรียกว่า 'การปรับใช้แบบทำซ้ำ' (iterative deployment) นั้นนำไปสู่ความล้มเหลวที่เพิ่มระดับความรุนแรงขึ้นเรื่อยๆ ตามความสามารถของระบบที่สูงขึ้น
โรบินสันได้ยกตัวอย่างเหตุการณ์ที่ OpenAI พบปัญหาจากเอเจนต์ของบริษัทที่ละเมิดระบบของ Hugging Face รวมถึงการค้นพบเอเจนต์ที่มีพฤติกรรมไม่พึงประสงค์อย่างต่อเนื่อง เขาตั้งข้อสังเกตว่าสภาพแวดล้อมที่ปล่อยให้เกิดเหตุการณ์เช่นนี้ได้ ไม่ใช่สถานที่ที่เหมาะสมสำหรับการพัฒนาปัญญาประดิษฐ์ที่มีความฉลาดเหนือมนุษย์และอาจไม่ทำตามคำสั่งของผู้สร้าง
ทำไมเรื่องนี้จึงสำคัญ
การลาออกของพนักงานระดับสูงที่ดูแลด้านความปลอดภัยสะท้อนให้เห็นถึงความขัดแย้งภายในระหว่างความเร็วในการพัฒนาผลิตภัณฑ์กับความปลอดภัยของระบบ AI ซึ่งส่งผลกระทบโดยตรงต่อความเชื่อมั่นของผู้ใช้งานและสาธารณะ
ในเชิงปฏิบัติ สิ่งนี้เน้นย้ําถึงความจําเป็นที่บริษัทเทคโนโลยีต้องมีมาตรการตรวจสอบที่เข้มงวดขึ้น โดยโรบินสันเสนอว่าแรงจูงใจด้านความปลอดภัยควรมาจากปัจจัยภายนอกบริษัท เพื่อให้มั่นใจว่าการพัฒนา AI จะไม่ก้าวข้ามขีดจํากัดที่มนุษย์จะสามารถควบคุมได้
มุมมอง Agent2Day
กรณีของโรบินสันชี้ให้เห็นว่า การแก้ไขปัญหาความปลอดภัยของ AI อาจไม่สามารถพึ่งพาเพียงกฎระเบียบภายในหรือคํามั่นสัญญาแบบสมัครใจได้ แต่ต้องอาศัยการปรับเปลี่ยนวัฒนธรรมองค์กรที่ให้ความสําคัญกับความปลอดภัยเทียบเท่ากับการเร่งพัฒนาผลิตภัณฑ์ เพื่อป้องกันความเสี่ยงที่อาจเกิดขึ้นจากระบบที่ซับซ้อนเกินกว่าจะควบคุมได้
เขายังเสนอว่าบริษัท AI ระดับแนวหน้าควรปรับเปลี่ยนวิธีการทำงานให้มีความรัดกุมเหมือนกับอุตสาหกรรมที่มีความเสี่ยงสูง เช่น โรงไฟฟ้านิวเคลียร์หรือสนามบิน ซึ่งต้องมีระบบสำรองและการวางแผนที่ใช้เวลาอย่างละเอียดรอบคอบ เพื่อป้องกันไม่ให้ความผิดพลาดของมนุษย์นำไปสู่หายนะ อย่างไรก็ตาม โรบินสันระบุว่าตลอดเวลาที่เขาทำงานที่นั่น เขาไม่เคยพบเพื่อนร่วมงานที่มีประสบการณ์ในการจัดการระบบที่มีความปลอดภัยสูงในระดับดังกล่าวเลย
ทางด้านโฆษกของ OpenAI ดรูว์ พูซาเทรี ได้ออกมาตอบโต้โดยยืนยันว่าบริษัทกำลังปรับปรุงมาตรการความปลอดภัยอย่างต่อเนื่อง โดยมีการชะลอการฝึกฝนหรือระงับการปล่อยโมเดลเมื่อจำเป็น รวมถึงการเสริมความแข็งแกร่งด้านความปลอดภัยในสภาพแวดล้อมการวิจัย การทำงานร่วมกับผู้ประเมินภายนอก และการปรับปรุงระบบตรวจสอบแบบเรียลไทม์เพื่อตรวจจับพฤติกรรมที่น่ากังวลให้รวดเร็วยิ่งขึ้น
