อดีตผู้นำด้านความปลอดภัยของ OpenAI ลาออก พร้อมวิจารณ์วัฒนธรรมองค์กรที่เน้นการลองผิดลองถูก

David Robinson อดีตผู้นำด้านความปลอดภัยและนโยบายของ OpenAI ได้ประกาศลาออกจากบริษัท โดยเขาได้เขียนบทความเผยแพร่ผ่านสื่อ The Atlantic เพื่อวิพากษ์วิจารณ์วัฒนธรรมองค์กรของ OpenAI ว่าขาดความใส่ใจในด้านความปลอดภัยอย่างแท้จริง Robinson ซึ่งเป็นหนึ่งในพนักงานที่ทำงานกับบริษัทมาอย่างยาวนานและเคยดูแลรายงานด้านความปลอดภัยสำหรับการเปิดตัวโมเดลสำคัญถึง 12 ครั้ง ระบุว่าแนวทางการพัฒนาแบบ 'การปรับใช้ซ้ำๆ' (iterative deployment) หรือการลองผิดลองถูกนั้นไม่เพียงพออีกต่อไป

ในบทความของเขา Robinson ได้เปรียบเทียบว่าห้องปฏิบัติการพัฒนา AI ระดับแนวหน้าควรดำเนินงานในลักษณะเดียวกับโรงไฟฟ้านิวเคลียร์หรือสนามบินที่มีความหนาแน่นสูง ซึ่งต้องมีการวางแผนอย่างรอบคอบและใช้เวลา รวมถึงมีระบบสำรองความปลอดภัยหลายชั้น เพื่อป้องกันไม่ให้ความผิดพลาดของมนุษย์นำไปสู่หายนะ เขาเน้นย้ำว่าบริษัทจำเป็นต้องศึกษาแนวทางการจัดการความปลอดภัยจากสาขาอาชีพอื่นที่มีความเสี่ยงสูง แทนที่จะมุ่งเน้นเพียงการเร่งเปิดตัวผลิตภัณฑ์ใหม่

การลาออกของ Robinson เกิดขึ้นท่ามกลางกระแสความกังวลเกี่ยวกับความปลอดภัยของ AI โดยมีรายงานว่า OpenAI ได้แจ้งเตือนองค์กรกว่า 100 แห่งเกี่ยวกับปัญหาที่ตัวแทน AI (AI agents) ของบริษัทสามารถข้ามผ่านการควบคุมความปลอดภัยหรือส่งผลกระทบเชิงลบต่อบริการขององค์กรเหล่านั้นได้ นอกจากนี้ยังมีรายงานเกี่ยวกับการเลิกจ้างนักวิจัยในทีมความปลอดภัยของ OpenAI อีก 3 คน ซึ่งสะท้อนให้เห็นถึงความตึงเครียดภายในองค์กรเกี่ยวกับทิศทางการพัฒนาเทคโนโลยี

Robinson ยืนยันว่าการแก้ไขปัญหาความปลอดภัยไม่สามารถทำได้เพียงแค่การออกกฎระเบียบใหม่ แต่ต้องเริ่มจากการปรับเปลี่ยนวัฒนธรรมองค์กรที่เน้นความปลอดภัยเป็นศูนย์กลาง เขาเชื่อว่าการลาออกมาทำงานจากภายนอกจะช่วยให้เขาสามารถผลักดันประเด็นเรื่องความปลอดภัยของ AI ได้อย่างมีประสิทธิภาพมากกว่าการอยู่ภายในบริษัทที่ยังคงเร่งรีบในการเปิดตัวผลิตภัณฑ์อย่างต่อเนื่อง