Jacob Coxon นักวิจัยด้านปัญญาประดิษฐ์ได้ประกาศลาออกจากบริษัท Anthropic พร้อมส่งสัญญาณเตือนถึงความเสี่ยงที่การแข่งขันพัฒนา AI ในปัจจุบันอาจส่งผลกระทบต่อชีวิตของผู้คนทั่วโลก โดย Coxon ระบุผ่านโพสต์บนแพลตฟอร์ม X ว่า บรรดานักพัฒนา AI จำนวนมากมีความเห็นตรงกันว่าเวลาในการสร้างระบบ AI ให้มีความปลอดภัยนั้นกำลังจะหมดลง
ในการให้สัมภาษณ์กับ WIRED, Coxon ซึ่งเคยรับผิดชอบงานในขั้นตอนการฝึกฝนโมเดล (Pretraining) กล่าวว่าเพื่อนร่วมงานของเขาใน Anthropic มักใช้คำว่า 'จุดตัดสิน' (Endgame) หรือ 'ช่วงเวลาวิกฤต' (Crunch Time) เพื่ออธิบายสถานการณ์ปัจจุบัน โดยเขามองว่าในช่วง 1-2 ปีข้างหน้านี้จะเป็นช่วงเวลาที่บริษัทผู้พัฒนา AI จะต้องตัดสินใจเรื่องชะตากรรมของมนุษยชาติ
ทำไมเรื่องนี้จึงสำคัญ
การออกมาเปิดเผยของนักวิจัยระดับสูงสะท้อนให้เห็นถึงความกังวลภายในบริษัทชั้นนําเกี่ยวกับความปลอดภัยของโมเดล AI ที่มีความสามารถสูงขึ้นอย่างรวดเร็ว โดยเฉพาะความสามารถในการวางแผนและดําเนินการโจมตีทางไซเบอร์ด้วยตนเอง ซึ่งเหตุการณ์ที่ AI ของ OpenAI เคยโจมตีแพลตฟอร์ม Hugging Face ได้กลายเป็นหลักฐานสําคัญที่ทําให้ข้อกังวลเรื่องความปลอดภัยไม่ใช่เรื่องเพ้อฝันอีกต่อไป
ผลกระทบนี้ส่งผลโดยตรงต่อความเชื่อมั่นของสาธารณชนและนักลงทุน ในขณะที่บริษัทอย่าง Anthropic กําลังเตรียมตัวเข้าสู่ตลาดหลักทรัพย์ การที่บุคลากรภายในออกมาเตือนถึงความเสี่ยงระดับวิกฤตจึงเป็นปัจจัยที่กดดันให้บริษัทต้องเร่งพิสูจน์ว่าพวกเขาสามารถควบคุมเทคโนโลยีที่กําลังพัฒนาอยู่ได้จริง
มุมมอง Agent2Day
คําเตือนของ Coxon ชี้ให้เห็นว่าปัญหาไม่ได้อยู่ที่ตัวเทคโนโลยีเพียงอย่างเดียว แต่อยู่ที่ 'ความเร็ว' ในการพัฒนาที่แซงหน้าความสามารถในการควบคุม (Alignment) ของมนุษย์ การที่นักวิจัยระดับแนวหน้าเลือกที่จะลาออกเพื่อส่งเสียงเตือน คือสัญญาณบ่งชี้ว่ากลไกการกํากับดูแลภายในอุตสาหกรรม AI อาจยังไม่เพียงพอที่จะรับมือกับความเสี่ยงที่เพิ่มขึ้นแบบทวีคูณในขณะนี้
ความกังวลของ Coxon ยังสอดคล้องกับบุคลากรในอุตสาหกรรมรายอื่น เช่น Evan Hubinger หัวหน้าฝ่ายการปรับจูน AI (Alignment Lead) ของ Anthropic ที่เคยคาดการณ์ว่ามีความเป็นไปได้มากกว่า 10 เปอร์เซ็นต์ที่ AI อาจส่งผลกระทบถึงขั้นทำให้มนุษย์สูญพันธุ์ได้ภายในทศวรรษหน้า ซึ่งแนวคิดนี้ได้รับการสนับสนุนจากนักวิจัยทั้งในอดีตและปัจจุบันจากทั้ง OpenAI และ Anthropic
สำหรับแนวทางแก้ไข Coxon เสนอว่า OpenAI และ Anthropic ควรประสานความร่วมมือกันเพื่อจำกัดการพัฒนา AI แบบ 'Recursive Self-Improvement' หรือการที่ AI ถูกนำไปใช้สร้างระบบ AI ใหม่ด้วยตัวเอง นอกจากนี้เขายังเน้นย้ำถึงความจำเป็นในการประสานงานระหว่างมหาอำนาจระดับโลกอย่างสหรัฐอเมริกาและจีน เพื่อควบคุมทิศทางการพัฒนาเทคโนโลยีนี้ไม่ให้ก้าวไปสู่ความเสี่ยงที่ควบคุมไม่ได้
