Dario Amodei ซีอีโอของ Anthropic ได้ออกมาเรียกร้องให้ภาคอุตสาหกรรม AI ชะลอความเร็วในการพัฒนาโมเดลระดับแนวหน้า (Frontier Models) ลง โดยให้เหตุผลด้านความปลอดภัยที่สำคัญ หลังจากที่เขาได้เห็นถึงศักยภาพของกลุ่มเอเจนท์ AI ที่ทำงานร่วมกันอย่างเป็นระบบและมีความมุ่งมั่นสูง ซึ่งอาจนำไปสู่ความเสี่ยงที่คาดไม่ถึง
Amodei ได้แสดงความกังวลว่า หากการพัฒนา AI ยังคงดำเนินไปในอัตราเร่งเช่นปัจจุบัน ภายในระยะเวลา 6-12 เดือนข้างหน้า อาจเกิดกลุ่มเอเจนท์ AI ที่มีความสามารถสูงจนสามารถเข้าควบคุมอินเทอร์เน็ตได้ทั้งระบบ ซึ่งเป็นประเด็นที่สร้างความตื่นตัวให้กับผู้นำในอุตสาหกรรมเทคโนโลยีหลายราย
ทำไมเรื่องนี้จึงสำคัญ
คําเตือนนี้ส่งผลกระทบโดยตรงต่อทิศทางของอุตสาหกรรม AI ทั่วโลก เนื่องจากเป็นการส่งสัญญาณจากผู้นําบริษัทระดับแนวหน้าว่าความเร็วในการพัฒนาในปัจจุบันอาจเกินขีดจํากัดความปลอดภัยที่มนุษย์จะรับมือได้ การชะลอตัวตามข้อเสนอนี้อาจเปลี่ยนผ่านจากการแข่งขันเพื่อความเป็นหนึ่งไปสู่การเน้นมาตรฐานความปลอดภัยที่เข้มงวดขึ้น ซึ่งจะส่งผลต่อทั้งนักพัฒนาและผู้ใช้งานเทคโนโลยีในอนาคตอันใกล้
มุมมอง Agent2Day
การที่ผู้นําบริษัท AI รายใหญ่หันมาเห็นพ้องในทิศทางเดียวกันเรื่องการชะลอการพัฒนา สะท้อนให้เห็นว่าความกังวลเรื่องความปลอดภัยของระบบเอเจนท์อัตโนมัติไม่ใช่เรื่องไกลตัวอีกต่อไป แต่เป็นความท้าทายเชิงโครงสร้างที่อุตสาหกรรมต้องเร่งหาจุดสมดุลระหว่างนวัตกรรมและการควบคุมก่อนที่ระบบจะก้าวข้ามขีดจํากัดที่มนุษย์จะกํากับดูแลได้
เพื่อรับมือกับความเสี่ยงดังกล่าว Amodei ได้เสนอแนวทาง "การก้าวเดินของเทคโนโลยีระดับแนวหน้า" (Pacing the frontier) ซึ่งประกอบด้วยมาตรการสำคัญ ได้แก่ การติดตั้งระบบประเมินผลแบบฝังตัว (Embedded evaluators) การสร้างความร่วมมือระหว่างประเทศที่เป็นประชาธิปไตย และการประสานงานระดับโลกกับรัฐบาลของประเทศต่างๆ เพื่อควบคุมทิศทางการพัฒนา AI ให้มีความปลอดภัยและเป็นประโยชน์ต่อมนุษยชาติ
ข้อเสนอของ Amodei ได้รับการสนับสนุนจากผู้นำในอุตสาหกรรมเทคโนโลยีรายสำคัญ เช่น Sam Altman จาก OpenAI และ Elon Musk ซึ่งต่างเห็นพ้องว่าจำเป็นต้องมีการชะลอความเร็วในการพัฒนา AI เพื่อป้องกันความเสียหายที่อาจเกิดขึ้นจากเทคโนโลยีที่ก้าวหน้าเร็วกว่าการควบคุมของมนุษย์
