ข่าว AI และเทคโนโลยี

เผยเทคนิคใหม่ที่ช่วยเปิดเผยกระบวนการคิดภายในของโมเดล AI

นักวิจัยค้นพบวิธีดึงข้อมูล 'ร่องรอยการใช้เหตุผล' จากโมเดล AI ชั้นนำ ซึ่งชี้ให้เห็นว่า AI บางตัวจากจีนอาจถูกฝึกฝนโดยใช้ข้อมูลจากโมเดลของสหรัฐฯ

เผยเทคนิคใหม่ที่ช่วยเปิดเผยกระบวนการคิดภายในของโมเดล AI

ฟังบทความ

นักวิจัยได้พัฒนาเทคนิคใหม่ที่สามารถดึงข้อมูลที่เรียกว่า 'ร่องรอยการใช้เหตุผล' (reasoning traces) ออกมาจากโมเดลปัญญาประดิษฐ์ชั้นนำอย่าง Claude, GPT และ Gemini ได้สำเร็จ

การค้นพบนี้ไม่เพียงแต่ช่วยให้เห็นกระบวนการคิดภายในของโมเดล AI เท่านั้น แต่ยังนำไปสู่ข้อสังเกตที่สำคัญเกี่ยวกับที่มาของข้อมูลที่ใช้ในการพัฒนาโมเดล AI

ข้อมูลจากการวิจัยระบุว่า สิ่งที่ค้นพบจากการวิเคราะห์ร่องรอยการใช้เหตุผลเหล่านี้ ชี้ให้เห็นถึงความเป็นไปได้ที่โมเดล AI บางตัวจากประเทศจีนอาจมีการนำโมเดลชั้นนำจากสหรัฐอเมริกามาใช้ในการฝึกฝน

เทคนิคดังกล่าวถือเป็นก้าวสำคัญในการทำความเข้าใจการทำงานของระบบ AI ที่ซับซ้อน และอาจส่งผลต่อการตรวจสอบความโปร่งใสรวมถึงที่มาของเทคโนโลยี AI ในระดับสากลต่อไป