รายงานจาก Bryan Shan แห่ง SemiAnalysis เปิดเผยผลการทดสอบประสิทธิภาพการประมวลผล (Inference) ของระบบ Vera Rubin NVL72 โดยพบว่าสามารถทำอัตราการประมวลผลโทเค็นต่อเมกะวัตต์ (Token throughput per MW) ได้สูงกว่าสถาปัตยกรรม Blackwell ถึง 7 เท่า
การทดสอบดังกล่าวใช้โมเดล DeepSeek ขนาด 1.6 ล้านล้านพารามิเตอร์ (1.6T) เป็นตัวชี้วัดหลักในการประเมินประสิทธิภาพ ซึ่งถือเป็นตัวเลขที่น่าสนใจเมื่อเทียบกับการคาดการณ์ก่อนหน้านี้
ทำไมเรื่องนี้จึงสำคัญ
ผลการทดสอบนี้มีความสําคัญต่อผู้ประกอบการศูนย์ข้อมูลและนักพัฒนา AI เนื่องจากประสิทธิภาพต่อหน่วยพลังงานที่เพิ่มขึ้นอย่างก้าวกระโดดจะช่วยลดต้นทุนการดําเนินงานและเพิ่มขีดความสามารถในการรันโมเดลขนาดใหญ่ที่มีความซับซ้อนสูงได้ดียิ่งขึ้น
การที่ประสิทธิภาพจริงสูงกว่าการคาดการณ์เบื้องต้นของบริษัท อาจส่งผลต่อการวางแผนโครงสร้างพื้นฐานด้าน AI ในอนาคต และสร้างความได้เปรียบในการแข่งขันสําหรับผู้ที่นําเทคโนโลยีนี้ไปใช้งานจริง
มุมมอง Agent2Day
ตัวเลขประสิทธิภาพที่สูงกว่าการคาดการณ์ของบริษัทถึงสองเท่าตอกย้ําให้เห็นว่าขีดจํากัดของฮาร์ดแวร์ AI ในปัจจุบันยังคงขยายตัวได้เร็วกว่าที่ผู้ผลิตคาดการณ์ไว้ ซึ่งจะเป็นปัจจัยเร่งให้เกิดการนําโมเดลขนาดใหญ่ระดับล้านล้านพารามิเตอร์มาใช้งานจริงในวงกว้างได้รวดเร็วยิ่งขึ้น
ตัวเลขประสิทธิภาพที่พบนี้สูงกว่าการคาดการณ์ของ Jensen Huang ซีอีโอของ Nvidia ที่เคยระบุไว้ก่อนหน้านี้ว่าสถาปัตยกรรมใหม่จะให้ประสิทธิภาพดีขึ้นประมาณ 3 เท่า สำหรับโมเดลภาษาขนาดใหญ่ (LLM) ในช่วง 1 ล้านล้านถึง 3 ล้านล้านพารามิเตอร์ (1T-3T)
ผลลัพธ์จากการทดสอบนี้สะท้อนให้เห็นถึงความก้าวหน้าทางเทคนิคของระบบ Vera Rubin NVL72 ในการจัดการกับภาระงานด้าน AI ที่มีความซับซ้อนสูง โดยเฉพาะในด้านการใช้พลังงานที่คุ้มค่ากว่าเมื่อเทียบกับรุ่นก่อนหน้า
