สตาร์ทอัพด้านปัญญาประดิษฐ์ Cohere ได้สร้างความสั่นสะเทือนให้วงการนักพัฒนาอีกครั้งด้วยการเปิดตัว 'North Mini Code' โมเดลภาษาประเภท Mixture-of-Experts (MoE) ขนาด 30,000 ล้านพารามิเตอร์ ซึ่งเปิดใช้งานจริงเพียง 3,000 ล้านพารามิเตอร์ต่อโทเคน ในรูปแบบ Open-Source ภายใต้สัญญาอนุญาต Apache 2.0 ทำให้นักพัฒนาสามารถนำไปใช้งานและปรับแต่งได้อย่างอิสระผ่านแพลตฟอร์ม Hugging Face
จุดเด่นสำคัญของ North Mini Code คือความสามารถในการประมวลผลบนหน่วยประมวลผลกราฟิก Nvidia H100 เพียงแค่ตัวเดียว ซึ่งถือเป็นทางเลือกใหม่ที่ช่วยประหยัดต้นทุนได้อย่างมหาศาลเมื่อเทียบกับการใช้งานโมเดลแบบปิดขนาดใหญ่อื่น ๆ โดยโมเดลนี้รองรับ Context Window สูงสุดถึง 256,000 โทเคน ทำให้สามารถวิเคราะห์โครงสร้างสถาปัตยกรรมซอฟต์แวร์และรีวิวโค้ดที่มีความซับซ้อนในระบบขนาดใหญ่ได้อย่างครอบคลุมในครั้งเดียว
นอกจากนี้ โมเดลดังกล่าวยังถูกฝึกฝนมาเพื่อทำงานบนสภาพแวดล้อม Terminal โดยเฉพาะ ซึ่งช่วยให้นักพัฒนาสามารถเขียนสคริปต์ และสั่งงานผ่าน Command Line ได้อย่างลื่นไหล อย่างไรก็ตาม ผลการทดสอบอิสระพบว่าโมเดลนี้สร้างโทเคนผลลัพธ์มากกว่าโมเดลคู่แข่งถึง 3 เท่า ซึ่งอาจส่งผลให้มีค่าใช้จ่ายแฝงเพิ่มเติมหากนำไปรันในโปรเจกต์ขนาดใหญ่ที่มีการเรียกใช้งานอย่างต่อเนื่อง
