Mixture of Experts หรือ MoE กลายเป็นสถาปัตยกรรมที่อยู่เบื้องหลังโมเดลภาษาขนาดใหญ่รุ่นใหม่แทบทุกตัวในปี 2026 ตั้งแต่ DeepSeek, Mixtral ไปจนถึงโมเดลระดับแนวหน้าของค่ายยักษ์ใหญ่ แนวคิดของมันตอบโจทย์ปัญหาคลาสสิกของวงการ AI ได้อย่างชาญฉลาด นั่นคือ ทำอย่างไรให้โมเดล “ใหญ่และฉลาด” ขึ้น โดยไม่ต้องแบกต้นทุนการประมวลผลที่พุ่งสูงตามขนาด
MoE ทำงานอย่างไร
หัวใจของ MoE คือการแบ่งโมเดลออกเป็น “ผู้เชี่ยวชาญ” (experts) หลายตัวที่แต่ละตัวถนัดงานคนละแบบ แทนที่จะให้ทุกพารามิเตอร์ทำงานพร้อมกันทั้งหมดในทุกครั้งที่ประมวลผล ระบบจะเลือกเรียกใช้เฉพาะผู้เชี่ยวชาญที่เกี่ยวข้องกับงานตรงหน้าเท่านั้น
ตัวจัดเส้นทางคือสมองสั่งการ
ส่วนประกอบสำคัญคือ router หรือตัวจัดเส้นทาง ที่ทำหน้าที่ตัดสินใจว่าข้อมูลแต่ละชิ้นควรส่งไปหาผู้เชี่ยวชาญคนไหน โมเดลทั่วไปอาจมีผู้เชี่ยวชาญหลายสิบตัว แต่ในการประมวลผลแต่ละครั้งจะเปิดใช้งานเพียง 2 ตัวเท่านั้น
พารามิเตอร์เยอะ แต่ใช้งานจริงน้อย
นี่คือความมหัศจรรย์ของ MoE โมเดลอาจมีพารามิเตอร์รวมหลายร้อยพันล้านตัว แต่พารามิเตอร์ที่ถูกเรียกใช้จริงต่อหนึ่งคำตอบ (active parameters) กลับมีเพียงเศษเสี้ยว ทำให้ได้ความฉลาดของโมเดลขนาดใหญ่ ในต้นทุนการคำนวณของโมเดลขนาดเล็ก
ทำไมจึงประหยัดกว่า
โมเดลแบบดั้งเดิม (dense) จะเปิดใช้พารามิเตอร์ทั้งหมดในทุกครั้งที่ทำงาน ยิ่งใหญ่ก็ยิ่งกินไฟและต้องใช้ชิปมากขึ้นเป็นเงาตามตัว แต่ MoE ตัดวงจรนี้ด้วยการเปิดใช้เฉพาะส่วนที่จำเป็น ผลลัพธ์คือความเร็วในการตอบสูงขึ้น ต้นทุนต่อการเรียกใช้ลดลง และประหยัดพลังงานอย่างมีนัยสำคัญ ซึ่งเป็นเหตุผลที่ทำให้โมเดลโอเพนซอร์สหลายตัวเลือกเดินทางสายนี้
ความท้าทายที่ยังต้องแก้
MoE ไม่ได้มาฟรี การฝึกโมเดลให้ router กระจายงานอย่างสมดุลเป็นเรื่องยาก หากผู้เชี่ยวชาญบางตัวถูกเรียกใช้บ่อยเกินไปจนอีกหลายตัวว่างงาน คุณภาพก็จะลดลง อีกทั้งการเก็บพารามิเตอร์จำนวนมหาศาลไว้ในหน่วยความจำก็ยังต้องใช้ทรัพยากรสูงอยู่ดี
มุมมองจาก Nara Lab
สำหรับการพัฒนาโมเดลภาษาไทย MoE เปิดโอกาสให้ทีมขนาดเล็กสร้างโมเดลที่ทรงพลังได้ในงบประมาณจำกัด เราสามารถออกแบบผู้เชี่ยวชาญเฉพาะทางสำหรับภาษาไทย เช่น การตัดคำ ไวยากรณ์ หรือบริบททางวัฒนธรรม โดยไม่ต้องขยายทั้งโมเดลให้ใหญ่โตจนฝึกไม่ไหว สถาปัตยกรรมนี้จึงเป็นกุญแจสำคัญที่ทำให้การสร้าง AI ไทยที่ทั้งเก่งและประหยัด เป็นเรื่องที่จับต้องได้จริงในมือของคนไทยเอง
บทความที่เกี่ยวข้อง:
