技術改動：合併 MoE 運算流程

開發者 anujj 提交的 Pull Request #31188 主要針對 llama.cpp 的 CUDA 後端進行優化。

該改動的核心在於將混合專家模型（MoE）中常見的 gate/up 矩陣乘法與 GLU（Gated Linear Unit）激活函數運算，在 MMQ（Matrix Multiplication Quantized）核心中進行融合處理。

根據社群分享的測試數據，該改動在 DGX Spark (GB10) 與 RTX 5090 等硬體上，針對 Qwen3 系列模型的提示詞處理速度帶來約 5.7% 至 17.2% 的提升。

社群測試數據：不同硬體與模型的速度變化

Reddit 使用者 jacek2023 分享了該 Pull Request 合併前後（master vs PR）的效能對比數據，測試對象為 Qwen3 系列的 MoE 模型。

在 DGX Spark (GB10) 硬體上，使用 Q4_K_M 量化版本的 Qwen3-30B-A3B 模型時，提示詞處理速度從每秒 2911.4 tokens 提升至 3410.8 tokens，增幅為 17.2%。

同樣在 DGX Spark 上，針對 Qwen3.6-35B-A3B 模型的 Q4_K_M 與 UD-Q4_K_M 量化版本，速度分別提升了 9.9% 與 9.1%。

高階顯卡環境下的效能表現

在 RTX 5090 硬體環境下，測試數據顯示速度提升幅度為 5.7% 至 6.1%。

使用 Q4_K_M 量化版本的 Qwen3-30B-A3B 模型時，處理速度從每秒 12611.7 tokens 增至 13330.3 tokens，提升約 5.7%。

針對 Qwen3.6-35B-A3B 模型的 Q4_K_M 與 UD-Q4_K_M 版本，速度分別提升了 5.7% 與 6.1%，最高達到每秒 15947.8 tokens。