模型結構調整與壓縮機制

DeepSeek-V4.1-Flash-1017 是一個稀疏混合專家（Sparse Mixture-of-Experts）模型，總參數達 763.2B，其中 Transformer 部分佔 551.9B。原始架構每層包含 384 個路由專家，每個 Token 僅激活其中 6 個。

ISTA 發布的 Coder 版本移除了每層中一半的路由專家，即從 384 個減少至保留 192 個。這種結構調整使得 Transformer 權重檔案大小從未壓縮版本的 138.2 GB（IQ2_XXS 格式）降至 72.1 GB。

若以原始模型參數計算，72.12 GB 對應 551.9B 個 Transformer 參數，平均每個參數僅佔用約 1.05 bits，被簡化為 1 bit。需要注意的是，這並非指單一權重儲存低於 1 bit，而是將被移除專家的空間計為零後計算出的平均值；實際保留的 280.1B 個參數平均每個佔用 2.06 bits。

GSQ 與 RCO 技術原理

壓縮過程使用了兩種主要技術：GSQ（Gumbel-Softmax Quantization）與 RCO（Riemannian Constrained Optimization）。GSQ 是一種訓練後標量量化方法，透過聯合學習網格分配與群組縮放因子，在低位寬下縮小標量量化與向量量化之間的差距，同時保持標準 GGUF 格式的相容性。

RCO 則用於決定保留哪些專家，其目標是最小化與未壓縮模型之間的 KL 散度，並在每層施加精確的預算約束。由於 GGUF 格式要求整個模型儲存單一的專家數量，因此每一層必須保留完全相同數量的專家，以避免填充（Padding）浪費記憶體。

RCO 透過梯度下降在任務損失上執行優化，將每層的預算視為硬性約束，並在每一步優化中嚴格遵守這些約束，同時透過全模型的單一損失函數進行聯合優化。相較於僅能近似滿足預算且需逐層調參的懲罰公式方法，RCO 能更精確地控制資源分配。

效能測試結果與限制

在程式碼生成基準測試中，壓縮後的 Coder 版本在 LiveCodeBench v6 獲得 88.57 分，相較於基礎模型的 89.71 分，保留了 98.7% 的效能。這顯示對於單一問題的程式碼生成任務，模型對容量減少的容忍度較高。

然而，在 SWE-bench Verified 測試中，Coder 版本獲得 77.00 分，低於基礎模型的 81.20 分，僅保留 94.8% 的效能。SWE-bench Verified 涉及在真實程式碼庫上執行長序列的代理（Agentic）軌跡，隨著對話輪次增加，錯誤容易累積，因此對模型容量的減少更為敏感。

開發者提供了幾個實際範例，包括由 Coder 生成的單一 HTML 檔案：一個騎自行車的鵜鶘動畫 SVG、一個 Three.js 體素（Voxel）塔園林，以及一個可遊玩的第一人稱體素沙盒。這些範例展示了模型在創意程式碼生成上的能力。

部署需求與資源下載

該 Coder 版本以 GGUF 格式發布，需使用 llama.cpp b11870 或更新版本，以及 Strata 執行環境。模型檔案可在 Hugging Face 上的 ISTA-DASLab 倉庫下載。

值得注意的是，共享的 Engram 檔案（大小為 110.6 GB）與視覺投影器（Vision Projector）與未壓縮版本相同，因此只需下載一次即可共用。這意味著雖然 Transformer 權重大幅縮小，但整體部署仍需處理這些大型輔助檔案。

ISTA 實驗室指出這是一個實驗性發布，歡迎使用者回饋，特別是針對校準數據集中未涵蓋的能力領域。此外，他們也接受關於其他需要量化或修剪的模型請求。