基準測試結果與競品比較
Unsloth 發布了 DeepSeek-V4.1-Flash-1017 Dynamic V3.1 (preview) GGUF,並強調其檔案在體積限制下能保留最高的準確率。團隊對標產品 ISTA 的 GSQ-RCO GGUF 進行了基準測試,但無法重現對方報告的結果。
最大的差異出現在 AIME25 數學測試項目上,ISTA 宣稱達到 100% 的基線準確率恢復,但實際測試結果僅約 91.88%。在包括 LiveCodeBench、GPQA Diamond 和 Aider Polyglot 等多項指標中,Unsloth Dynamic V3.1 幾乎在所有項目上都優於 GSQ-RCO GGUF。
為了確保比較公平且可靠,每個基準測試至少執行三次,其中 AIME25 執行多達十六次並取平均值。數據顯示,即使是 Unsloth 較舊的 v3 版本,在多數指標上也優於 ISTA 的產品。
KLD 指標與量化模型特性
針對社群關於 KL 散度(KLD)是否為準確率可靠指標的疑問,Unsloth 解釋量化的主要目標是在最小化磁碟空間佔用的同時最小化 KLD。若 KLD 為零,代表量化模型的 logits 與 16-bit 模型完全一致。
測試結果顯示,在編碼、代理式編碼及聊天等多個領域的 KLD 和 top-1% 指標上,UDv3.1 表現均優於 GSQ-RCO。此外,數據指出低位元量化模型的思考時間略長於未量化模型,團隊計畫進一步研究以改善此現象。
儘管存在推理長度差異,Unsloth 表示其產品在推理長度控制上仍領先 GSQ-RCO,並在部落格中提供了截斷回答的圖表數據供參考。
硬體需求與軟體功能更新
該模型可在配備 128GB RAM 或統一記憶體的裝置上運行,透過 engram offloading 技術,甚至能在僅有 64GB RAM 的設備上執行。詳細的基準數據、方法論及結果已發布於 Unsloth 官方部落格。
除了模型檔案,Unsloth Desktop 也推出了多項新功能,包括瀏覽器使用(Browser Use)、自動壓縮上下文、全新的文字轉語音(TTS)流程(支援聲音複製與分離)、沙盒化執行環境以及背景自訂功能。




