減少思考 Token 以優化推理成本
KVARK Sparkle 1.0 的核心設計理念在於解決推理模型在處理不需要深度邏輯任務時,仍會消耗大量 Token 進行「思考」的問題。開發團隊 Egzakta AI Lab 指出,這種額外的開銷不僅增加 GPU 使用時間,也導致使用者等待回應的時間變長。
透過微調基礎模型 Qwen3.8-27B,Sparkle 1.0 試圖在保留回答品質的前提下,壓縮不必要的推理過程。開發者表示,減少思考 Token 直接對應到更低的硬體成本與更快的響應速度。
基準測試數據顯示準確度持平但速度提升
根據 Egzakta AI Lab 公布的內部測試結果,KVARK Sparkle 1.0 在 GPQA Diamond、AIME、LiveCodeBench、IFEval 和 MMLU-Pro 這五項標準基準測試中,準確度與原版 Qwen3.8-27B 相比沒有統計上的顯著差異。
然而,在效率方面,該模型的中位數回應時間從原版的 28.1 秒降至 13.7 秒,約為兩倍的加速效果。此外,開發團隊宣稱思考 Token 的使用量最多可減少 67%。
實際應用場景的效能比較
除了學術基準測試,開發者還提供了在實務任務上的性能對比數據。在生成儀表板(Dashboard)的任務中,Sparkle 1.0 的速度比原版快 1.6 倍;在生成網頁登陸頁面(Landing page)時,速度提升 1.4 倍。
特別是在生成「騎腳踏車的鵜鶘」SVG 插圖這類視覺化程式碼任務中,處理速度提升了 3.2 倍。這些數據顯示模型在特定結構化輸出任務上可能更具效率優勢。
技術規格與本地部署支援
KVARK Sparkle 1.0 已發布於 Hugging Face 平台,權重採用 Apache 2.0 授權條款,這意味著它屬於開放權重模型,允許商業使用與修改。
為了方便本地端部署,該模型提供 BF16、FP8 和 GGUF 多種量化格式,並明確支援 llama.cpp、vLLM、Transformers 以及 SGLang 等常見的大語言模型推理框架。開發團隊邀請社群在各自的硬體環境上測試,並回饋與原版 Qwen 的比較結果及改進建議。




