NVIDIA 將於 10 月 15 日發布 Nemotron Bolt 3.5 74B A9B。這是一個總參數 74B、活躍參數 9B 的混合專家（MoE）模型。該模型透過先進的量化感知訓練技術進行 2-bit 量化，將模型大小壓縮至 24GB，同時保留品質。其目標是在速度與智能之間取得最佳平衡，聲稱比大多數流行的稠密模型更快，且比具有類似記憶體佔用的大多數流行 MoE 模型更聰明。此外，較小版本的 Nemotron 3.5 Bolt E4B（4GB）預計將於 10 月 23 日發布。
NVIDIA Nemotron Bolt 3.5 74B A9B 將於 10 月 15 日發布
NVIDIA 將於 10 月 15 日發布 Nemotron Bolt 3.5 74B A9B。這是一個總參數 74B、活躍參數 9B 的混合專家（MoE）模型。該模型透過先進的量化感知訓練技術進行 2-bit 量化，將模型大小壓縮至 24GB，同時保留品質。其目標是在速度與智能之間取得最佳平衡，聲稱比大多數流行的稠密模型更快，且比具有類似記憶體佔用的…
30 秒掌握
- NVIDIA 將於 10 月 15 日發布 Nemotron Bolt 3.5 74B A9B。
- 這是一個總參數 74B、活躍參數 9B 的混合專家（MoE）模型。
- 該模型透過先進的量化感知訓練技術進行 2-bit 量化，將模型大小壓縮至 24GB，同時保留品質。
目前大小是最小值，向右滑動可放大。
原始來源與引用
待確認事項
- 原文未明確說明 24GB 是指 VRAM 還是其他記憶體類型，僅提及 'packed into 24GB'。
- 原文未明確列出支援的具體硬體型號（如 RTX 3090/4090），僅提及記憶體佔用。
- 原文未提供具體的基準測試數據來驗證 'faster than most popular dense models' 和 'smarter than most popular MoE models' 的說法，僅為模型目標描述。
更正紀錄
截至本次發布，正式發布包未登錄更正。
AI 使用說明
AI 協助擷取、寫作與核對；最終內容依來源與驗證規則發布。
相關新聞
SGLang v0.5.23 發布：新增多模型支援與 TPU 原生整合，提升 DeepSeek-V4.1 推理效能
開源推理框架 SGLang 推出 v0.5.23 版本，透過合併來自 257 位貢獻者的 1007 個 Pull Request，大幅擴展對 Muse Spark、MiniMax-M3.1 等新模型的支援。此次更新重點在於優化 DeepSeek-V4.1 在 NVIDIA GB300 與 AMD MI350X 上的推理速度，並首次透過 SGLang-TorchTPU 插件原生支援 Google TPU7x 硬體。
Namespace 在資料中心大規模部署 MacBook 以解決 Mac Mini 供應鏈與更新延遲問題
雲端服務商 Namespace 因 Mac Mini 交貨延遲及晶片更新不同步，轉而採用 MacBook 架設伺服器機櫃。此舉旨在滿足 iOS 開發者對最新 Xcode 版本的即時需求，並透過自製散熱與遠端管理方案克服筆電在資料中心的運作限制。
研究部落格指出 Astra 改善 Qwen 數學表現的實驗並非僅靠讀取權重，而是依賴程式碼輔助
一篇針對「Astra 能讀寫權重以改進 Qwen」文章的技術評論指出，該文章摘要容易讓人誤以為模型僅透過觀察原始權重就能提升大型語言模型的數學能力。實際上，涉及真實語言模型（如 Qwen3.5-0.8B）的實驗均使用了 Python 程式碼輔助分析與執行，且關鍵結果是修復了推理迴圈問題，而非單純的數學邏輯增強。