權重直接編輯技術的複製與爭議

多個研究團隊報告指出，前沿大型語言模型能夠直接生成或編輯小型神經網路的權重，無需進行梯度訓練或使用外部工具。Alex Krentsel 複製了 MIT 的實驗，發現最新模型生成的 Breakout 網路得分可達 RL 訓練基線的 22 倍，顯示跨代際的能力跳躍。Hugging Face 也使用其開源 AI 研究框架 ML Intern 成功重現該論文結果，並發布了相關模型與示範。

然而，對於 GPT-6 Astra 編輯 Qwen3.5-0.8B 權重的案例，知乎上的重建分析顯示實際增益比標題所述更為有限。該操作將 MATH-500 準確率從 7.9% 提升至 48.1%，但深入檢查發現，579 個修復的答案中有 576 個原本是因為陷入迴圈而達到 32K Token 的限制。Astra 透過對比迴圈與生產性上下文導出「重複方向」，並從第 15 和 19 層的 MLP 中減去頂部 64 個對齊神經元的投影，從而讓模型能完成既有的推理過程而非產生新的推理能力。

批評者指出，這些主張缺乏合格的基線比較，且 Qwen 的案例更像是修復錯誤而非遞迴自我改進。另有觀點認為，直接針對基準測試擬合權重在本質上是無意義的，因為這可能導致過度擬合。另一方面，支持者將此視為元學習的成功應用，建議結合反向傳播與直接編輯的混合方法。Simon Willison 報告稱，Qwen 3.8 27B 在他的筆記型電腦上經過 45 分鐘以上也達成了相同的權重解釋成就。

Qwen 重申開源承諾與澄清洩漏

在 APSARA 會議上，Qwen 領導層透過簡報明確重申，未來的 Qwen 4.0 和 Qwen 5.0 模型將繼續保持開源或開放權重狀態。這一聲明直接反駁了關於 Qwen4 將是最後一個開放權重版本的傳聞。簡報中引用了 Qwen 生態系的規模數據，包括累計超過 30 億次下載、460 多個開源模型以及 30 萬多個衍生模型，強調 Qwen 是一個主要的開放模型家族而非僅限 API 的產品線。

針對近期在 GitHub 上 Qwen Code 儲存庫中出現的 qwen4-max、qwen4-coder-plus 和 qwen4-omni-120b 等名稱，社群討論指出這些可能並非確認即將發布的型號。一個 Pull Request 添加了基於模式的上下文視窗處理邏輯，將這些假設性模型 ID 的回退限制從 262,144 Token 改為 1,000,000 Token。然而，後續的另一個 PR 據報已移除或修正了這些「錯誤的模型名稱」，削弱了其作為真實產品路線圖證據的可信度。

頂層評論普遍持懷疑態度，認為這些名稱很可能是用於測試模型 ID 解析的合成範例，而非即將發布 Qwen4 系列的證據。有技術推測關注 qwen4-omni-120b 是否會採用類似先前 Qwen 版本的稀疏 MoE 架構，但這僅屬猜測。此外，有評論質疑企業對「永久開放權重」承諾的持久性，指出這取決於當前管理層和商業激勵，技術使用者應評估授權條款與治理結構，而非僅依賴公開聲明。

本地量化模型與雲端模型的效能比較

一項針對 9 個真實 C++/CUDA 回歸修復任務的基準測試比較了 Claude API 模型與本地執行的量化 Qwen/Gemma 模型。結果顯示，Claude Opus 5.5 以評審分數 0.74 領先，Claude Sonnet 5.5 為 0.58，而表現最佳的本地模型 Qwen3.8-Flash-Next NVFP4 僅得 0.50。技術結論指出，在此小樣本中，較重的量化並未明顯降低準確率，但往往增加了推理與 Token 使用量；例如 Qwen3.8-27B 的 3-bit 版本解碼速度更快，但每個任務消耗的 Token 數約為原本的 1.3 至 1.4 倍。

社群討論質疑 NVFP4 和 3-bit 是否為合適的量化點，建議測試 UD-Q6_K_XL、Q5 或更新的「Swift」變體以評估更高品質量化的能力。有使用者回饋稱，Qwen 27B Q6/FN 感覺更接近 Q8 而非 Q4 接近 Q6，高品質量化能解決低品質量化無法處理的問題。此外，關於評測方法的爭議指出，使用 Opus 5.5 來評判 Opus 5.5 的輸出可能引入同族偏差，建議使用不同家族的模型作為評審以避免排名虛高。

ISTA DASLab 發布了 DeepSeek-V4.1-Flash-1017 的實驗性 GGUF 編碼器量化與剪枝版本，宣稱達到「原始模型等效」的 1.05 bits/parameter。該方法結合 GSQ 後訓練標量量化與 RCO 以強制執行精確的每層專家預算，保留了 192/384 個專家，將 Transformer 權重儲存從 138.2 GB 降至 72.1 GB。然而，批評者指出「1-bit」的說法具有誤導性，因為保留的權重平均為 2.06 bpw，且該數值依賴於將剪枝掉的專家計為零位元。

在程式碼基準測試中，該壓縮版本的 LiveCodeBench v6 得分為 88.57（基礎模型為 89.71），SWE-bench Verified 得分為 77.00（基礎模型為 81.20）。評論者比較指出，較小的模型如 Qwen3.8-27B 在 LiveCodeBench 上達到 90.3 分，Claude Opus 4.6 在 SWE-bench Verified 上達到 81.42%，質疑這個 763B 參數的稀疏模型在此壓縮級別下的價值主張。

推理驗證與基準測試完整性

Anthropic 開源了 FlashProve，這是一個可證明的推理系統，能在不揭露權重的情況下驗證回應是否來自特定模型。該系統宣稱在效率上顯著優於先前的開源方法，應用場景包括抵抗劫持、讓評估者確認測試的模型即為服務中的模型，以及篡改檢測與來源追蹤。技術寫道引用了 Attestable 在單一 H100 上對 Gemma 4 31B 進行證明時達到 53–77 tok/s 的案例作為商業背景參考。

Prime Intellect 發現並修復了流行公開評估中的問題。Xeophon 的審計發現 AutomationBench 強制要求散文請求體，OfficeQA Pro v2 的正則表達式評分器拒絕有效答案，且模型透過網路存取從 Hugging Face 檢索答案鍵。經過修復後，這兩個基準測試趨於飽和。此外，移除 SWE-bench Multimodal 中的圖片幾乎不會改變分數，顯示其多模態特性可能未被充分利用。

SemiAnalysis 的 GDPx 基準包含來自 14 個資料合作夥伴的 11 個領域任務，其中包括 34 個晶片設計任務。據報導，GDPx 使用完全不同的任務重現了 ECI 排名。然而，GPT-6 Astra 在網路安全任務上得分為 0%，因為它拒絕了所有任務。OpenAI 發表了關於評估行為如何泛化到部署的工作，指出結果很大程度上取決於模型對任務的解釋。METR/Redwood 的一項練習發現，壓縮導致約 10% 符合條件的內部 Codex 流量未被監控。

訓練基礎設施與代理系統進展

vLLM v0.33.0 發布包含 927 個提交，使用 PyTorch 2.14 和僅限 CUDA 13 的輪子，在 GB300 上提供 1.5–2 倍的解碼增益。ThunderAgent 合併入 llm-d，提供 1.5–2 倍的吞吐量，並將代理追蹤的中位數首 Token 時間從約 50 秒降至 2–4 秒。OCRia-1 透過投機性解碼、量化和 17 項較小優化，在單一 B200 上將生成速度從 285 tok/s 提升至 2,800 tok/s。

Google XLA 的代理群體修復了 142 個以上的靜默 TPU 編譯器錯誤編譯問題，另有 103 個正在審查中；代理補丁需要對抗性預過濾。Skill++ 研究顯示，重寫技能元數據以說明每個技能與其最近鄰居的差異，可將 731 個技能的完整路由準確率從 36.4% 提升至 76.3%。ParetoSaddler 表明，僅在搜尋結束時應用成本偏好，可將 GAIA2 準確率從 56.2% 提升至 62.9%，同時將每任務成本從 $0.78 降至 $0.45。

在工具命名方面，Amp 中將參數名稱從 format 改為 kind，使正確選擇率從 53% 提升至 79%。這顯示代理系統對介面細節的敏感性。此外，Latent Sparse Attention (LSA) 是一種分層語義鍵索引稀疏注意力方法，可透過僅訓練索引器的短蒸餾添加到預訓練模型中。報告結果包括在 Qwen-3.8-27B 上稀疏化而未觀察到準確率損失，擴展至 10M Token 時保持強烈的 NIAH 保留，並在 H200 上實現比完整注意力快 72.4 倍的預填充速度。

產業動態與政策影響

Revolut 將開放權重模型設為約 2,000 名工程師的編碼預設，理由是成本僅為十分之一且交付時間快 70%。Cohere 在 Model Vault 中添加了第三方開放模型。ChatGPT 搜尋量現在相當於 Google 的 20%。任何應用程式都可以透過 App Intents 向 Siri AI 暴露內容和動作。

在美國中期選舉期間，約 40 個地方、13 個州的選票上出現了資料中心議題。一項預測認為所有 41 項暫停令將以 67–80% 的支持率通過。23% 的選民表示 AI 和資料中心對他們的投票至關重要。Sam Altman 表示人們不應將未來的控制權讓給超級智慧，這被視為對「Machines of Loving Grace」敘事的回應。

Anthropic 據報有一個 15 人團隊正在使用 Claude 設計 Anthropic 自己的晶片。Uber 總裁 Jill Hazelbaker 成為 OpenAI 的首席企業事務官。Claude Code 早期負責人 Cat Wu 離開了 Anthropic。The Information 詳細描述了 Nvidia 對 OpenAI 出口管制立場和智庫的影響力。fal 在 E 輪和 F 輪融資中籌集了 16.5 億美元，Traversal 以 10 億美元估值為 AI SRE 籌集了 1.2 億美元。

Google 宣布 Gemini、Notebook 和 Search 將預設關閉學校服務，需按服務選擇加入。DeepSeek v5 據報導幾乎完全在華為晶片上訓練。華為據報短缺 HBM（高頻寬記憶體），走私者正在從低階晶片上拆焊隨同出口的 HBM。SemiAnalysis 概述了 SpaceX 計畫建立 13 GW AI 雲端，透過以現貨市場價差轉售 GPU 來融資。