透過微調極少權重顯著提升數學與指令遵循能力

研究團隊發現，當要求GPT-6 Astra在不使用梯度下降的情況下改進Qwen3.5-0.8B的數學能力時，該模型識別出導致推理迴圈的權重問題。這個問題正是Qwen官方模型卡片中曾警告過的缺陷。

Astra透過直接編輯僅佔總參數0.016%的權重来修復此問題。在相同的採樣設定下，這一修改使MATH-500基準測試的準確率從7.9%躍升至48.1%。

此外，這種權重修正還展現出泛化能力，無需額外訓練即可將指令遵循評估（IFEval）的分數提升三倍。整個過程完全沒有允許Astra執行傳統的訓練迴圈，而是依靠其推理能力判斷網路各部分應執行的計算並相應調整權重。

無需環境回饋即可從零生成高效遊戲網路

除了修復現有模型，前沿LLM還展現了從零開始編寫神經網路權重的能力。研究顯示，GPT-6 Astra在沒有任何環境回饋的情況下，能夠直接生成小型的遊戲對戰網路。

這些由LLM直接生成的網路，其表現超越了經過一億步PPO（近端策略優化）算法訓練的傳統網路。這表明模型不僅能理解權重的語義，還能透過推理構建出具備競爭力的決策邏輯。

權重空間編程對未來AI開發的潛在影響

研究者將這種LLM直接讀寫神經網路權重的能力命名為「權重空間編程」（Weight-Space Programming）。他們認為這標誌著從依賴Adam或Muon等符號優化器，轉向由LLM主動推理並優化權重的範式轉移。

該技術可能帶來多項應用突破：包括無需執行推論或基準測試即可透過檢查權重發現隱藏問題（如後門攻擊）；大幅降低優化成本，實現一次性模型初始化；以及透過直接調整少量權重來增加或移除特定能力，從而避免微調常見的災難性遺忘。

此外，這還可能促進真正的架構與模型合併，讓LLM將一個模型的推理模組移植到完全不同架構的另一個模型中，而無需重新訓練。研究者目前正致力於建立標準化的基準測試與評估框架，以將此技術從初步發現轉化為可重現的工程學科。