黑箱環境下的自主效能優化成果
OpenBMB執行的ForgeKernel Live任務是一場針對NVIDIA B200 GPU的自主核心優化實驗,總時長約22小時。與傳統依賴程式碼分析的優化不同,該AI代理處於黑箱操作模式,僅能執行並對官方FlashMLA實作進行基準測試,無法存取其原始碼、技術文件或效能剖析資訊。
在這種受限條件下,代理最終產出的核心版本將執行時間從基線的518微秒縮短至472微秒,實現了9.8%的效能提升(即1.098倍性能)。這是該代理在第13個版本時首次超越基線,整個過程共經歷了42輪迭代並生成了32個不同的核心版本。
開源資源與可重現的測試框架
為了讓社群能夠驗證與延續此項研究,OpenBMB已將優化後的FlashMLA核心程式碼開源。此外,他們還釋出了涵蓋注意力機制、Gated DeltaNet、Kimi Delta Attention、GEMM以及卷積運算等領域的27個運算子。
除了模型與運算子,OpenBMB也發布了ForgeKernel測試框架(harness)。這使得其他開發者或研究者可以利用相同的工具鏈,在自己的環境中執行類似的GPU核心優化實驗,從而評估AI代理在低層級程式碼迭代上的潛力。
從程式碼生成轉向基於實測的迭代優化
此項實驗的關鍵意義在於展示了AI從單純撰寫程式碼,轉向針對真實硬體效能進行迭代優化的能力。代理透過反覆執行與測量實際效能數據來調整核心實作,而非依賴對目標程式碼靜態分析。
原文作者對此方法的發展前景表示好奇,並期待隨著AI代理在CUDA和GPU架構方面能力的提升,這種方法能走多遠。




