為何暫不開放最強模型權重

Sam Altman 在史丹佛商學院的「View from the Top」系列活動中，針對開放權重模型與安全之間的張力發表看法。他明確指出，OpenAI 目前最先進的內部模型「無法負責任地開放來源」（cannot responsibly be open-sourced），至少在近期內不會如此做。

Altman 解釋這並非反對開放權重本身，而是基於風險考量。他認為當模型能力達到某個門檻以上時，可能造成的傷害足以讓人不能隨意使用這些模型。因此，必須等到全球的網路防禦系統（cyberdefense）與生物安全防護措施足夠強化後，才能考慮釋出這類高能力模型。

對開放權重模型的立場：重視價值但設限

儘管對自家最強模型持保留態度，Altman 仍肯定開放權重模型在社會上的重要價值。他表示，讓公眾擁有具備一定能力水平的開放權重模型非常重要，全面禁止所有開源模型將對社會的創新與自由造成極高的成本。

他進一步說明，這並不意味著人們不應該在自己的電腦上執行神經網路。然而，他也承認未來可能會出現一些令人後悔的應用情境，顯示出在賦予使用自由與控制潛在風險之間需要取得平衡。

回顧早期誤判與 AI 對齊挑戰

Altman 坦承 OpenAI 最初設想自己為純粹的研究實驗室，團隊天真地認為一旦開發出超級智慧，商業化與產品化問題會自然解決。然而技術發展路徑與預期嚴重偏離，迫使公司在 2020 年左右進行轉型，ChatGPT 推出後的爆發性增長更讓 OpenAI 幾乎在一夜之間成為龐大企業。

當被問及 2020 年時做錯了什麼，Altman 承認他低估了 AI 對齊（alignment）問題的難度。雖然目前的模型在對齊方面表現優於預期，但他警告不能假設這種趨勢會簡單地持續下去。

對近期進展的評估與治理呼籲

Altman 提到過去六個月的快速進展挑戰了他原有的信念強度。他指出，在數學推理等狹窄領域中，現在已經具備了超級智慧的能力，且發生的速度比他預期的更快。

他警告說，如果不對當前的全球治理框架進行調整，維持目前的發展速度將不可持續。Altman 呼籲業界應就 AI 發展的節奏進行嚴肅的討論，以確保技術進步能與社會承受能力相匹配。