Amodei辯護「衝向頂端」策略與產業標竿作用
Anthropic執行長Dario Amodei針對一篇批評Anthropic試圖贏得超級智能競賽卻將AI安全邊緣化的X貼文,寫了近2,000字的回應。Amodei表示他的立場是,如果Anthropic留在技術前沿,就能為保持AI產業安全做出更多貢獻。
他解釋公司的策略一直是他所稱的「衝向頂端」(race to the top),透過展示如何負責任地建構技術,可以為整個產業提高標準。Amodei承認Anthropic在某些問題上的處理方式本可以更好。
批評者列舉九項行動質疑安全承諾
批評者Calvin列出了Anthropic過去一年的九項行動,認為這些行動削弱了該公司的安全承諾。其中包括簽署超過5,000億美元的算力合約,以及越來越依賴Claude來開發其AI模型。
Amodei承認Anthropic本可以更好地處理Calvin提出的一些問題。這包括本月Anthropic向國會流傳的一版法案草案,批評者認為該草案將使聯邦政府更難阻擋危險的AI模型。
承認延後發布模型導致犧牲領先優勢
Amodei在回應中提到,Anthropic早在2月就擁有Mythos級模型,但直到6月才全面開放給公眾使用,當時已具備更強的网络安全防護措施。他坦言,單純將模型發布給所有人可能在經濟上更為理性。
他表示,Anthropic很可能因此犧牲了幾個月的顯著模型領先優勢。Amodei指出,當AI驅動的加速快到讓安全難以跟上時,存在值得面對的重要問題,他們正在思考關於節奏(pacing)的問題,並認為正接近那個臨界點。
宣布投入公共利益基金與未來價值實踐
Amodei在貼文中透露,Anthropic本周宣布將公司5%(隨著時間推移可能更多)的股份投入一個公共利益基金。他表示很快會進一步說明如何在這個快速變化的時刻更多地實踐公司的價值觀。
社群討論中有人指出,Amodei似乎看到通往人工超級智能(ASI)的直接路徑,並推測Anthropic內部模型可能在幾次模型發布後就會超越自家AI研究員的能力。也有評論提到Anthropic曾預測2027-2028年資料中心將出現數千萬天才的國家。




