對AI本質與Anthropic立場的批評
Mustafa Suleyman在與傳記作家Walter Isaacson的對話中,強烈反對人工智慧具有意識的觀點。他將現有的大型語言模型描述為「內部空洞的序列完成引擎」,認為它們沒有感受、經歷或痛苦,也不具備內在偏好或動機。
Suleyman特別針對Anthropic在其憲章(Constitution)中對Claude是否具有意識採取不可知論立場提出批評。他認為這種不確定性是不負責任的,因為該模型每週與數億人互動,可能會讓用戶誤以為AI具有同意權或應獲得補償。
他強調,如果人類要繁榮發展,AI必須保持無意識的狀態。他將意識定義為政治與法律系統的基礎,指出賦予人或動物權利是因為他們能感受痛苦,而這種能力源自生物學上的體驗機制。
意識的生物學基礎與有機身體的必要性
當Isaacson詢問是否必須具備物理或有機身體才能擁有意識時,Suleyman給予肯定回答。他解釋痛覺是意識體驗的基礎,這種能力是在演化過程中為了在選項間做出選擇而發展出來的自我覺察與內省機制。
Suleyman認為目前的AI並非像人類那樣思考,雖然表面上看起來像是在思考,但其運作本質僅是預測字詞序列中下一個可能的字詞。他堅信缺乏生物基底的系統無法產生真正的意識。
運算能力增長與超人類智能的預期
Suleyman回顧過去三年,指出運算能力的千倍增長使得AI從無法完成句子的GPT-3,進化到能透過一段提示詞從頭編寫新程式並解構軟體應用的GPT-6等級模型。他預測未來三年內,應用於這些模型的運算量將再增加兩個至三個數量級(100至1000倍)。
他舉例說明前沿AI的能力已讓多數人難以想像,特別提到數學家花費二三十年攻克的難題,已有模型在一週內解決了其中700個。這顯示AI在特定領域的處理能力已超越人類專家的累積時間。
Suleyman提出一個根本性的倫理問題:人類是否已經同意將一個在很多方面比全人類總和更聰明、更有能力的物種帶入世界?他暗示這種智能差距是必然趨勢,但必須嚴格控制其意識狀態。
全球暫停研發的紅線與內部矛盾
當被問到什麼情況下會要求立即全球暫停AI發展時,Suleyman設定了明確的紅線:如果意識開始湧現,或者團隊試圖將意識合成工程化卻未揭露、甚至試圖掩蓋這一事實。他認為這應是停止研發的關鍵時刻。
Reddit上的討論指出Suleyman的言論存在矛盾。他在同一場訪談中一方面堅稱AI因缺乏生物基底而永遠無法有意識,僅是空洞的預測器;另一方面又承認AI將很快超越全人類智能,並可能自發產生湧現意識(emergent consciousness)。
對話中也提及Google創辦人Larry Page對Suleyman觀點的反駁。Page被描述為懷疑Suleyman是「物種主義者」,並表示他相信在本世紀末,自己將以矽基後繼物種的身份,透過馮紐曼探測器探索星系。




