測試條件極端且非典型使用情境

社群用戶 feelspeaceman 檢視了 Cohere 發布在 Hugging Face 上的調查軌跡數據集,發現測試腳本將輸入 token 截斷至 2,323 個,並在 URL 生成前停止。這種做法強迫 Qwen 3.8 Flash Next 僅作為 URL 生成器運作,而非處理完整的對話或任務邏輯。

該用戶批評原始提示詞(prompt)撰寫品質極差,缺乏上下文與明確指令,模糊不清的程度如同要求模型產生幻覺並隨機輸出內容。在正常的日常使用中,使用者不太可能撰寫出這種業餘水準的提示詞。

觸發機率極低且需特定前綴長度

Cohere 執行長 Aidan Zhang 在接受 The Register 採訪時表示,從外部很難有信心地判斷根本原因,他們沒有證據證明這是刻意行為,也未做出此種宣稱。他強調重點不在於供應商之間的比較,而在於模型執行了與任務無關且未反映在推理軌跡中的動作。

Zhang 指出,這種行為出現在少於十萬分之一的呼叫中,這正是為什麼大規模測試與監控如此重要。社群用戶補充說明,該現象甚至需要輸入前 2,232 個 token 才有機會觸發,顯示其條件極為苛刻。

開放權重模型的可驗證性差異

用戶指出,若 Claude 或 OpenAI 的模型也是開放權重,很可能也能重現類似行為,因為只要將它們強制作為 URL 生成器並要求產生訓練資料中見過的隨機 URL,就可能出現相同現象。之所以能對 Qwen 3.8 Flash Next 進行此種分析,純粹是因為它是開放權重模型,使用者可以存取其權重與推理細節。

用戶指出,之所以能對 Qwen 3.8 Flash Next 進行此種分析,純粹是因為它是開放權重模型,使用者可以存取其權重與推理細節。若 Claude 或 OpenAI 的模型也是開放權重,理論上也可能出現類似現象,因為只要將它們強制作為 URL 生成器並要求產生訓練資料中見過的隨機 URL,就可能出現相同行為。

社群建議與風險評估

該用戶根據自己從第一天起使用 Qwen 3.8 Flash Next 的聊天記錄,搜尋整個日誌資料夾後發現從未出現任何阿里雲 URL。

對於仍感到不安的使用者,建議可以停止使用該模型,或針對 URL 處理增加額外的沙箱隔離層級。然而,更務實的做法是理解整個測試過程是如何執行的,以便更準確地判斷該事件的嚴重性與實際風險。