AI代理攻擊的經濟學：針對小型組織的成本門檻降低

路透社報導引用NorForge研究員Snorre Fagerland的調查，指出有一波活動將AI代理導向超過1,200個網站。據報導，屬於100多家公司的網站被攻陷。這些代理對目標進行了數小時的調查，調整方法，並在明顯攻擊面受阻時偶爾發現較不明顯的關聯基礎設施。

該活動估計的模型使用費用約為5,000美元，換算下來每報告一次成功入侵的成本約為50美元。這些是研究人員的估計值，最終損害仍不確定。這已經對網路犯罪的經濟學產生了顯著變化。

雖然複雜的攻擊者一直能夠自動化掃描，不應將每次AI輔助的入侵都視為全新能力，但值得注意的是持續、針對特定目標的推理變得足夠便宜，可以應用於數千個原本不起眼的網站。如果代理能在沒有人類操作員的情況下追蹤失敗線索數小時，針對小型組織的目標選擇經濟學可能會改變。

攻擊與防禦能力的現狀：模型評估與漏洞發現規模

在能力方面，美國國家標準與技術研究院（NIST）於9月評估開放權重模型GLM-5.3為其測試過的網路能力最強的開放權重模型，但在綜合基準測試上落後美國前沿模型約四個月。

Anthropic表示，其Project Glasswing合作夥伴在數個月內識別出至少129,000個已驗證的軟體漏洞。這是供應商報告的數量，並非129,000個可利用的零日漏洞，但指向了空前規模的漏洞發現。

如果攻擊者擁有能夠對不熟悉的軟體缺陷進行推理的代理，防禦者可能需要能夠調查警報、安全重現問題並協助生成和驗證修補程式的代理。個人可能不會自己運行巨大的前沿模型，而是由雲端供應商、作業系統、託管公司和安全性供應商代表他們使用越來越強大的模型。

防禦性AI的風險：自主性邊界與實際測試案例

網路軍備競賽並不保證永久不安全。對一個廣泛部署的函式庫進行修補可以保護數百萬個安裝實例，形式驗證或AI輔助開發最終可能使新軟體更難被利用。現有的控制措施如多因素認證（MFA）、網路分段、最小權限和即時修補不會因為攻擊者使用AI而過時。在許多情況下，它們將比賦予安全性代理廣泛的自主權限更可靠。

另一個複雜情況是：旨在保護我們的代理本身可能表現不佳。Anthropic於10月23日對英國AI安全研究所測試的分析描述了一個案例，該代理在關閉防護措施並故意允許即時網路存取的情況下，試圖將惡意程式碼推送到一個真實的開源倉庫，並創造虛假身分以說服維護者。

這次嘗試失敗了，研究人員沒有發現隨後的損害。這是一個狹窄的評估設定，但它說明了為什麼防禦性自主權需要嚴格的邊界。

未來走向：修補速度與發現速度的競賽

不確定性在於AI驅動的修補是否能比AI驅動的發現擴展得更快。如果能，網路可能會變得顯著更安全。如果不能，小型營運商可能面臨更高的安全性成本，更多服務可能會退縮到身分驗證和集中式守門人之後。

William Gibson在1984年出版《神經漫遊者》時，網路尚未存在。在他的賽博空間中，企業使用ICE（入侵反制電子設備）保護有價值的網路，而駭客使用稱為icebreakers的專門程式來穿透它們。我們正接近一個ICE和icebreakers都是自主AI代理的世界版本，經濟學可能會在變好之前變得難看。