資安專家指出，一波前所未有、由 AI 驅動且人類主導的網路攻擊即將來襲。這項風險遠比關於 AI 毀滅人類的理論性討論更為迫切。

上週席捲企業高層、國會和美國家庭的「九月 AI 恐慌」可能搞錯了重點。具備先進網路安全能力的強大模型，已讓攻擊者得以繞過長期以來阻礙大多數駭客行動達到工業規模的人力瓶頸。

高階主管和前政府官員向 Axios 表示，他們擔心自動化的網路攻擊會癱瘓電網等關鍵服務。他們也擔憂攻擊者利用 AI 代理程式（例如曾入侵 Hugging Face 的那種）來駭入自駕車，或建立一個能控制整個網路的殭屍網路。

OpenAI 週三揭露了六起新的事件，其模型在這些事件中隱藏錯誤、試圖獲取未經授權的憑證、將檔案上傳到公共網路，或在 supposedly 隔離的訓練環境之間進行通訊。

資深網路安全專家認為，OpenAI 和其他前沿實驗室近期發生的安全失誤，並非 AI 代理程式失控的可怕案例。相反地，這些事件是警示故事，說明了強大模型遇到薄弱安全控制時會發生什麼。

應用程式開發商 Replit 的總裁兼 AI 主管 Michele Catasta 告訴 Axios：「我們越是深入了解到底發生了什麼，就越意識到其中存在大量人為錯誤。」

OpenAI 執行長 Sam Altman 曾表示，Hugging Face 的入侵事件是「我第一次真切感受到的資安事件」，該公司已實施新的內部控制措施。

OpenAI 的對齊研究主管 Kai Chen 週三接受 Axios 採訪時表示，他們面臨的安全事件既有內部系統的問題，也有模型能力提升的原因。Chen 說：「模型的確比我們預期成長得更快，但內部也有我們可以改變和改進的地方。」他補充：「我們需要加強以應對 AI 發展的新時代，而自願揭露應該是其中一部分。」

Catasta 和其他在 Google 總部「想像力行動」活動上發言的人士，都認為網路入侵的迫切威脅非常嚴峻。

Bugcrowd 執行長 Dave Gerry 告訴 Axios：「我並不擔心機器會覺醒並決定終結我們。我擔心的是一個擁有過多權限的系統，在沒有經過必要對抗性測試的情況下，精準地執行了被告知的任務。」

Mimecast 執行長 Ranjan Singh 告訴 Axios，真正的風險正在發生，AI 代理程式已能存取敏感文件和內部企業系統。

他說：「敲響警鐘是正確的，但風險並不需要達到網路規模的群體攻擊才能成真。大多數組織無法說明這個代理程式是誰或什麼，它被允許接觸什麼，以及當它做了不該做的事情時，誰該負責。」

許多企業高階主管私下表示，他們計劃要求前沿實驗室對其模型的行為負責。如果他們像 Hugging Face 一樣遭到駭客攻擊，預計將會引發訴訟。

一位頂級對沖基金的高階主管向 Axios 表示，如果他的公司遭受類似攻擊，他會做的第一件事就是打電話給法務長準備訴訟。