當全國各地慶祝美國首次贏得世界盃和紐約尼克隊奪冠之際,Anthropic 卻在週末與川普政府就其最新模型發布展開抗爭。週五下午 5 點 21 分,該公司收到美國出口管制指令,要求暫停「任何外國國民」(無論在美國境內或境外,包括外國籍 Anthropic 員工)存取其 Mythos 5 和 Fable 5 AI 模型。
Anthropic 判斷,唯一可行的方法是完全停用他們過去一週大肆宣傳的產品,並前往華盛頓特區,希望能改變唐納·川普總統的心意。接下來幾天,美國政府的決定可能會大幅改變整個產業的發展軌跡,對美國 AI 公司造成重大打擊。
Claude Mythos 5 和 Fable 5 建基於 Anthropic 曾稱「過於危險」而未公開發布的 Mythos Preview。(該公司的警告可能被視為真誠的擔憂,也可能是對其模型的進一步炒作——或兩者皆是。)Mythos 5 僅供特定政府機構和公司使用,而 Fable 5 則因具備額外安全防護而被認為「可供一般使用」。
然而,當一份報告指出這些防護措施可能失效時,Anthropic 對 Mythos 落入不法之手的嚴重警告反噬自身。
一位熟悉情況並參與 Anthropic 與川普政府談判的消息人士表示,政府於週五東部時間下午 1 點左右致電該 AI 實驗室,並給予 90 分鐘的最後通牒,要求關閉 Mythos 5 和 Fable 5 的存取權限。如果 Anthropic 未能遵守,政府將依美國商務部的權力對其實施出口管制。
消息人士稱,Anthropic 高層在首次通話後 15 分鐘內就與白宮進行了對話,並證實執行長 Dario Amodei 在首次通話約 1 小時 15 分鐘後也加入了討論。消息人士證實,Amodei 直接與美國財政部長 Scott Bessent、商務部長 Howard Lutnick 和國家網路總監 Sean Cairncross 進行了對話,有些情況下甚至不止一次。
Anthropic 在週五發布的聲明中寫道,該公司認為政府「相信已發現一種繞過或『越獄』Fable 5 的方法」。然而,Anthropic 表示,所稱的越獄僅是「潛在的狹隘、非普遍性」漏洞,且由某實體(該公司拒絕透露名稱)「與政府分享」。此外,Anthropic 指出,這種行為並非 Fable 5 所獨有。
Anthropic 寫道:「我們已審查一份我們認為是政府指令依據的報告,並證實其中展示的能力在其他模型(包括 OpenAI 的 GPT-5.5)中也普遍存在。」
Semafor 援引一位熟悉情況的消息人士報導,此次風波起因於美國政府擔心某與中國相關的團體已取得該技術。但消息人士稱,關於中國的謠言已流傳數週,指的是一家大型全球電信公司,該公司最初獲准存取 Mythos Preview,而當美國政府表達擔憂時,Anthropic 立即撤銷了其存取權限。
美國政府前 AI 和加密貨幣沙皇 David Sacks 於三月卸任,他在 X 上的貼文並未提及中國。然而,Sacks 確實提到了向政府揭露問題的匿名實體,稱其為「Anthropic 和美國政府高度可信賴的合作夥伴,該夥伴在測試 Fable 時發現了這些防護措施的越獄漏洞」。
一些報導指出,Amazon 執行長 Andy Jassy 在 Amazon 研究人員對 Fable 5 進行紅隊測試後,向美國政府提出了擔憂。這一結論與一些獨立紅隊測試人員的說法相悖,後者表示他們對 Fable 5 的保護水準印象深刻。
熟悉談判的消息人士表示,與美國政府的對話中明確提到了 Amazon 的研究報告。該人士補充說,Anthropic 在週五出口管制指令發布後的幾天內就取得了該報告,並從那時起與 Amazon 研究人員來回討論。
消息人士稱,該報告中的所有內容都可以透過 OpenAI 的 GPT-5.5 實現。
Anthropic 整個週末都在努力與川普政府修好,先是進行視訊會議,然後派員工飛往華盛頓特區,包括 Anthropic 的安全防護主管 Dave Orr、負責其前沿紅隊並領導 Project Glasswing 工作的 Logan Graham,以及領先的前沿開發者和網路安全研究員 Nicholas Carlini。
Axios 援引熟悉川普政府想法的消息人士報導,該公司在與政府的溝通中屢次失誤,且「在試圖與政府溝通並理解意識形態差異方面做得不好」。對 Anthropic 而言,時機再糟不過:該公司原本寄望 Mythos 能幫助其從數月與美國國防部的高調衝突中恢復過來。
熟悉談判的消息人士表示,Anthropic 事先向政府簡報了 Fable 5,美國商務部在部署前也進行了測試,當時並未提出任何擔憂。該消息人士補充說,自 Mythos Preview 發布以來,Anthropic 一直與政府機構密切合作。
川普政府最初對 AI 安全採取放任態度,但在 Mythos 事件後變得更加矛盾,儘管它擔心在 AI 競賽中輸給中國。現在,著名的網路安全領袖警告說,擱置 Mythos 5 和 Fable 5 可能會讓中國獲得顯著的 AI 優勢。川普的舉動激發了國際社會對美國 AI 系統替代方案的呼籲,同時有效地凍結了一家主要美國 AI 公司的旗艦新模型。
週日,一份來自科技和網路安全高管的公開信呼籲廢除對 Fable 5 的限制。信中指出:「我們並非所有人都同意 AI 監管是正確的前進方向」,並補充說,如果監管不可避免,那麼它應該基於「由業界和學術界投入開發的科學評估」。
Corridor 首席產品長 Alex Stamos 告訴 The Verge,他組織這封公開信是因為過去十多年來,各種程式語言中存在無數漏洞,需要 AI 在惡意行為者發現它們之前進行修補。「我們正在一場競賽中,我認為政策制定者不明白這一點,」Stamos 說。
「存在一種奇怪的傲慢,這種想法認為美國實驗室遙遙領先於我們的對手,並且永遠如此,因此限制存取非常重要。我認為這很愚蠢。如果實驗室領先,也只不過是幾個月的時間。你可以在公開評估中看到這一點。最尖端模型只比中國模型領先大約六個月——而這還是我們知道的模型。」
公開信進一步指出,儘管 Anthropic 的 Mythos 級模型擅長發現網路安全漏洞並利用漏洞,但它們在這些任務上並非「獨一無二地出色」,而且 Fable 5 的安全防護「在發布當天在網路社群中成為笑柄,因為它們過於激進」。Stamos 告訴 The Verge,「對 Mythos 能力的誇大其詞非常嚴重。
Anthropic 自己也負有部分責任,顯然……Mythos 很棒,但真正的轉捩點其實是去年。」
Stamos 表示,由於上週末的事件讓政治風險比以往任何時候都更成為公司商業計畫的一部分,業界充斥著與非美國公司簽訂的備用合約,以及在替代硬體配置上部署開源模型。「他們現在正在北京嘲笑我們,」Stamos 說。「在我們與中國競爭的同時,美國政府卻在削弱美國的冠軍之一。這簡直愚蠢透頂。這就是我寫這封信的原因,我想這也是許多人簽署的原因。」
Legion Intelligence 共同創辦人兼執行長 Ben Van Roo 告訴 The Verge,「『任何外國國民都不得使用此模型』的指令是最不可能執行的。」他補充說:「當我第一次讀到這個時,我的整個……AI 社群的書呆子們都炸鍋了。」
更緊迫的是,OpenAI、Google 和 Microsoft 都推出了與 Anthropic Mythos 媲美的產品,並對其有效性和風險提出了許多相同的說法。如果川普政府禁止 Anthropic 的先進網路安全模型,它也可以為禁止其競爭對手的模型找到理由。
這可能會促使 AI 業界領袖團結起來幫助 Anthropic,或者,就像其與五角大廈在自主武器方面的鬥爭一樣,將自己定位為一個更安全、更合規的替代方案。
儘管川普政府正試圖讓科技公司擺脫監管困擾,但 Anthropic 的這項命令可能構成對強大 AI 模型的重大限制——這取決於未來幾天的發展。
Legion Intelligence 的 Van Roo 稱這是監管環境中的「未知領域」,並補充說他不認為這是最後一次發生這樣的事情。
我們也進入了 AI 民粹主義時代,越來越多的人透過資料中心抗議、承諾停止使用 AI 聊天機器人、因不當死亡提起訴訟,甚至試圖攻擊 AI 公司執行長等方式,反對 AI 產業過大的影響力以及頂層權力的集中。Van Roo 表示,川普政府最近針對 Anthropic 的舉動可能會「助長更大的恐懼和擔憂,可能出於錯誤的原因」。
熟悉談判的消息人士形容週末的對話富有建設性,一些政府成員承認,對模型供應商實施出口管制並不理想,因為擁有類似產品的競爭對手可能會受到相同的限制——而且美國政府目前正在探索一項鼓勵美國 AI 系統出口的計畫。
截至目前,週一的談判尚未達成任何決議。
隨著 Anthropic 繼續與美國政府談判,該公司與五角大廈之間無數的其他問題——即 Anthropic 與國防部之間關於美國軍方可接受的 Anthropic 技術使用政策的持續鬥爭——不太可能不被提及。
「這是新的,我們以前從未遇到過如此潛在的劇烈情況,它確實會產生一些真正的影響,」Van Roo 說,關於如何執行對強大模型的存取。「誰可以使用這種不斷超越我們監管能力的新技術?」
