美國政府致Anthropic的執行信函，實際上迫使該公司在週末前將其最新AI模型下線。這對任何美國科技公司——無論是AI實驗室還是其他——都應是一個警訊。

快速回顧這則新聞：上週五下午，美國商務部向Anthropic發出了一封信函，援引了一項鮮為人知的出口管制指令，禁止包括Anthropic員工在內的非美國人存取Fable 5和Mythos 5模型，理由是未具體的國家安全考量。Anthropic表示，他們認為這封信函與模型護欄的繞過有關，但由於信函未提供具體細節，因此無法確定。這封信函尚未公開。

作為回應，Anthropic關閉了其所有頂級模型對所有客戶的存取，以確保遵守該指令。結果是，美國政府透過一項迅速且單方面的行動，成功迫使一家科技公司將其模型下線，且似乎無需法院批准。

川普政府上週五的干預表明，AI產業並非不受政府干預的影響。這也對更廣泛的科技產業發出警告：遵守規定，否則我們就能關閉你和你的產品。

據Axios引述消息來源報導，週末期間Anthropic與川普政府之間關係緊張。報導指出，「個性差異」導致了這項出口指令，而非AI產品的技術問題。

週末浮現的關於此問題的新細節，進一步加深了對政府本已站不住腳的理由的質疑。

網路安全資深專家兼Luta Security創辦人Katie Moussouris在一篇部落格文章中表示，Anthropic最近與她分享了一份由安全研究人員撰寫的私人論文副本，該論文描述了Fable 5中所謂的護欄繞過。(《華爾街日報》報導稱，該論文的作者是Amazon的安全研究人員。) Moussouris表示，Anthropic曾聯繫她，徵求她對該論文的看法。

Moussouris的部落格文章描述了研究人員如何觸發護欄繞過，但她表示，該繞過本身「絕不應該觸發出口管制」。兩者之間的差異主要在於要求AI模型「審查程式碼以查找安全問題」與要求它「修復此程式碼」。即使問題的提出方式略有不同，最終結果也大致相同。

Moussouris表示：「論文中描述的行為無法有效修復，任何嘗試只會削弱模型用於防禦的能力。」她批評這項出口管制指令是倉促、嚴厲且誤導的。

Moussouris和數十位其他頂尖安全研究人員及專家此後呼籲川普政府撤銷這項出口管制命令，稱此舉從美國網路防禦者手中撤回先進網路安全能力是「危險的」。

過去的政府也曾因知識落差做出全面性決策。例如，2010年代美國政府用於修訂網路安全工具出口法律的措辭過於寬泛，這些工具也可能被用於網路攻擊，結果卻無意中幾乎將合法的安全和漏洞研究定為非法。

然而，川普政府的這項指令似乎帶有報復性質。

Tech Policy Press編輯Justin Hendrix表示，川普政府的舉動「很可能在各國首都引起對美國AI在關鍵應用方面可靠性的警惕」。這傳達的訊息是，美國的AI公司在沒有美國政府干預的情況下，無法被信任來運作。

川普政府尚未證實為何援引其出口管制指令。官員是否誤讀了報告並反應過度？Amazon執行長Andy Jassy是否對高級政府官員說了什麼，出於謹慎或惡意促使了這一反應？是否在翻譯過程中出現了誤解，或者這是一種向與政府關係緊張的Anthropic施壓的方式？白宮可能並未意識到這封信函要求所帶來的深遠影響，官員們正在努力彌補自己造成的損害。

引用Hendrix的話：「目前的氛圍籠罩著一層疑雲，高級官員似乎正在根據個人和政治因素選擇偏袒對象。」其後果是，政府在美國軟體發布上打算施加多少控制權，樹立了一個危險的先例。

這次政府針對的是Anthropic；明天可能就是其他任何公司。