Anthropic 備受期待且功能強大的 Fable 5 AI 模型，在公開發布後僅數日便遭下架。此前，亞馬遜的一份緊急報告引發白宮內部一陣混亂，最終在週五晚間戲劇性地終止了該模型的運作。
此事件凸顯了政府與業界在面對快速發展的技術時，往往採取被動反應的態度。這也引發了疑問：亞馬遜為何要對其主要投資的公司 Anthropic 採取如此具破壞性的行動？此外，這也延續了川普政府與該公司之間，關於其模型功能及其攻防用途的長期爭議。
幕後：據知情人士向 Axios 透露，亞馬遜在週四晚間致電政府官員，分享一份報告，內容顯示他們如何成功「越獄」並存取 Anthropic 強大新模型 Mythos 的部分內容，這些內容構成國家安全威脅。Anthropic 內部人士表示，該公司此前曾多次知會政府，計劃於 6 月 9 日發布 Fable（Mythos 的通用版本），當時政府並未表示反對。
然而，來自亞馬遜以及至少五家其他公司在週四晚間至週五上午，向多位資深政府官員發出的電話，最終導致該模型在週五晚間被勒令下架。
官方說法：亞馬遜發言人在一份聲明中表示：「作為一家服務眾多私人和公共部門客戶的領先雲端供應商，政府就潛在安全風險尋求我們的建議並不罕見。當這些情況發生時，我們不會分享討論的細節。」一位官員透露，政府官員在週五清晨與 Anthropic 進行了數小時的談話，試圖讓該公司撤回最新模型，但這些努力並未成功。
據 Anthropic 內部人士透露，該公司在美東時間下午 1 點 30 分接到政府電話，被告知必須在 90 分鐘內下架 Fable 和 Mythos，理由是存在「國家安全威脅」。該消息來源指出，政府並未提供關於該威脅的更多細節。
週五美東時間下午 5 點 20 分左右，白宮向 Anthropic 發送了一封信函，Axios 最早報導了此事，通知該公司 Fable 和 Mythos 模型將受到嚴格的出口管制規定。大約晚上 10 點，用戶便無法存取 Fable。根據這些管制措施，Anthropic 最先進的模型不僅無法供外國敵對勢力使用（這點 Anthropic 本身已在防範），甚至連美國盟友或在美國境內的外國國民也無法存取。
這些影響立即在公司內部顯現，許多外籍員工都需要存取 Anthropic 的模型。
Anthropic 消息來源指出，在公司被告知政府將實施出口管制規定後，執行長 Dario Amodei 和其他 Anthropic 官員與政府進行了對話。在這些對話中，Anthropic 官員闡述了亞馬遜聲稱的「越獄」相對簡單，其他模型也能實現，並且並未證明 Fable 5 的安全系統存在缺陷。
言外之意：Luta Security 執行長 Katie Moussouris 向 Axios 表示，政府的回應「似乎與研究報告的實際內容嚴重不符」。Anthropic 曾與 Moussouris 分享了亞馬遜的報告。Moussouris 指出，研究人員透過提出一般防禦者會向 AI 提出的問題，成功發現了安全漏洞，而這正是該模型設計的初衷。
Moussouris 強調：「所有 AI 模型都必須能夠以這種方式協助防禦者，否則我們將無法擴大防禦範圍以對抗攻擊者。」
大局觀：這封出口管制信函雖然只針對一家公司，但可能對整個產業產生更廣泛的影響。一位知情人士向 Axios 表示：「這實際上是一種變相的許可制度。企業不會想與白宮作對，這就是最終的結果。」一位政府官員向 Axios 透露，他們不認為其他模型構成國家安全威脅，因為它們尚未超越 Mythos 所設定的門檻。
該官員補充說，任何達到或超越 Mythos 等級的模型，都必須經過政府審查，以確保國家安全機制足夠堅固。
總結：一位熟悉政府想法的消息來源表示，Anthropic 在發布 Fable 時「缺乏嚴謹性」。該消息來源補充說：「如果 Anthropic 認真對待，而不是將其視為孤立事件而置之不理，並採取措施修復或暫停存取，這一切就不會發生。」他還說：「他們過於自信了。」