上週稍晚，Anthropic 根據美國政府的出口管制指令，將其新的 Claude Fable 5 和 Mythos 5 AI 模型下架，該指令禁止「任何外國國民」使用這些服務。自上週五以來，Anthropic 一直與白宮進行協商，但尚未達成協議以恢復這些產品。
自 Mythos 於四月首次亮相以來，Anthropic 便聲稱並警告，該模型不僅具備尋找軟體漏洞以協助防禦者修補的能力，還能找出惡意行為者可能利用的漏洞利用方式。Anthropic 在推出 Mythos 5 和 Claude Fable 5 時，也提到了這種雙面刃的特性。
該公司上週在一篇部落格文章中寫道：「AI 模型的大部分進階應用都具有雙重用途：同樣的查詢，在網路安全專業人員和生物研究人員手中是有益的，但若落入惡意行為者手中，則可能變得危險。」
考慮到這一點，Anthropic 最初將一個名為 Mythos Preview 的版本發布給一個選定的聯盟，作為 Project Glasswing 工作組的一部分。Mythos 5 也於上週私下發布給這個小組，而與 Mythos 同級的 Claude Fable 5 則向大眾發布，但對其回答生物學和網路安全問題的能力設有特定限制。
隨後，上週稍晚，美國政府採取行動限制這兩款模型，因為它認為 Fable 5 的安全防護措施可能被禁用，從而允許完全存取 Mythos 5 的功能，據稱這將構成國家安全風險。
然而，專家表示，這種機構衝突只是延遲或掩蓋了一個嚴峻的事實：Anthropic 可能只是當前的先鋒，但總體而言的 AI 能力，以及來自多家公司和開源開發者的模型，在不久的將來幾乎肯定會具備與 Mythos 5 類似的功能——如果它們尚未具備的話。
專業網路安全諮詢公司 TPO Group 的首席安全長 Tarah Wheeler 表示：「認為 Anthropic 的其他競爭對手不會開發出類似 Mythos 的能力，甚至認為他們尚未做到，這是極端短視的。」她補充說：「還有其他公司緊追在 Anthropic 身後，他們可能也擁有這些能力，並正在觀望 Anthropic 在當前監管環境中如何被對待。」
自 Mythos Preview 推出以來，Anthropic 自己也一直在強調這一點。該公司前沿紅隊負責人 Logan Graham 在四月 Mythos Preview 推出時告訴 WIRED：「真正的訊息是，這與模型或 Anthropic 無關。我們現在需要為一個這些能力將在 6、12、24 個月內廣泛普及的世界做好準備。」
例如，OpenAI 也在四月中旬私下發布了一個專注於網路安全的模型，並宣布了一項擴大的網路安全策略。
研究人員指出，即使在下一代模型問世之前，現有的 AI 產品只要經過精煉的提示詞，也能用於進階的漏洞搜尋和利用開發。一群網路安全領袖在週日的一封公開信中向政府強調了這一點，認為白宮的出口管制指令是錯誤的。
哈佛大學和多倫多大學的研究員 Bruce Schneier 一直在分析這種情況，他表示：「這不是單一模型的問題；這是技術的普遍趨勢。」他指出：「更小、更便宜、開源的模型，有時單獨使用，有時相互協同，都能透過更精密的提示詞來匹配 Mythos/Fable 的性能。」
Schneier 預計其他模型在數月內就能達到 Mythos/Fable 的創造力和韌性，開源模型可能稍長。專家表示，白宮和世界各國政府需要關注的是，民主地制定更廣泛、更透明的計畫，以應對 AI 能力在網路安全和其他敏感領域不可避免的進步。
雲端安全公司 Veracode 的共同創辦人 Chris Wysopal 說：「政策問題不在於技術是否有風險。問題在於，特定的限制是否能有效降低該風險，還是主要減緩了那些試圖讓系統更安全的人。」