川普政府向Anthropic發出出口管制指令，迫使這家全球領先的AI實驗室將其最先進的模型下架，至今已近一週。經過Anthropic與白宮數日的談判，雙方對於如何讓Claude Mythos和Fable 5重新上線仍存在分歧。原因何在？這取決於你問誰。
據一位接近該公司的人士透露，Anthropic在這場風波中不認為自己違反了川普政府制定的任何具體程序或規則。但白宮堅稱Anthropic行為魯莽，證明其無法安全地推出尖端技術。這場事件向我證明，我們現在正式進入了美國AI監管的「狂野西部」時代。
儘管目前關於尖端AI開發的法律寥寥無幾，這並不意味著當公司跨越不成文的界線時，不會與川普的白宮發生麻煩。一位不願透露姓名的前白宮科技官員表示：「問題在於白宮一直採取極端反監管立場，現在卻面臨人們預測多年的真實AI能力。」他補充說：「本應有準備和政策來系統性地處理這一切，管理其益處和風險，但現在卻是這種倉促應對的方式，讓AI產業陷入真正的困境。」
川普政府一再阻撓對AI產業實施防護措施的努力，常辯稱這些規則可能阻礙美國創新，並導致國家落後於中國等競爭對手。自他重返白宮以來，川普總統簽署了行政命令，推翻了拜登時代建立國家AI框架的努力，並成立了一個聯邦專案小組，以挑戰可能被視為繁重的州法律。
儘管《WIRED》和其他出版物在過去一週公開了Anthropic與白宮之間談判的細節，但這場爭議仍因其不透明性而定義。美國政府從未明確說明Anthropic究竟做錯了什麼——我們所能得到的最好資訊是白宮科技顧問David Sacks在X上發布的一篇概述總體情況的貼文。諷刺的是，白宮的行動很可能阻礙了它想要保護的那種創新。
川普政府要求Anthropic禁止所有外國國民存取Mythos和Fable 5，這使得該AI實驗室的許多員工無法存取其最尖端的模型。該公司表示，這些模型在最近幾個月加速了其研發進程。Anthropic的所有客戶也都被鎖定，包括Apple、Meta以及許多財富美國500強企業。
白宮對Anthropic的模型可能確實有合理的擔憂。正如我的同事和我在週三報導的，美國官員在本月初得知Anthropic與韓國電信巨頭SK Telecom分享了Mythos後感到擔憂，他們聲稱SK Telecom與中國有聯繫。另外，Amazon執行長Andy Jassy向美國財政部長Scott Bessent提出了對Claude Fable 5（Mythos的一個受保護版本）某些防護措施可能被規避的擔憂。
即使這些擔憂是合理的，這也不代表白宮處理得當。在第一種情況下，Anthropic表示它在Mythos推出時與美國政府進行了協調，這表明官員們本有機會提前對SK Telecom提出警告。Anthropic也與這家韓國公司合作多年，此安排此前似乎從未導致國家安全問題。我們報導稱，當白宮向Anthropic提出對SK Telecom的擔憂時，Anthropic立即撤銷了模型的存取權限。
在第二種情況下，《WIRED》和其他媒體已詳細報導了所有大型語言模型在不同程度上都可能被「越獄」（jailbroken）。Anthropic和獨立網路安全研究人員認為，解決越獄問題並非易事或孤立的問題。由於AI模型是機率性的，而非確定性的，科技公司無法保證它們會對給定的提示詞產生什麼樣的確切回應。
如果白宮不讓Anthropic發布Claude Fable 5，直到越獄問題解決，那我可不會抱太大希望。
但歸根結底，問題不在於美國政府試圖確保先進AI模型有適當的防護措施，或不落入美國的敵人手中。問題在於川普政府現在處於必須即時做出這些監管決策的境地。我可以向你保證，OpenAI、Google和Meta等其他AI實驗室都屏息以待地關注著Anthropic的不幸。我整週都在問AI高管們同一個問題：你們如何避免類似Anthropic的命運？
到目前為止，許多AI領導者都得出相同的結論：他們認為需要讓白宮提前存取他們最新的AI模型。此外，他們表示，他們需要非常積極主動地與川普政府分享有關即將發布模型的資訊——讓官員措手不及的風險實在太大了。加拿大AI實驗室Cohere的執行長Aidan Gomez本週稍早接受採訪時表示：「提前通知，提前存取。
我認為這些是我們聽到的主要要求，不僅來自美國，也來自世界各地。」他補充說：「我認為這些在許多方面都是好事。這表明當局對一項超級重要的技術有著強烈的參與和考量。」
川普總統上個月簽署了一項行政命令，建立了一個「自願性」系統，供AI實驗室向政府提交模型進行早期測試。其中明確規定這不會成為強制性許可制度，這是科技業提出的一項主要擔憂，也是最初阻礙行政命令的原因。但在Anthropic事件之後，川普政府似乎已經有效地創建了這樣一個臨時版本的制度。那位前白宮科技官員說：「坦白說，川普政府不應該說這是一個自願性制度。現在他們所做的，顯然就是一個許可制度。」