多年來，許多矽谷的權勢人物一直認為，美國正與中國陷入一場AI軍備競賽，而失敗的後果將是災難性的。然而，在過去一週，這些高階主管開始強調不同的訊息：科技領袖表示，AI的潛力可能變得如此危險，兩國迫切需要合作以放緩這場競賽。

Anthropic執行長Dario Amodei在週六發表的一篇題為《我們必須放緩前沿進度》的部落格文章中寫道：「全球進度將需要與中國這個擁有最先進AI能力的專制國家合作。」然而，中國政府和AI公司已明確表示，他們對Amodei的提議深感懷疑。

這並非因為他們想盲目地繼續競賽，或不相信這項技術會帶來嚴重風險。中國政府和中國AI公司看到的問題要簡單得多：他們認為自己被提供了一項不公平的交易。

科技對沖基金Interconnected Capital創辦人、前歐巴馬政府白宮幕僚Kevin Xu表示：「中國的AI安全社群正在成長，並與美國實驗室有許多相同的擔憂。但分歧在於，Anthropic主導的願景只會先壓制和限制中國，以最大化其籌碼，然後才談判。而中國只會在被平等對待的情況下才會進行談判。」

Amodei寫道，放緩策略的「關鍵部分」應該是確保美國和其他民主國家在AI發展上，對中國等專制國家保持「盡可能大的領先」。為此，他敦促美國採取措施，包括打擊晶片走私，並防止中國公司未經授權的模型蒸餾。

亞洲協會政策研究所中國分析中心高級研究員、史丹佛大學以人為本AI研究所數位研究員Alvin Wang Graylin指出：「他的文章明確表示，AI的進度是以增加對中國的領先為條件，這讓中國讀者覺得這項提議不夠真誠。」

Amodei接著做出了一個看似英勇的邏輯跳躍：他認為削弱中國的AI產業將在某種程度上賦予美國更多籌碼，並使「未來達成協議的可能性更大」。然而，這究竟要如何引誘北京來到談判桌，卻沒有解釋清楚。值得稱讚的是，Amodei後來在一次電視採訪中承認，他「不知道如何與中國談判」。

回應Amodei的中國政府官員、AI研究人員和其他知名評論員，並非認為AI沒有風險。但他們中的許多人顯然不滿意，他們的國家應該同時被視為重要的治理夥伴，又是一個需要被限制的競爭對手。

週一，中國外交部發言人郭繼坤在記者會上被問及Amodei的部落格文章時，毫不諱言地將該提議描述為「恐懼製造、對抗和惡性競爭」，這只會阻礙全球AI合作努力。隔天，外交部也強調「中國在AI方面同樣重視發展和安全」。

這些複雜的評論反映了北京對Anthropic執行長警告的接受度，可能不如其他受眾的另一個原因。與矽谷許多最響亮的聲音不同，中國領導人主要擔心的並非AI所謂的「存亡風險」，例如流氓AI代理可能殺死地球上所有人的可能性。與許多其他政策領域一樣，北京普遍的焦慮是AI可能破壞國內社會穩定或威脅中國共產黨的執政權。

新美國安全中心訪問學者Michelle Nie專注於國家安全和人工智慧，她表示：「北京很難相信這些呼籲的表面價值，部分原因是它懷疑實現通用人工智慧的可能性，也懷疑AI對人類構成極端風險的說法。儘管北京開始認識到失控風險，但北京最擔心的風險似乎是AI可能對中共統治構成的威脅。」

中國國家安全部長陳一新在最近的一篇文章中警告，AI可能助長政治假訊息、網路攻擊、間諜活動、社會動盪和新的軍事威脅。他花在美國前沿AI實驗室經常關注的末日情景上的時間要少得多。

Nie說：「中國政策制定者傾向於將美國公司對AI安全的呼籲解讀為工具性的。他們認為美國公司正試圖在潛在的首次公開募股（IPO）之前抬高自身價值，或者減緩其競爭對手（目前主要是中國公司）的發展。」

這種懷疑也為許多在中國AI產業工作的人所認同，該產業普遍專注於發布成本較低、開源的模型。DeepSeek的一位研究員在週日發表的一篇廣為流傳的文章中表示，他相信AI可能將人類社會推向兩個極端之一。第一種情況是，強大的AI廣泛可用並提高生活水平。第二種情況是，少數科技公司控制著最先進的系統及其附帶的資源，使其他人更難趕上。

DeepSeek工程師寫道：「這就是為什麼我仍然相信最先進的智慧應該以開放且廉價的方式提供給所有人。我不相信Anthropic或OpenAI會這樣做。我尤其不希望Anthropic控制最先進的人工智慧或通用人工智慧。」

這一切並不意味著中美在AI安全方面的合作註定失敗。據報導，在中方領導人習近平本月稍晚計劃訪問華盛頓會見美國總統川普之前，兩國之間的初步談判已經在進行中。

儘管進展可能緩慢，但仍有許多理由樂觀地認為這些討論會取得一些進展。兩國政府都對一些相同的事情表達了擔憂，包括網路安全威脅、強大模型的濫用，以及日益強大的AI系統可能以意想不到的方式運作的可能性。

Nie表示：「雙方都有真正關心AI安全的人，他們有可能在狹窄的議題上進行真誠的討論。」她說，最能推動進展的，是設計一種可信的方式，讓兩國能夠驗證對方是否遵守承諾。

然而，其他人擔心Amodei和其他美國科技領袖關於削弱中國的言論可能會侵蝕外交談判所依賴的脆弱信任。AI安全非營利組織MATS Research的研究員Kristy Loke表示，Amodei的這封信最終可能會適得其反。「Dario正在破壞減少他聲稱認真對待的風險的少數可用槓桿之一。」她說。