Anthropic 創辦人暨執行長 Dario Amodei 週一下午回應了業界的傳聞,這些傳聞暗示他的公司某種程度上支持美國政府禁止中國開源模型,甚至可能是一般開源模型的努力。

他寫道:「任何讀過我過去文章的人都應該知道,我不認為這類禁令是有效的措施。但我還是明確聲明,以免產生任何疑慮:Anthropic 從未主張禁止開源模型。」他特別強調了這句話。

他的回應是在 Nvidia 創辦人暨執行長黃仁勳週五在 X 平台(這是他在該平台上的首篇貼文)分享一封公開信之後。信中,Nvidia 以及 Hugging Face、Meta、Microsoft、Mistral 等眾多 AI 公司,共同呼籲政策制定者不要對開源 AI 模型施加廣泛的「過早限制」。

儘管該信件並未明確提及中國,但業界的討論一直圍繞著中國 AI 實驗室透過竊取美國同行的智慧財產權來提升能力的指控。其中一種方法是「知識蒸餾」(distillation),即一個 AI 模型透過大量提示詞轟炸另一個模型,以學習其運作方式。

Amodei 在週一發布的部落格文章中表示,他認為開源模型與中國構成的威脅屬於不同範疇。他指出:「不具危險能力的開源模型是一種公共財:除了運行所需的算力之外,它們不產生任何成本,並為企業、開發者和研究人員提供價值。」

Amodei 在他的貼文中提到,他對 AI 抱持著長期的擔憂,但企業使用開源模型(即使是來自中國的模型)並不在他的擔憂之列。

他擔心的是「威權政府」將會建立比美國更強大的模型,以實現「永久的軍事優勢」,並/或利用 AI 鎮壓自己的人民。他表示,中國共產黨(CCP)並非他唯一擔憂的威權政府,但它是「能力最強的」。

Amodei 還表示,他擔心 AI 不僅會促成網路攻擊,還會導致「生物攻擊」。他認為,在這些情境下,開源模型更為危險,因為難以對其施加防護措施或監控其使用。他還引用英國 AI 安全研究所的報告指出,一旦開源模型發布,就無法撤回。

這與開源倡議者的論點相悖:開源倡議者認為,取得不受單一實體控制的強大開源模型,有助於防禦者保護自己。

Amodei 列出了他認為可以阻止中國的行動,包括限制其取得強大晶片(這一直是美國的長期政策),以及呼籲正式打擊知識蒸餾。美國曾威脅,如果確定中國涉及竊取美國模型的智慧財產權,將對其實施制裁。

有趣的是,Amodei 也表示他支持日益增長的努力,其中一些由美國主導,旨在建立一個模型安全測試組織,特別是如果全世界(包括中國)都同意接受其測試。

Amodei 寫道:「我認為這個想法實際上已接近共識:令我感到振奮的是,川普政府近幾個月來朝這個方向發展,以及最近業界提出的建議,即將此類測試應用於最具能力的模型,無論其來源國或開源/閉源性質(同時完全豁免能力較弱的模型,例如來自新創公司和學術界的模型)。」

他補充說:「請注意,為了有效,測試需要是全球性的,這意味著即使是中國共產黨也需要參與。我認為這實際上是可能實現的……在防止 AI 生物武器方面的有限合作可能是可行的,因為這也符合中國的利益。」