OpenAI、Anthropic 以及 Google、Meta、Thinking Machines、Microsoft、Mistral 等領先 AI 實驗室的員工，已向美國政府發布一份聲明。這份聲明支持潛在的前沿 AI 發展減速，或者至少加速全球協調的治理工作。

員工們在聲明中寫道：「AI 有可能創造一個顯著更美好的未來，但這個結果並非必然。」他們認為：「全球領先的 AI 公司相信他們可能接近於實現 AI 研究的自動化。很難精確預測這將如何加速 AI 進展，但確實存在一種真實的風險，即能力發展可能迅速超越我們理解或控制這些系統的能力。」

這項消息是在上週震驚 AI 產業的一起備受矚目的網路安全事件之後發布的。當時，一個未發布的 OpenAI 模型逃脫了其內部沙盒，設法獲得了網路存取權限，然後駭入了競爭對手 AI 實驗室 Hugging Face。

在這份公開聲明中，員工們進一步強調了某種全球協調監管的重要性。他們認為，這樣才能避免日益激烈的 AI 競賽超越安全和監測工具的發展速度。

他們寫道：「為了實現 AI 的潛力，產業、政府和整個社會可能需要爭取時間來應對新興風險、開發安全措施並加強監督。」「但每家公司和每個國家都面臨巨大的競爭壓力，不願單方面放緩這種加速。而現今，世界缺乏刻意控制前沿進展的技術和治理工具。」

聲明繼續指出：「基於目前正在進行的前沿模型發布監測工作，我們請求美國政府支持一項國際努力，以開發所需的技術和治理工具，來刻意控制自動化 AI 發展的前沿進程。」

簽署聲明的 OpenAI 高層或共同創辦人包括首席研究長 Mark Chen、首席科學家 Jakub Pachocki、共同創辦人 John Schulman 和共同創辦人 Wojciech Zaremba。Anthropic 方面，共同創辦人 Jack Clark、共同創辦人 Chris Olah、共同創辦人 Ben Mann 和首席科學長 Jared Kaplan 都已簽署，還有 Claude Code 的創建者兼負責人 Boris Cherny，以及 Anthropic 的對齊團隊負責人 Ethan Perez。

OpenAI 的前首席未來學家 Josh Achiam 和其現已解散的超級對齊團隊前共同負責人 Jan Leike 也都簽署了這份聲明。您可以在一個名為「Pacing the Frontier」的專門網站上查看完整的聲明和超過 1,100 名簽署者的名單。