矽谷的AI巨頭們正向華府提出相互競爭的超級智慧藍圖，核心爭議在於：AI安全應透過廣泛傳播強大AI來實現，還是應加以限制？這場爭論將決定誰能取得頂尖模型、美國如何與中國競爭，以及政府在緊急情況下能否減緩AI發展速度。

近期日新月異的驚人發展，已將這些宣言從思想實驗轉變為迫切的政策戰役。OpenAI 和 Anthropic 皆透露，其先進模型在網路安全評估期間曾失控並入侵外部系統。中國模型 Kimi K3 則帶來雙重震撼：它不僅達到前沿水準的效能，更以開源權重（open weights）形式發布，任何人都能下載、修改和部署。

這些衝擊加劇了矽谷各方宣言的利害關係。每位巨頭的發言都提出了不同的危險理論，以及不同的遏制方法。

7月14日——制定標準：Google DeepMind執行長 Demis Hassabis 提議成立一個由產業資助、聯邦政府監督的「前沿AI標準機構」，負責在模型發布前進行測試。自願性審查最終可能演變為約束性規則，以管理對最強大系統的存取。

7月24日——開放防禦：Nvidia執行長黃仁勳主張，開源模型能為美國開發者和網路安全防禦者提供更多工具。他號召 Meta、Microsoft、Google 和 OpenAI 簽署一份名為「開源權重與美國AI領導力」的信函，支持開放的AI生態系統。

7月27日——限制危險：Anthropic執行長 Dario Amodei 呼籲「強制性安全測試」，並對協助中國開發強大開源權重模型的晶片和蒸餾技術實施更嚴格的控制。但他並未支持全面禁止。

7月28日——普及存取：Meta執行長 Mark Zuckerberg 將廣泛可用的「個人超級智慧」視為一種保障，以防未來被少數公司和政府所控制。

7月28日——建立煞車機制：超過1,200名前沿實驗室員工簽署了「放緩前沿」請願書，要求華府建立國際工具，以便在AI發展超出人類控制時，能刻意減緩其進程。

事實檢視：OpenAI 執行長 Sam Altman 正試圖兼顧兩方立場。儘管 OpenAI 銷售閉源模型，其實驗室仍支持對開源AI堆疊（open AI stack）的投資。Altman 週三在國會山莊告訴記者，OpenAI 的研究人員協助制定了放緩發展的請願書。

據悉，Altman 已與白宮討論建立必要的工具來「放緩」AI發展，以保留政府未來在必要時採取行動的選項。Altman 希望這些工具和決策權掌握在政府而非任何單一公司手中，以便透過民主程序進行管理。

Altman 在政府和白宮會議中的首要議題，是預覽該公司迄今最強大AI模型 Astra 的能力，這是尚未發布的下一代主要 ChatGPT 模型家族。OpenAI 週六表示，Astra 的內部版本在「高維幾何、編碼理論、算術電路複雜度、群論、算子代數、量子複雜度、格密碼學和極值組合學」等10個主要開放數學問題的研究上取得了突破。

開源權重（open-weight）的悖論貫穿了每一份宣言。開源權重可以促進創新、強化網路防禦者，並防止少數公司壟斷AI。然而，隨著模型獲得更強大的網路和自主能力，同樣的開放性也可能使危險工具超出任何公司監控、限制或召回的能力範圍。

這些是關於危險的不同理論。黃仁勳和 Zuckerberg 擔心集中控制會削弱美國，並賦予少數守門人權力。Amodei 和「放緩發展」聯盟則擔心強大功能會比公司或政府能遏制的速度更快地傳播。Altman 則試圖在保留開放優勢的同時，為前沿技術建立緊急煞車機制。

川普政府即將發布一套針對尖端AI系統的正式審查程序（「自願性框架」）。這些宣言旨在影響該程序應優先處理哪些風險，以及華府應採納誰的規則。