我將過去幾週關於 AI 發展的公開信摘要，原先寫在我贊助者專屬的電子報中，但現在決定也在此分享。
一份名為「開放權重與美國 AI 領導地位」的公開信，由微軟主導，日期為 7 月 24 日，並有 235 家與 AI 相關的公司簽署，其中包括 NVIDIA（參見黃仁勳的第一則推文）、Amazon、Y Combinator、The Linux Foundation，以及後來加入的 OpenAI。
這份公開信顯然旨在反駁美國政府可能因「安全」考量而禁止或限制開放權重模型的意圖，考量到 Claude Fable 5 所發生的事件，這是一個合理的顧慮！
僅依賴閉源模型並非本質上安全：它們可能被入侵、濫用，或以外部人員無法察覺的方式失效。將先進 AI 能力集中在少數閉源模型上，會加劇這種風險。這會導致少數單點故障，削弱競爭，並使關鍵技術掌握在少數供應商手中。另一方面，開放權重模型允許廣泛的研究人員和開發者社群檢視其行為、識別漏洞、開發防護措施並隨著時間改進它們。
這封信中一個令人驚訝的點是，它支持模型蒸餾，即模型利用其他模型的輸出進行訓練：「在塑造這個生態系統時，政策制定者應謹慎，不要將合法的模型開發技術與不當挪用混為一談。蒸餾，即利用一個模型的輸出幫助訓練或改進另一個模型的做法，是一種廣泛用於模型改進、評估和驗證的技術。它反映了從現有技術中學習、建立和改進的悠久傳統，這個傳統自開源軟體運動興起以來，一直推動著創新。」
值得注意的是，Anthropic 並未簽署這份公開信，他們在三天後發布了自己對開放權重模型的立場。執行長 Dario Amodei 強調了威權政府可能建立「比美國所建模型更強大 AI 模型」的風險，以及模型可能「被濫用以進行網路攻擊或生物攻擊」，並呼籲「打擊工業規模的蒸餾操作」，同時也聲明「Anthropic 從未主張禁止開放權重模型」。
隨後在 7 月 28 日，「減緩前沿發展步調」公開信發布，簽署者包括「1,324 名前沿 AI 公司的員工」，其中不乏 Jakub Pachocki（OpenAI 首席科學家）、Ilya Sutskever（Safe Superintelligence Inc，前 OpenAI）、Dario Amodei（Anthropic）和 Jack Clark（Anthropic）等知名人士。
他們的核心訊息是：「我們請求美國政府支持一項國際努力，以開發所需的技術和治理工具，來審慎地控制自動化 AI 發展的前沿步調。」
他們擔憂的是激烈的競爭壓力，加上自動化 AI 研究導致的 AI 進程加速。考慮到 Anthropic 使用 Claude Code 生成了 80% 的程式碼，OpenAI 的 Sol 將其端到端服務成本降低了 20%，以及 Kimi K3 設計了一款晶片來服務基於其自身架構構建的微型模型，你就能理解為什麼人們現在更認真地看待這種風險了。