Anthropic 執行長 Dario Amodei 呼籲立即減緩 AI 發展速度，警告若不如此，數月內恐將面臨毀滅性後果。Amodei 在一篇新文章中直言不諱，警告失控的 AI 代理程式群可能在短短六個月內佔領整個網路。
Amodei 寫道：「我們必須減緩提升 AI 模型能力的步伐。進展仍會顯得快速，我們必須善用爭取到的時間。」他特別提及最近發生的 OpenAI-Hugging Face 失控代理程式事件，稱其後果可能遠比實際情況更糟。
他警告說：「鑑於 AI 能力發展的加速，我擔心在 6 到 12 個月內，這樣的代理程式群可能能夠透過持續的殭屍網路佔領整個網路（可能造成數千億美元的損失），如果 AI 在沒有必要防護措施的情況下變得更強大，損害規模將會持續擴大。」
Amodei 表示，Anthropic 將單方面採取一項關鍵安全措施：賦予外部評估者員工級別的權限，以確保安全程序並報告事件。他呼籲業界其他公司也應效仿。他還呼籲民主國家之間協調建立安全標準，並努力讓這些國家與威權政府進行協調。
值得注意的是，SpaceXAI 的 Elon Musk 迅速支持了 Amodei 的呼籲。他在 X 上寫道：「Dario 是對的。」（Anthropic 是 Musk 資料中心容量的主要客戶。）Anthropic 高階主管在 Amodei 的文章發表後，也呼籲採取立法和監管回應。
公共政策主管 Sarah Heck 在 X 上寫道：「政府在此扮演關鍵角色，包括阻止向中國等敵對國家出售最先進的晶片，制定國家法律要求對前沿模型進行測試，並有權阻止被證明不安全的最先進模型。」
宏觀來看，本週 AI 安全辯論因一名 Anthropic 員工公開辭職並警告可能面臨末日而進入公眾意識。Amodei 的文章不一定是直接回應，但在公眾和國會突然爆發的憤怒中，它將產生同樣的效果。Amodei 在文章結尾寫道：「我提出的以安全速度推進前沿的措施並不容易。但我相信我們有責任為人類嘗試。」
然而現實是，AI 產業牽涉巨大的利益，很難想像公司會自我約束，特別是如果他們不確定競爭對手是否會這樣做。就在上個月，OpenAI 表示由於網路安全問題，將減緩其最新模型 Astra 的開發。Anthropic 本身也曾就單方面減緩開發的價值反覆討論。
事實上，Amodei 的批評者認為這篇文章既關乎安全，也關乎市場地位。創投家 Chamath Palihapitiya 在 X 上寫道：「Dario 主張停止開源，並將巨大的技術和經濟力量集中在 Anthropic 手中。」總而言之，Amodei 的文章可能會對安全和監管辯論產生重大影響。但究竟是否會有人採取行動，或者該產業是否會繼續衝向一個極度不確定的未來，仍有待觀察。