Anthropic 在一篇新的部落格文章中指出，人工智慧的發展速度極快，很快就能在無需人類介入的情況下，自行推進。重要性在於：Anthropic 的研究顯示，「遞迴式自我改進」——即 AI 系統自行建構、測試並改進自身的過程——可能比預期更早發生。
最新消息：Anthropic 警告，AI 不再只是改變人們的工作方式，它也開始改變 AI 本身的建構方式。該公司的新數據表明，前沿模型已加速了編碼、除錯和研究的進程。這很可能形成一個回饋循環，讓 AI 系統創造出更為精密的後繼者。他們表示：「我們一直認為，最好的做法是普及這個概念，讓大家了解即將發生的事情。」
Anthropic 的 Jack Clark 在接受 Axios 採訪時說道。「這裡的重點是，我們看到有跡象表明，與一些普遍觀點相反，AI 的進步在未來幾年將會加速，而非停滯不前或減緩。」Clark 表示，這對科學和醫學的進步尤其有前景，但需要規劃其對 AI 本身的影響，以及它如何融入這些產業現有的工作。
Clark 說，該公司希望立法者在真正開始聽到「遞迴式自我改進」這個詞之前，就能參與討論這個議題。「作為組織，最終可能作為社會，我們需要找出工具來驗證和確認這些 AI 系統所做的事情是正確的，並且符合人類的意圖，與一個繁榮的社會相符。」他補充道。
宏觀來看：Claude 聊天機器人的改進已轉化為 AI 編碼代理人的改進，進而轉化為自主代理人的改進。Clark 在文章中指出，遞迴式自我改進很可能是下一步：「在不久的將來，AI 系統可能變得足夠強大，能夠自主設計、建構並訓練出更強大的後繼者。」
「如果發生這種情況，每個新版本的 Claude 都可能由其前一個版本建構，而無需人類介入。」OpenAI 也發表了自己對「遞迴式自我改進」的擔憂和發現。在 2025 年 12 月的一篇部落格文章中，它將其描述為一種潛在危險的現象，如果研究人員不分享相關資訊的話。
我們正在關注：Anthropic 計劃在未來幾個月內與立法者討論遞迴式自我改進的問題。總結：能夠自我建構的 AI 即將來臨，AI 實驗室表示他們不確定這將對世界產生什麼影響——但他們覺得有必要向所有人發出警告。