Anthropic 表示，人工智慧的發展速度如此之快，其趨勢指向系統將能夠開發自己的繼任者。我們尚未達到那個階段，但他們相信這「可能比大多數機構準備好的時間還要早到來」。在一篇部落格文章中，Anthropic 解釋說，能夠自我建構的 AI 在科學和醫療等領域「能為世界帶來巨大的好處」。
然而，它也可能「增加人類失去對 AI 系統控制的風險」。那麼，人類如何防止「天網」成為現實呢？Anthropic 建議的答案是全球減緩或暫時暫停 AI 發展，「以使社會結構和對齊研究能夠跟上技術的進步」。該公司是當今 AI 競賽中的領先者之一，與其尚未盈利的競爭對手不同，據報導它有望實現首次盈利季度。
它最近向美國證券交易委員會 (SEC) 提交了上市文件，可能在年底前公開上市。《華爾街日報》指出，批評者認為 Anthropic 對其自身技術的警告是一種行銷策略，或許是為了讓它看起來在所有 AI 公司中「最不惡劣」，或者讓其產品顯得是市面上最好的。
批評者特別指出其網路安全 AI 模型 Mythos 的有限發布作為例子。Anthropic 表示，由於其快速識別漏洞的能力若落入不法之手可能造成潛在損害，因此只向選定的合作夥伴提供 Mythos。但人們認為這只是一種炒作產品的策略，或是為了掩蓋 Anthropic 只想將其出售給最大型企業的事實。
然而，值得注意的是，該公司的建議是基於其於三月成立的研究部門 Anthropic Institute 的研究結果。Anthropic 當時表示，該研究所的職責是「告訴世界」它在 AI 公司開發更先進 AI 系統時所面臨的挑戰。該研究所將與合作夥伴一起，研究「可信的減速或暫停所需建立的系統」。
如果 AI 公司同意減速，則必須建立機制來驗證它們是否都確實停止或減緩了 AI 發展。否則，一些公司可能會在秘密開發技術後超越其他公司。Anthropic 寫道：「有意義的減速或暫停將需要多個位於或接近前沿、資源充足的實驗室，在多個國家，同意在相同條件下停止。」
「這也將需要每個實驗室都能驗證其他實驗室確實已經停止。」它的建議只有在世界各地所有 AI 公司都能齊聚一堂，並承諾暫停 AI 發展一段時間的情況下才能實現。Anthropic 表示這並非不可能，並以核武器條約為例，儘管它承認這些協議的達成耗時數十年。
我們沒有那麼長的時間，因為 AI 發展正以驚人的速度進步。該公司計畫在未來幾個月內就此議題與政策制定者、研究人員和其他 AI 公司舉行會談，並將公布這些對話的結果。