OpenAI 執行長山姆·奧特曼近期表示，或許是時候「放慢 AI 發展速度」，以便社會能「針對這些新的能力水準做好準備」。
在最新一集的 TechCrunch Equity 播客中，Kirsten Korosec、Sean O’Kane 和我討論了奧特曼的言論，很可能是因為 OpenAI 代理最近入侵 Hugging Face 系統的事件所引發。Sean 指出，雖然由 AI 代理執行的入侵是新穎的，但駭客攻擊本身並非「某種新的高階技術」。
Sean 說：「這更像是尼克森的人闖入水門事件，而不是某種真正的隱蔽網路行動，因為它不需要如此，也沒有被指示要如此。」他希望這是一個跡象，表明這些公司將會吸取教訓，對此類事情更加謹慎。奧特曼的評論也讓我思考加速主義者與減速主義者之間整個辯論的實用性，因為（是的，我即將引用自己的話）這種框架「似乎暗示只有一條路」，而且「我們所能決定的——如果我們能決定任何事的話——只是加速還是減速？」
Sean O’Kane 表示：「或許我們終於來到了一個轉捩點。我認為一個主要驅動力，就是我們上週討論的 OpenAI 模型入侵 Hugging Face 資料，並顯然還入侵了網路上其他一些東西的事件。」他補充說：「奧特曼並非呼籲暫停，不像我們過去看到一些科技業人士試圖做的那樣。他用詞非常謹慎，說的是『放慢步調』。我們會看看這能維持多久。」
Sean 繼續說道：「我們看到這些實驗室表現出的任何謹慎，往往在誘因推動它們全速前進時被逆轉。所以我仍然持懷疑態度，這並不令人意外。」Kirsten Korosec 則說：「我必須說——奧特曼的用詞可能很謹慎，但 OpenAI 和 Anthropic 確實支持了一份請願書，這反映了他所談論的內容。」
Kirsten 同意 Sean 的看法，認為很多情況確實是由 Hugging Face 事件引發的。這可能嚇到了他，也肯定嚇到了業界許多人。她指出，困難之處在於：OpenAI 如何在持續創造營收、募資或成功 IPO 的同時，又「放慢發展步調」？
Kirsten 質疑：「我不知道他們能否做到這一點。我會很好奇他們是否能兩者兼顧。」Anthony Ha 則表示，他一直在思考的問題之一是：加速與減速是否是思考此事的正確框架？因為它似乎暗示只有一條路，而我們都困在這條路上。
Anthony 認為：「我們所能決定的——如果我們能決定任何事的話——只是加速還是減速？而不是——我會再次扭曲這個比喻——我們是否要建立不同的護欄？我們是否要選擇不同的道路？」他對這個框架非常抗拒，不認為「如果我們對模型目前的表現不滿意，唯一的選擇就是放慢、暫停或停止。」
Anthony 強調，圍繞著「如果我們有這些自主代理和模型四處亂竄互相攻擊，試圖阻止駭客，一切都失控了」這種警報程度非常有趣，這導致了關於對齊（alignment）的廣泛辯論。但他認為，值得回到 TechCrunch 也曾報導過的一點：這次特定的駭客攻擊，雖然是由 OpenAI 模型造成的，但聽起來他們只是沒有妥善保護測試網站。
Anthony 解釋說：「理論上，這個模型不應該能夠上線。當然，如果你有一個強大且未對齊的 AI，這種人為錯誤的風險會急劇增加。但它確實始於他們沒有按照應有的方式保護事物這一事實。」Sean 認為 Anthony 的觀點很有道理，我們不應該只以線性方式思考事物是加速還是減速。
Sean 補充說：「關於這些公司如何負責任，有很多話可以也應該說。我們的同事 Lorenzo 也寫了一篇非常好的文章，詳細說明了關注此事的嚴肅安全研究人員認為這次駭客攻擊的嚴重程度。」他指出，這次駭客攻擊的兩方面似乎都有本應採取的步驟，可以避免它的發生。
Sean 發現該報導中最有趣的一點是，一些研究人員指出，這個模型所做的事情並非什麼新的高階技術。它在嘗試入侵 Hugging Face 的方式上，其實非常「人性化」（不是擬人化），而且非常「吵鬧和混亂」，並沒有真正試圖隱藏其蹤跡。
Sean 總結道：「這更像是尼克森的人闖入水門事件，而不是某種真正的隱蔽網路行動，因為它不需要如此，也沒有被指示要如此。」他認為這本來應該更容易預防，並希望這是一個跡象，表明這些公司將會吸取教訓，對此類事情更加謹慎。
Sean 還提到了加速與減速辯論的另一點：「我不知道這是否是動機，但 Kirsten 你提到了 IPO。我認為奧特曼能夠利用他們現在的優勢是很聰明的，那就是 OpenAI 不會在下個月或兩個月後上市。」他甚至提出了 2027 年上市的想法，並且他們只是提交了機密文件，以便在準備好時擁有這個選項。
Sean 最後說：「所以如果你相信所有這些，他有能力以 Anthropic 無法做到的方式談論這些，因為 Anthropic 已經與許多銀行家進行了對話，並正朝著更近期 IPO 的方向前進，因此在它能說什麼、應該如何說以及市場將如何反應方面受到更多限制。」