OpenAI 執行長 Sam Altman 近日表示，由於對 AI 安全性的擔憂日益加劇，公司今年不會公開上市。他在週六發布的《財富》雜誌採訪中指出，目前進行 IPO 將是「不明智的」。
這項決定將史上最受期待的 IPO 之一推遲至至少 2027 年，並明確顯示出，對日益強大 AI 的擔憂正開始重塑業界的商業計畫。OpenAI 財務長 Sarah Friar 上個月才向員工表示，如果公司業務持續成長，可能會在 2027 年或更早上市。
Altman 發表此番言論的同一天，Anthropic 執行長 Dario Amodei 也發表了一篇文章，呼籲 AI 公司放慢其最先進模型改進的速度。Altman 和 Elon Musk 隨即在社群媒體上發文支持這項提議，這是三位激烈競爭對手之間罕見的一致立場。
Amodei 在文章中提出了一項三步驟計畫，旨在減緩開發速度，同時不「犧牲商業優勢或美國在 AI 領域的領先地位」。儘管 Anthropic 尚未正式公布上市時間，但公司正積極為一場預期中的歷史性 IPO 做準備。
Altman、Amodei 和 Musk 之間突然達成共識，顯示出對 AI 的擔憂已迅速從產業邊緣議題轉移到核心。這項擔憂現在正開始與 AI 產業龐大的商業野心產生衝突。Amodei 的文章敦促 AI 公司應控制模型能力的改進速度，此舉也呼應了越來越多研究人員要求協調減速的呼聲。
Amodei 提出的三步驟計畫旨在減緩開發速度，同時不「犧牲商業優勢或美國在 AI 領域的領先地位」，儘管他承認有些步驟可能比其他更容易實現。華府的壓力也日益增加。
兩黨議員都呼籲制定新的 AI 安全措施，並要求科技領袖在多起無人直接控制的網路攻擊發生後出面作證。除了首都，州和地方官員也面臨著對 AI 資料中心日益增長的憤怒，這些資料中心對電力、水資源和社區造成了巨大需求。隨著期中選舉臨近，AI 正成為兩黨的關鍵議題。
Amodei 表示，Anthropic 已「單方面」承諾執行該計畫的第一步，即給予第三方評估人員員工級別的權限，以驗證公司安全實踐並報告事件。第二步鼓勵民主國家的主要 AI 公司協調並建立共同的安全標準。
第三步則呼籲民主政府與威權政府之間進行協調。Amodei 寫道：「明確來說，減速並非停止模型訓練或技術進步，而是確保公司有足夠時間來校準和保護其模型，並讓第三方評估人員確認這一點。」
這篇文章發表前，Anthropic 的一位研究員本週在社群媒體上宣布辭職，引發軒然大波。Jacob Coxon 曾在 Anthropic 的主要競爭對手 OpenAI 擔任研究員，他表示辭職是因為擔心 Anthropic 和 OpenAI 正在「拿我們的生命冒險」。他說，開發 AI 的人們「真誠地相信它可能在十年內殺死我們所有人」。
儘管這些擔憂聽起來極端，但 AI 可能導致人類滅絕或其他災難性事件的潛在風險，在 AI 研究圈中並非新鮮事。例如，2023 年，包括 Amodei 和 OpenAI 的 Altman 在內的知名 AI 研究人員和高管，曾簽署一份聲明。
該聲明指出：「將 AI 滅絕風險的緩解視為全球優先事項，應與流行病和核戰等其他社會規模風險並列。」Amodei 週六表示，儘管自 2023 年以來就有人提出暫停或減緩 AI 發展，但在當時這麼做「意義不大」。
他指出，那時的模型還不夠強大，無法在現實世界中採取行動，也尚未具備「顯著的欺騙、操縱、作弊或網路攻擊」能力。Amodei 寫道：「我仍然相信 AI 可以極大地改善人類生活品質。我實現這些益處的願望絲毫未減。」
「但這些益處只有在我們以正確方式開發這項技術，並且善用我們爭取到的時間的情況下才能實現，因此值得格外謹慎地確保其正確性。」文章發表後，Amodei 強調找到合適的開發速度至關重要。
他在週六稍後播出的 CNN 採訪中表示，減速過多可能會讓專制政府佔據優勢。他說：「如果我們走得太慢，我仍然相信錯誤的人將會掌控這項技術。那樣一來，事情出錯的可能性又會變得非常高。」
Anthropic 公共政策主管 Sarah Heck 讚揚了這篇文章，並呼籲立法者在建立防護措施方面發揮作用。她在 X 貼文中表示：「政府在這裡扮演著關鍵角色，包括阻止最先進晶片出售給中國等敵對國家，頒布國家法律要求對前沿模型進行測試，並有權阻止被證明不安全的最先進模型。」
Amodei 的文章週六獲得了許多業界研究人員和高管的喝采，包括 Altman。Altman 在 X 上發文表示，他同意 Amodei 的觀點，即業界需要控制先進 AI 能力的發展速度。
Altman 說，這個話題是 OpenAI 近幾週討論的「主要議題」。「承諾讓獨立評估人員擁有員工級別的權限是個好主意，我們也會這麼做。」Altman 說：「我們很快會分享更多資訊。」
本月初，OpenAI 首席科學家 Jakub Pachocki 發表了一篇部落格文章，警告稱沒有任何 AI 公司「已充分解決校準和監控問題，足以在最大速度下繼續負責任地擴展更長時間」。在 AI 產業中，「校準」（alignment）指的是 AI 開發者為確保系統行為符合人類價值觀和意圖所做的工作。
Pachocki 表示，他預計並希望自願減速能「成為常態，直到建立共同的安全標準」。Musk 週六也表達了對減速的支持，在 X 上發文寫道：「Dario 是對的。」
Musk 旗下的競爭性 AI 新創公司 xAI 今年稍早被他的火箭公司 SpaceX 收購。他過去曾是 Anthropic 的強烈批評者，曾表示該公司「憎恨西方文明」，並「註定會變成其名稱的反義詞」，即厭世。但自從 Anthropic 在五月宣布與 SpaceX 達成一項重要的運算交易後，Musk 的態度大為轉變。
Musk 當時寫道：「我遇到的每個人都非常能幹，並且非常關心做正確的事。」「沒有人觸發我的邪惡偵測器。」Amodei 週六寫道，他相信 AI 仍然可以「顯著提升人類生活品質」，但其風險需要被認真對待。
他說：「我相信，如果減速能讓我們在模型達到關鍵能力水平之前爭取到額外一兩年時間，並且我們利用這段時間推進校準，就能大大降低嚴重出錯的風險。」