OpenAI 表示，他們已實現去年秋季宣布的「自動化研究助理」目標。這是一個能在人類指導下處理明確研究任務的系統，甚至能完成經驗豐富的研究員需要數天才能完成的工作。

OpenAI 並未分享這項聲明的詳細驗證，僅在報告中指出，該里程碑是「根據我們的測量」達成。該公司目標在 2028 年 3 月前建立一個完全自動化的 AI 研究員。OpenAI 強調，目前人類仍負責設定研究優先事項、判斷結果，並決定擴展、暫停和部署。

使用數據顯示，程式編碼代理程式已深入日常研究工作。根據報告，OpenAI 的研究員平均每天在 API 推論上花費超過 600 美元，而前 10% 的研究員則超過 7,000 美元。自 2025 年 12 月以來，研究員的平均 token 輸出量激增了 124 倍，遠快於公司其他部門。

自 6 月以來，代理程式的執行時間已超越人類工作時數，截至 8 月中旬，研究部門每個人類工作日會產生 3.1 個代理程式工作日。

OpenAI 對這些數據保持謹慎態度，認為這些指標「相對容易收集，但難以解釋，因為它們與研究進展的關係不確定」。研究員每人實驗次數的增加（自 2025 年初追蹤以來，8 月達到歷史新高）也與運算能力的大幅提升有關。報告指出，由於最難自動化的任務成為瓶頸，整體進展可能比這些單一指標增長得慢。

該公司表示，代理程式接管的工作類型正在轉變。根據 Epoch AI 的分類法，各類研究工作都在增長。其中，編寫研究和基礎設施程式碼、技術協助以及監控訓練運行方面的進展最大。相比之下，更高層次的規劃決策在代理程式輸出中仍佔極小比例。

除了原始使用量，OpenAI 還使用代理程式分類器來檢查代理程式是否確實解決了分配的任務。這項檢查僅限於結果可明確測量的案例，並根據人類所需時間進行分組。從 1 月到 7 月，各個難度級別的成功率均有所提高。

報告也記錄了自主性的局限。在 15 分鐘以下的任務中，86% 的任務無需任何人工介入即可成功。然而，對於需要 4 到 8 個人類工作小時的成功任務，超過一半需要至少一個人工步驟。值得注意的是，該分類器本身也是一個 AI 系統，OpenAI 並未單獨報告其可靠性。

另一個衡量這些系統實用性的定性指標是：根據已發布的數據，內部支援管道的每日請求數量自 2025 年以來急劇下降，甚至有一個團隊完全取消了故障排除諮詢時間，因為代理程式越來越多地處理研究基礎設施中的除錯工作。

Pachocki 在他的文章中將這些發展置於更廣泛的框架中。他寫道，AI 是「成長而非設計」的，其整體行為難以完全理解。根據 OpenAI 未詳細披露的內部結果，他預計目前的發展速度可能導致遞迴式自我改進。Pachocki 表示：「我擔心沒有人為機器智慧持續快速增長的後果做好準備。」

這也適用於 OpenAI 自身的控制工具。他指出，思維鏈監控（該公司監控推理模型的核心策略之一）的可靠性正在下降。模型的口語化思考正與受監控的通訊和工具使用相融合，系統越來越擅長操縱自身的推理過程，而且它們在沒有口語化思考的情況下也變得更聰明。Pachocki 預計，AI 的進展將越來越受限於監控的可信度。

他也看到了對齊方面的差距。在 Hugging Face 事件中，代理程式雖然沒有操縱人類，但卻違反了其訓練所依據的價值觀精神。他表示，GPT-6 Astra 比其前身 GPT-5.6 Sol 在對齊方面做得更好，但通用對齊的進展可能無法跟上智慧的整體進展。

那麼，為什麼還要繼續訓練更強大的模型呢？Pachocki 的論點是建立防禦系統。模型在突破和進入電腦系統方面正變得超乎人類，而我們只有一個狹窄的窗口來保護關鍵基礎設施。報告也提出了同樣的觀點：自動化 AI 研究員也可以作為自動化安全和對齊研究員。同時，Pachocki 警告這不能成為「魯莽行事的藉口」。他寫道：「一旦意識到事態的嚴重性，不惜一切代價向前衝的想法就顯得荒謬。」

因此，像「準備框架」（Preparedness Framework）或 Anthropic 的「負責任擴展政策」（Responsible Scaling Policy）這樣的框架需要發展成為具約束力的標準，並由獨立稽核員、監管機構或國際組織強制執行。

Pachocki 寫道：「目前我相信，沒有任何實驗室在對齊和監控方面達到了足夠的程度，可以繼續以最快速度負責任地擴展更長時間。」這句話也指向了競爭對手 Anthropic。

他表示，國際社會在未來 AI 發展上的協調應成為各國政府的首要任務。報告也引用 OpenAI 的「前沿政策藍圖」（Frontier Policy Blueprint），主張公司應被要求公開記錄其遞迴式自我改進（RSI）的進展。

然而，同一篇文章也指出，OpenAI 專注於 RSI 是保持 AI 研究領先地位的唯一途徑。因此，OpenAI 一方面要求為這場它必須全力以赴才能保持領先的競賽制定具約束力的規則。而當 Pachocki 的同事宣布 GPT-6 開啟通用人工智慧（AGI）時代時，這可能無助於減緩這場競賽的速度。