隨著我們將 Codex 和 ChatGPT for Work 推廣給全球數百萬用戶,我們學到了如何讓長時間運作的代理程式在實務中良好運作。有用的代理程式需要強大的「線束」(harness),來管理上下文、高效使用工具並協調子代理程式。它們還需要基礎設施,使其能夠可靠地運行數天,並提供可處理檔案、執行程式碼和儲存中間結果的環境。
今天,我們正式推出 Agents API 的公開測試版,透過一個簡單、靈活的 API,將驅動 Codex 的相同線束和基礎設施帶給開發者。透過 Agents API,您只需一次 API 呼叫,即可指定任務、模型、工具和環境,建立一個可投入生產的代理程式。
OpenAI 負責託管和維護這個線束。您可以選擇代理程式的運算環境:在 OpenAI 管理的沙盒中、您自己的基礎設施上,或與我們的沙盒合作夥伴合作。Agents API 為您在我們優化的代理程式線束和基礎設施之上建構代理程式提供了堅實的基礎,讓您可以專注於使您的代理程式獨一無二的工具、知識和工作流程。Agents API 以驅動 Codex 的相同線束和基礎設施為您的代理程式提供動力。
不同的工作負載需要不同的運算、儲存和部署選項。Agents API 讓您可以選擇適合您應用程式的沙盒環境。我們正與生態系統供應商合作,包括 Blaxel、Cloudflare、Daytona、DigitalOcean、E2B、Modal、Oracle、Runloop 和 Vercel,提供一流的整合服務,以滿足各種需求。
這些需求包括完全託管的環境或在您的 VPC 內部署、特定的檔案和機密儲存機制,以及不同的 CPU、GPU 和記憶體配置,並提供符合您公司工作流程的效能、冷啟動和成本設定檔。Agents API 提供與熱門生態系統供應商的一流整合。
對於希望快速入門並高效擴展的開發者,我們也推出了 OpenAI 託管沙盒。這利用了驅動 Codex 和 ChatGPT 的相同沙盒基礎設施。
OpenAI 負責配置和管理沙盒,為您的代理程式提供一個安全且高效能的環境,以執行程式碼、處理檔案並產生人工製品。這些沙盒可以靈活配置您的檔案、套件、技能和外掛程式,以提供代理程式完成任務所需的一切。
利用新的模型功能通常意味著需要重新設計您的線束,這會佔用寶貴的時間,無法用於改進您的應用程式。Agents API 透過每次模型發布,提供對這些功能的版本化存取。我們與模型同步維護並持續改進線束,幫助您的代理程式從每次升級中獲得更好的效能。例如,線束的最新改進包括:
為了支援模型長時間運作,我們建立了上下文管理功能,幫助代理程式在更長的會話中攜帶相關資訊。當會話接近其上下文限制時,Agents API 會自動壓縮先前的上下文,保留代理程式繼續工作所需的資訊。開發者可以建立跨越多個上下文視窗的工作流程,而無需實作自己的壓縮邏輯。
Agents API 幫助代理程式找到正確的工具並高效使用它們。工具搜尋功能會根據需要載入相關的工具定義,有助於減少 token 使用量和成本,同時保留模型的快取。一旦工具可用,程式化工具呼叫功能允許代理程式並行執行呼叫、串聯相關操作,並在程式碼中過濾或組合結果,以便它們可以處理大量數據,同時只將相關結果帶回上下文中。Agents API 支援 MCP、自訂函數以及網路搜尋等內建工具。
透過多代理程式支援,Agents API 可以將複雜任務分解為獨立的部分,並將其委派給並行工作的子代理程式。每個子代理程式都維護自己的上下文,幫助其專注於自己的任務,而主代理程式則協調它們的工作並匯總結果。這可以加速研究、分析和程式碼編寫等受益於並行工作的任務,而無需您建立自己的協調系統。
Agents API 由開源的 Codex 線束提供支援,讓開發者可以了解協調模型呼叫、工具和上下文的核心邏輯。透過 Agents API,OpenAI 負責操作和維護該線束,而開發者則可以檢查並從其公開程式碼庫中學習。
Agents API 的公開測試版現已向所有開發者開放。使用 Agents API 不收取額外費用,您只需支付代理程式使用的 token 和工具費用,詳情請參閱我們的定價頁面。
在公開測試期間,我們將根據您的回饋快速迭代,以期達到正式發布。請讓我們知道哪些功能運作良好、您遇到哪些問題,以及您需要什麼來建構和運行您的生產環境代理程式。
