過去十年，我們專注於提升單一 AI 模型的能力、實用性與安全性。如今，Google DeepMind 攜手 Schmidt Sciences、Cooperative AI Foundation、Advanced Research and Invention Agency (ARIA)，並在 Google.org 的支持下，宣布向全球研究人員發出新的技術研究資助徵集，總金額高達 1000 萬美元。

隨著 AI 技術規模不斷擴大，我們正邁入一個新時代。很快地，數百萬個由不同組織建構的 AI 代理將在數位環境中相互交流、協商和交易。當這些系統互動時，它們必須以安全且可預測的方式運作。

這種轉變創造了一個重要的機會：我們可以從一開始就強化整個 AI 生態系統的安全性和穩定性。本次資助徵集重點在於研究大規模多代理 AI 系統的群體行為，以及如何提供框架來理解並減輕潛在風險。透過賦予全球研究人員能力，我們的目標是解決當獨立系統在不同網路中互動時所產生的「隱形」安全風險。

當大量 AI 代理互動時，新的集體行為和能力可能會突然出現。目前，我們缺乏預測、測量和監控這些轉變的工具。大多數安全評估都分析單一模型。然而，正如我們和其他人先前所主張的，相互作用的自主代理可能會產生複雜且難以預料的「湧現」行為。

由於這是一個新的研究領域，了解這些轉變如何發生至關重要。例如，它們是否會導致不可預測的經濟活動激增，或引發新的安全挑戰？了解如何管理這些系統級行為是我們的核心目標。

儘管多代理安全的基本框架已經存在，但這些系統的快速演進需要立即大規模擴展研究。我們 2025 年的研究建立了理解這些互動的框架，而我們最近關於 AI Agent Traps 的工作則探討了代理在對抗環境中面臨的漏洞。現在，我們必須加快腳步。我們正處於一個關鍵時刻，多代理互動的複雜性正超越現有的安全模型。

本次資助徵集旨在透過支持全球獨立研究人員網路來加速進展。多元化的社群對於確保每個人都能擁有透明且穩健的安全標準至關重要。這項努力也推進了 Schmidt Sciences 的「可信賴 AI 科學」和「AI 代理」計畫的使命，這些計畫支持理解和減輕前沿 AI 系統風險的基礎工作，以及 ARIA 的「擴展信任」計畫，該計畫旨在解鎖新型態的網路實體多代理協調。

沒有任何單一實驗室能夠獨自解決多代理安全問題。我們邀請學術界和獨立研究人員在四個優先領域提交提案：

**沙盒與測試平台**：建立真實、可重現的環境，以評估、比較並加速多代理安全所有領域的進展。這包括虛擬市場、模擬生態系統和多組織工作流程。

**代理網路科學**：理解互動代理群體的安全相關特性，包括調查集體能力如何湧現和擴展、網路如何失效或變得不穩定，以及如何偵測危險、意料之外的群體層級特性。

**強化代理基礎設施**：對用於安全跨平台代理互動的身分、聲譽和承諾協議進行壓力測試。

**監督與控制**：開發方法來監控已部署的代理群體，並大規模減輕集體危害。

我們邀請研究人員查閱我們的提案徵集，並與我們一同為多代理的未來建立安全的基礎。申請截止日期為 2026 年 8 月 8 日，預計於 2026 年秋季公布獲獎者。有關技術要求和申請流程的更多詳細資訊，請造訪我們的申請入口網站。