投资多智能体AI安全研究
Investing in multi-agent AI safety research
2026年6月11日，Google DeepMind联合Schmidt Sciences、Cooperative AI Foundation、ARIA与Google.org发起一项总额最高1000万美元的技术研究资助计划，面向全球研究人员，聚焦大规模多agent（智能体）AI系统的群体行为与安全风险。该计划旨在应对多个独立agent交互时可能涌现的不可预测行为与“隐形”安全挑战，优先支持沙箱和测试平台、agent网络科学、强化agent基础设施、监督与控制四个领域。申请截止日期为2026年8月8日。
2026年6月11日 责任与安全
Google DeepMind、Schmidt Sciences、Cooperative AI Foundation、ARIA 与 Google.org
为多智能体世界扩展 AI 安全研究
过去十年，我们一直专注于让单个 AI 模型更强大、更有用、更安全。今天，Google DeepMind 联合 Schmidt Sciences、Cooperative AI Foundation、Advanced Research and Invention Agency，并在 Google.org 的支持下，宣布面向全球研究人员发起一项新的技术研究资助计划，总额最高达 1000 万美元。
随着 AI 技术的规模化，我们正在进入一个新时代。很快，由不同组织构建的数百万个 AI agent（智能体）将在数字环境中相互交互，彼此通信、协商和交易。
当这些系统交互时，它们必须以安全且可预测的方式进行。这一转变创造了一个重要机遇：我们可以从一开始就加强整个 AI 生态系统的安全性和稳定性。
本次资助计划聚焦于研究大规模多 agent AI 系统作为一个群体如何行为，以及我们如何提供框架来理解和缓解潜在风险。通过赋能全球研究人员，我们旨在解决当独立系统跨不同网络交互时出现的“隐形”安全风险。
为什么 agent 生态系统至关重要
当大量 AI agent 交互时，新的集体行为和能力可能突然涌现。目前，我们缺乏预测、衡量和监控这些转变的工具。大多数安全评估都是孤立地分析模型。然而，正如我们和其他人之前所论证的，交互的自主 agent 可能产生复杂且难以预料的“涌现”行为。
由于这是一个新的研究领域，理解这些转变如何发生至关重要。例如，它们是否会导致不可预测的经济活动激增，或引发新的安全挑战？理解如何管理这些系统级行为是我们的核心目标。
拓展多 agent 安全研究的前沿
尽管多 agent 安全的基础框架已经存在，但这些系统的快速演进要求立即进行大规模的研究扩展。
我们 2025 年的研究建立了一个理解这些交互的框架，而我们最近关于 AI Agent Traps 的工作则探讨了 agent 在对抗性环境中面临的脆弱性。现在，我们必须加快步伐。我们正处于一个关键节点，多 agent 交互的复杂性正在超越现有的安全模型。
本次资助计划旨在通过支持一个全球性的独立研究人员网络来加速进展。一个多元化的社区对于确保安全标准对所有人透明且稳健至关重要。
这项工作也推进了 Schmidt Sciences 的 Science of Trustworthy AI 和 AI Agents 项目的使命，这些项目支持理解和缓解前沿 AI 系统风险的基础工作，同时也推进了 ARIA 的 Scaling Trust 项目，该项目旨在解锁新的网络-物理多 agent 协调形式。
协作行动号召
没有哪个实验室能独自解决多 agent 安全问题。我们邀请学术和独立研究人员在四个优先领域提交提案：
- 沙箱和测试平台： 构建逼真、可复现的环境，以评估、比较和加速多 agent 安全所有领域的进展。这包括虚拟市场、模拟生态系统和多组织工作流。
- agent 网络科学： 理解交互 agent 群体的安全相关属性，包括研究集体能力如何涌现和扩展、网络如何失效或变得不稳定，以及如何检测危险、意外的群体级属性。
- 强化 agent 基础设施： 对身份、声誉和承诺等协议进行压力测试，这些协议是安全跨平台 agent 交互的基础。
- 监督与控制： 开发监控已部署 agent 群体并在大规模上缓解集体危害的方法。
如何参与
我们邀请研究人员审阅我们的提案征集，并加入我们，为多 agent 的未来奠定安全基础。
申请截止日期为 2026 年 8 月 8 日，获奖者预计将于 2026 年秋季公布。
有关技术要求及申请流程的更多详情，请访问我们的申请门户。