Apollo Research 将转型为公益公司

TLDR: Apollo 将从我们的财政赞助方剥离，转型为公益公司（PBC）。我们认为这是实现我们使命——降低前沿 AI 系统带来的极端风险——的最佳方式。我们将加大对研究、评估和治理的投入。我们正在组建一个独立的产品团队，以构建 AGI 安全产品，从 AI 智能体监控开始。我们引入了新的公司治理机制，以确保我们在未来长期坚守使命。

转型为 PBC 的动机

使命： 我们看到市场对我们前沿 AI 安全研究和评估工作的需求正在快速增长。我们预计，随着 AI 能力和风险的提升，这一需求将持续增长，而作为非营利组织将难以大规模满足这一需求。因此，我们认为，在 PBC 模式下，我们 理解和应对前沿 AI 系统带来的极端风险 的使命将得到更好的实现。

规模： 安全研究和工具的发展现状，与充分应对前沿 AI 系统风险所需的水准相比，存在巨大差距。我们相信，适当的应对需要显著扩大规模，而这在 PBC 模式下更容易实现。

长期愿景： AI 能力将持续快速增长，AI 系统将无处不在，彻底改变整个经济。因此，我们认为前沿 AI 安全将是一个巨大的市场。我们积极致力于构建并塑造这一市场。我们特别关注让前沿 AI 系统对开发者和用户更加安全。

新组织的细节

前沿优先策略： 我们将继续与前沿 AI 公司合作，评估他们的模型并开展联合研究合作，同时我们正在积极扩大前沿安全研究的投入。在产品方面，我们优先服务处于 AI 智能体开发或使用前沿的公司。然后，我们将为更广泛的、希望提升其前沿 AI 智能体安全性的消费者市场，构建并适配这些工具。

AGI 安全产品： 我们正在构建 AGI 安全产品，即提升前沿智能体安全性的工具。我们致力于解决那些我们预计会有效迁移到更强大、更具变革性的 AI 系统上的问题和解决方案。目前，我们专注于 AI 编程智能体的可观测性和控制。如果您有兴趣与我们合作，共同构建更好的监控器，或试用我们监控工具的早期版本，请与我们联系。我们的 CEO Marius 在此处撰写了更多关于 AGI 安全产品的文章。

研究独立性： 我们认为，最重要的 AI 安全改进需要大量额外的研究。因此，我们将继续扩大并加倍投入研究工作。与此同时，我们正在组织内部建立一个 独立的产品部门，将研究成果产品化。我们的治理以及部分研究工作将继续得到慈善事业的部分支持。

投资： 我们正在与理解并支持我们使命的投资者合作。为了构建我们的产品业务，我们已完成了一轮由 50Y 领投的种子轮融资，其他投资方包括 Juniper Ventures、Macroscopic Ventures、Common Metal、SAIF、Srikar Varadaraj、Sarah Meyohas、Ocean Investment、Progress Fund 和 Bryan Johnson。本轮融资获得了超额认购。

转型细节

使命董事会席位及其他治理机制： 我们致力于建立稳健的治理结构，以在未来长期守护我们的使命。作为这项工作的一部分，我们已将董事会中的第 3 和第 6 个席位（一旦董事会扩大到该规模；目前为 3 个席位）指定为“使命席位”。这些使命席位将由“使命董事”担任，他们独立于 Apollo Research PBC 及其资助方，并拥有特殊授权，使其能够优先考虑使命而非其他因素。我们的首位使命董事是 Daniel Kokotajlo。我们正在继续努力建立额外的公司治理机制。

外部知识产权估值与转让： 我们聘请了一家领先的外部知识产权估值公司，对我们拟转让的知识产权进行估值，随后以评估价值购买了该知识产权，并相应地对非营利实体进行了补偿。

与慈善基金会的合作： 在过去与慈善基金会的合作中，我们始终保持透明，说明未来可能会转型为 PBC 模式。自我们 2023 年的公开声明以来，我们就公开考虑过这种可能性。

非营利实体的未来： 关于非营利实体后续存续的具体细节尚未最终确定，但无论如何，目标将是按照非营利组织的使命使用剩余资金，例如，通过支持评估领域建设、策略科学以及失控治理等方面的工作。