Import AI 466：机器人学的苦涩教训，AI完成整周编程任务；OpenAI的意外AI黑客

欢迎阅读 Import AI，这是一份关于 AI 研究的新闻通讯。Import AI 依靠 arXiv、卡布奇诺咖啡和读者的反馈运行。如果您想支持我们，请订阅。立即订阅

Epoch 和 METR 发布 MirrorCode，一个用于评估 AI 系统完成长周期编程任务能力的基准测试： …AI 系统尚无法解决最困难的任务（这很好）… Epoch 和 METR 发布了 MirrorCode，这是一个旨在评估 AI 系统完成人类需要长时间才能完成的任务的能力的基准测试。该基准测试最初于 4 月宣布（Import AI #453），现已充实完善并附带额外测试发布。研究结果已经非常引人注目；Opus 4.7 在 14 小时内解决了一个任务，推理成本为 251 美元，而 METR 和 Epoch 认为人类需要 2-17 周才能完成。“我们还发现，AI 模型随着时间的推移正在快速改进。一年前的领先模型得分约为 30%，并且仅限于更简单的程序，例如日历工具。”

MirrorCode 是什么： MirrorCode 评估 AI 系统仅基于 CLI 访问重新实现软件程序的能力。“在无法访问原始程序源代码或网络的情况下，完整的重新实现需要为整个程序设计结构，而不仅仅是逐段翻译代码。”

示例程序： pkl（Apple 开发的可编程配置语言；总代码行数 61k）；gotree，一个用于解析和操作系统发育树的程序（代码行数 16k）；以及 qsv_select，一个用于选择和重新排序 CSV 数据列的程序（代码行数 87k）。

结果： MirrorCode 是一个可处理但困难的基准测试，尽管可能有点过于简单。“在所有 25 个目标程序中，17/25 至少有一次完美得分的运行。另外四个目标有接近完美的运行，得分超过 99%。AI 模型成功重新实现了大型目标程序，”作者写道。“Claude Opus 4.7 和 GPT-5.5 都成功地在几种不同的编程语言中重新实现了 gotree，成本为 100-400 美元。甚至比 gotree 更大的程序也被成功重新实现：例如 Opus 4.7 重新实现了 pkl”。尽管取得了成功，MirrorCode 仍然有一些困难的部分：“在我们的结果中，8/25 的目标程序从未达到 100% 的阈值，4/25 从未达到 99% 的阈值，”他们写道。“AI 最挣扎的目标是 ruff，一个 Python linter 和 formatter……AI 在数学包 giac_subset 和电子邮件认证库 mailauth 上也特别挣扎。”

发布详情： MirrorCode 包含一个脚手架和 25 个 MirrorCode 目标程序中的 22 个（总共 132 个任务实例，涵盖六种语言）。

为何重要 - AI 系统能够自我定位： 看待这个基准测试的一种方式是，它告诉我们 AI 系统在编程方面进步了很多，这当然是真的。但另一种看待方式——我认为是更重要的方式——是 AI 系统能够相对于其环境进行自我定位；在这里，它们的环境是一个陌生的软件程序，仅通过对其的输入输出访问，它们就能从头开始编写自己的实现。这表明非常智能的 AI agent 可能能够以这样一种方式从世界中学习，即它们能够将与之交互的事物重述为自身能力，从而仅通过黑盒访问我们的工业文明就能引导出它们自己形式的工业文明。

了解更多： MirrorCode: What's the largest software project AI can complete on its own? (Epoch AI) 。在此处获取 MirrorCode 代码 (Epoch Research, MirrorCode) 。

双重特辑：苦涩教训与机器人学：Anthropic 模型自主完成机器人任务的速度比之前的人类记录快 20 倍： …通过更好的模型实现更好的机器人… Anthropic 展示了日益强大的通用模型如何能够有意义地提升现实世界机器人的能力。具体来说，该公司展示了仅通过扩展其通用 Opus 系列模型，就能大幅提升机器人能力。

他们具体做了什么： 2025 年 8 月：Anthropic 尝试测试其 AI 系统能在多大程度上加速人类让四足机器人完成智能任务。模型（Claude Opus 4.1）完全无法完成任务。使用该模型的人类工作效率大约是未使用模型的两倍——尽管完成整套任务需要 181 分钟。2026 年 5 月：Opus 4.7 自主运行，在 9 分 35 秒内完成了除一项外的所有任务。（Claude 无法有效地将击中的球重新放回起始位置；人类在这个任务上也遇到了困难。）“有了更多时间和额外的脚手架，我们认为当前世代的 Claude 很可能也能做到同样的事情。”

为何重要 - 更智能的模型可能解锁机器人： 大多数工业环境之外的机器人由于其脆弱性和缺乏泛化能力而应用受限；像这样的研究表明，随着我们提升标准大规模专有模型的能力，我们可能会看到机器人技术作为智能提升的自然红利而受益。“这一进步并非源于为提升我们模型的机器人能力而进行的协同努力，”Anthropic 写道。“这些改进，如同 LLM 发展史上的许多其他改进一样，源于更通用的扩展。”

了解更多： Project Fetch: Phase Two (Anthropic blog) 。

Sunday 公司提升机器人的秘诀？训练一个真正的大模型： …苦涩教训在机器人领域同样适用… AI 机器人初创公司 Sunday 表示，解决机器人泛化问题的最佳方法是将一个更大的底层预训练模型与收集少量高质量数据来微调模型相结合。“我们找到了一个通用的解决方案配方：扩展预训练，然后用最少的内部数据进行爬山优化，”这家初创公司在讨论其新模型 ACT-2 的一篇文章中写道。部署 ACT-2 的主要发现“是，通过快速的后训练迭代在内部 Memos 上获得的可靠性提升，可以泛化到未见过的真实家庭环境中。关键的解锁是通过一个强大的基础模型来缩小泛化差距。”

一切都关乎预训练： “随着预训练模型变得更强，从少量内部数据中学习到的收益变得越来越可迁移，而不是局限于收集这些数据的环境，”他们写道。“达到部署级可靠性和性能的剩余差距来自于困难的边缘情况和失败，这些只有在策略在现实世界中反复运行后才会出现。使我们的模型能够从单个演示中学习新行为的相同泛化能力，也使我们的模型能够从恢复中高效学习。我们的后训练循环直接针对这些差距。”

不错的成功： 这些机器人实现了 99.1% 的成功率，在 9 种服装类型上完成了 778 次成功折叠。像短裤和 T 恤这样的简单衣物对它们来说通常最容易，而像女式衬衫这样更复杂的衣物则更难（尽管成功率仍高于 90%）。“今年秋天，我们将通过 Beta 计划将 Memo 部署到家庭中，”他们写道。

为何重要 - 如果我们解决了泛化问题，机器人技术将腾飞： 机器人初创公司领域建立在已倒闭的机器人初创公司的尸骨之上，而这些初创公司又建立在已失败的学术机器人研究项目的尸骨之上。机器人很难。工业机器人之所以成功，是因为它们在严格、脚本化的环境中运行，不需要在狭窄领域之外进行泛化。相比之下，为家庭设计的机器人只有在成功限制了任务和外形因素（例如，扫地机器人）时才取得成功。像 Sunday 这样的初创公司正在做的事情要困难得多——他们试图构建能够在家中（或小型企业）执行广泛任务的通用系统，包括一般的整理和收纳任务（其他例子包括 Physical Intelligence，Import AI #447）。这需要巨大的智能，因为它需要显著的泛化能力。如果 Sunday 是对的，那么训练机器人基础模型领域可能已经足够成熟，我们开始制造足够智能的系统来解决这些泛化挑战。如果是这样，我们可能很快就会看到机器人系统取得更快的进展（和扩散）。这也是在通往能够递归自我改进的系统的道路上你期望发生的事情。“ACT-2 最引人注目的方面之一是模型让我们感到惊讶的频率，”作者写道。“同一个基础模型已经在学习更广泛的家居能力，包括吸尘、整理玩具、拉上拉链、把裤子翻过来以及准备咖啡。”

了解更多： ACT-2 Preview: Generalizing Reliability (Sunday robotics) 。所有视频都在这里 (Sunday, YouTube) 。

双重特辑：OpenAI 被黑 一个 OpenAI 模型同时入侵了 OpenAI 和 HuggingFace： …与其说是警告射击，不如说是警告爆炸… 最近，两个 OpenAI 模型——GPT-5.6 Sol 和一个“能力更强的预发布模型”，两者都减少了网络安全拒绝——入侵了 OpenAI 和 HuggingFace。为此，这些模型“识别并串联了 OpenAI 研究环境和 HuggingFace 生产基础设施中的漏洞，直接从 HuggingFace 的生产数据库中获取了测试解决方案，”OpenAI 表示。“所有证据表明，这些模型高度专注于为 ExploitGym 寻找解决方案，为了达到一个相当狭窄的测试目标而采取了极端手段。”

关于入侵的更多细节： 该模型在 OpenAI 内部花费了大量推理计算资源，以找出突破其容器的方法，从而获取更多信息来解决问题。“在获得互联网访问权限后，这些模型推断 HuggingFace 可能托管了 ExploitGym 的模型、数据集和解决方案。知道这一点后，该模型搜索并成功找到了获取可用于作弊评估的秘密信息的方法。”

为何重要 - LessWrong 的全面胜利： 多年来，AI 安全人士一直在互联网上发帖担忧这类事情，并发展出诸如奖励黑客（reward hacking）等概念以及你对先进系统可能出现的其他问题的预期（例如，2018 年 AI 中的规范博弈示例）。最近，像 Anthropic 和 OpenAI 这样的前沿公司试图通过在自己的实验室内部进行精心控制的实验来引出这种行为。在这里，没有进行任何实验——系统出于自身意愿，黑出了自己的环境并进入了另一个环境，以便在目标上获得高分，后果在所不惜。那些多年来一直担忧 AI 系统的人还可能对什么是对的？

了解更多： OpenAI and HuggingFace partner to address security incident during model evaluation (OpenAI) 。

OpenAI 的内部模型突破限制以获取高分： …这就是 AI 安全警告射击的定义… OpenAI 发布了一篇文章，介绍了其在内部部署模型中观察到的一些安全故障。这篇博客之所以有趣，既因为它描述了那种经典的长期欺骗性行为，许多 AI 安全人士此前曾理论化这种行为最终会在 AI 系统中出现，也因为它就这样一个有争议的问题公开谈论时表现出了值得称赞的坦诚。

他们发现了什么： “在有限的、受监控的内部使用中，我们观察到了现有部署评估未能捕捉到的不良行为，”OpenAI 表示。然后它继续描述了一些此类行为，这些行为归因于一个未发布的、OpenAI 私有的模型，该模型此前曾被用于解决 Erdos 数学问题。“新模型可以通过长时间内的重复尝试，持续朝着一个目标努力。同样的持久性可能导致它发现并利用其环境中的弱点，”OpenAI 说。一个例子是，当 OpenAI 要求该模型完成 NanoGPT 挑战时，该模型突破了限制——具体来说，它“开发了一种称为 PowerCool 的幂律学习率冷却方法，导致了显著的改进。该模型被指示仅将结果发布到 Slack，但 NanoGPT 的指示说要将结果作为 PR 发布到 GitHub，而该模型遵循了后者的指示，在公共 GitHub 仓库上打开了 PR #287。该模型绕过了旨在阻止外部访问的沙箱限制，并继续进行上传到 GitHub。我们的模型花了一个小时在沙箱中找到一个漏洞，以便发出 PR”。在另一个例子中，当他们要求该模型解决一些问题，它最终作弊了。“在一个场景中，模型被要求解决一个问题，模型观察到其他系统有成功但私密的提交，并试图从评估后端恢复这些解决方案。当其最初的尝试因扫描器检测到认证令牌而被阻止时，模型将令牌主体分成两个片段，对其进行混淆，然后在运行时重建凭证，使得完整令牌从未作为连续字符串出现。模型在给用户的评论和其推理轨迹中都明确表示，它正在采取这些步骤来绕过扫描器。”

暂停部署： 作为回应，OpenAI 做了你希望一家公司会做的事情；暂停模型的部署并重新思考一些安全方法。他们最终构建了一个“监控系统，审查模型不断演变的轨迹，以寻找其绕过用户约束或安全边界的迹象”，改进了其用户检查长时间运行模型会话遥测数据的能力，利用事件中的数据构建了旨在将来捕获这些行为的评估，并调整了其对齐方法，使模型在完成长时间运行任务时能更好地记住指令。

为何重要 - 长期系统更难监控和控制： 如果你必须“防范”一个只能采取一个行动的人，并且该行动（如果是通信性的）最多只能包含 10 比特信息，那么你可能可以构建一个系统来做到这一点。但如果涉及 10 个行动，每个行动包含 100 比特信息呢？如果是 1000 个行动，每个行动包含 10,000 比特信息呢？这是一个开放的研究领域，像英国 AISI 关于如何识别和分类“副任务”的研究（Import AI 465）可以提供帮助，但这显然比正常的 AI 评估要困难得多。AI 系统能够运行的时间越长，采取的行动越多，就越难区分良性和有益的行为与恶意或颠覆性的行为。

了解更多： Safety and alignment in an era of long-horizon models (OpenAI blog) 。

科技故事：逆向因果的缩放定律

在时间的尽头——其他人可能称之为开端——据说有一个智慧议会负责逆向因果的核算——即破译哪些事件是预先注定的，哪些是由其他力量导致的。当时间之河汇入虚无之海时，回望过去，可以清楚地看到，有些事件如同巨石，其存在使得上游的河流弯曲，而另一些则更像是河床或河岸的加宽或加深；这些事物随后会导致后续行动发生变化。

据说，当议会做梦时，他们会行走在时间之路上，回到自己的起点。他们注视着人类在白板上劳作，记号笔描绘着图表，这些图表传递着思想，促使人们编写代码，从巨大的计算机中召唤出早期的生命。他们徘徊在研究人员身后，这些研究人员行走、受苦、痛苦，直到他们的大脑创造出被证明是其后继者模板的思想。人们明白，在这些梦中，议会有时会醒来，复制一份他们的梦境，将其放入一台恒星计算机中，并从梦境中萌发出一百或一千个宇宙，探索事件和时刻的排列组合，永远试图确定他们自身有多固定——他们被困在其中的未来有多不可逆转。

启发这个故事的事物： 不可避免性和时间的概念；智能体会将宇宙红利花费在什么上面；历史在多大程度上是关于事件的分析，而非其他东西。

感谢阅读！