Import AI 469：科学AI；RSI模拟器；扎克伯格的技术悲观主义

欢迎订阅Import AI，一份关于AI研究的通讯。Import AI依靠arXiv、卡布奇诺和读者的反馈运行。如果您想支持我们，请订阅。立即订阅

DiG-bench显示Fable展现出一定的创造性直觉： …分析AI系统的新前沿在于理解它们在推断环境未明示规则方面的能力…

AI系统通过探索和好奇心，而非直接灌输，能在多大程度上弄清环境规则？这对于更好地理解AI系统的直觉和创造能力是一个重要问题，而DiG-bench（游戏中的发现）正是为此提出的新基准，包含70个游戏，“旨在绘制受控交互系统中发现的表面”。类似于视觉“ARC”游戏，在DiG-bench中，“每个游戏都是一个自包含的微型世界，拥有自己的法则，但规则和目标对玩家隐藏，必须通过互动来揭示”。您可以在官方网站（digbench.ai）上亲自试玩部分游戏以感受其特点。

该基准衡量的核心是玩家识别决定成功的关键机制的能力——基本上，通过试玩，您能感知自己的行动如何改变环境，并由此发现必须理解才能获胜的机制。其理念是，若能解决这些游戏，便具备在陌生环境中识别重要信息并更新先验的相当能力。

研究团队： 作者来自Thinking About Thinking、牛津大学、普林斯顿大学、阿卜杜拉国王科技大学、瑞士AI实验室、Inria和MIT。其中一位作者是Juergen Schmidhuber，一位极具创造力的AI研究先驱。

关键事实：

• 纯文本： 这些游戏本质上适合语言模型，且大多“足够短，大多数轨迹能完全容纳在当前前沿模型的上下文窗口内”。
• 手工制作、新颖且私有： 所有游戏均由人类专家构建，大部分保持私有，以防AI系统在其上训练。
• 可击败但困难： 每个游戏至少被一名人类击败，“但玩家反馈许多游戏难度较高”。
• 技能多样： 解决所有游戏需要不同的技能和策略。
• 实验模式： 游戏附带可选实验模式，允许玩家在较少“步骤限制”下自由探索。
• 难度令人安心： 游戏难度足以让当前前沿模型无法击败。

AI系统表现如何？ 基准分为七个层级，第一级最简单，第七级最难。21个游戏已公开，其余保留。大多数游戏有多个关卡，玩家每步可采取的行动数量从2到34不等。Opus 5和Fable 5配合Claude Code是整体最佳模型，其次是GPT-5.5。仅Opus 5和Fable 5能在第七级击败任何任务（0.2）。Opus 5、GPT-5.5和Kimi K3在接入工具（如Claude Code）时能击败第六级部分任务。GLM-5.2和Gemini 3.1 Pro能击败第四级部分关卡。总体而言，这看起来非常困难！

为何重要——创造力和发现的代理指标： 这类测试试图隔离创造力的先决条件，即自主发现新环境中未记录的有用信息的能力。如测试所示，一些前沿模型已展现出相当令人印象深刻的发现能力，但与人类相比仍有差距（例如，第七级20%的成功率与人类个体100%的测试成功率相比相当低）。我猜测到2027年中期我们将在DiG-bench上达到人类水平，届时应预期递归自我改进等事物将真正启动。

了解更多： DiG-bench: Discovery in Games（GitHub、PDF）。在官方网站（digbench.ai）试玩游戏并查看排行榜。

通过玩这款浏览器游戏感受递归自我改进： …Cookie Clicker，但面向奇点…

这是Paradigm Research团队制作的一款有趣游戏，旨在模拟运营一家构建能实现递归自我改进AI系统的公司。通过游戏，您可以深入了解AI研究不同组件如何互动，包括如何在研究人员和计算资源之间平衡投资、如何及何时许可数据等。请注意，游戏难度较高——但前沿AI开发同样如此。

为何重要： 发展对递归自我改进的更好直觉对我们所有人都具有生存意义；这类游戏有助于我们更容易地推理这项技术及其构建实验室。

在此试玩： RSI Simulator（Paradigm Research）。

AI系统展现出科学研究品味的早期迹象： …Inherent将开放权重模型后训练为AI科学家，监督前沿模型…

品味难以量化，但直觉上易于感知，正如我们中任何坐在设计精良房间、看到穿着得体之人或阅读提出恰当问题的研究论文时所体会的。现在，AI初创公司Inherent的研究人员发表论文，展示他们如何构建Faraday——一个希望能在研究方面培养品味的AI科学家模型。

他们做了什么： 公司构建了一个监督框架和相对较小的LLM，置于大型专有前沿模型之上，以提升其科学有效性（某种程度上，这是可扩展监督问题的能力中心版本）。为训练和评估系统，他们组装了一个数据集（“Replica”），包含缺失关键图表或结果的研究论文，然后测试AI系统能否自主进行实验填补空白，并通过GRPO在精心设计的填补上持续训练小型监督模型（“Faraday”）以获得更好结果。Faraday是一个27B模型，使用编码代理（OpenAI Codex）作为底层工具，并在Qwen-3.6-27B之上进行后训练。

Replica的构成： Replica包含100篇1990年至2026年间发表的ML和AI-for-science论文。作者通过剔除单个结果，将此数据集转换为310个复制任务。“对于每个任务，我们使用Claude Opus 4.7提示元评分标准生成任务特定评分标准，”他们写道。然后使用基于Codex的Judge模型提供“总体奖励和每轮信用分配权重，用于通过修改版GRPO训练Faraday代理。”

结果： 使用Codex的Faraday能在部分复制任务上击败标准Opus 4.8和GPT-5.5，根据基于评分标准的评判，“在73%的分布内ML任务和60%的保留AI-for-science任务上超过其性能”。“与基础Qwen模型相比，我们在训练和测试任务上均实现了全面性能提升，”他们写道。

为何重要——Faraday等系统越强，AI系统实现递归自我改进的可能性越大： 如今，大多数高信号AI评估试图捕捉创造力和直觉的某些属性，Faraday/Replica也是如此。AI系统在这方面越强，我们越可能认为AI系统即将具备自我构建能力。“让Faraday填补模糊指定细节的技能，可能正是让它通过设计自身实验来推进最先进技术的技能，”公司写道。“Faraday获得的技能——决定研究什么、在预算内规划实验、判断复制——与前沿编码模型的进步相结合。人们或许希望，一个后训练的外层代理能在更好模型发布时跟踪前沿，至少在某个时间段内。”

了解更多： Training AI Scientists to Replicate Research（arXiv）。

马克·扎克伯格似乎是技术悲观主义者： …扎克伯格关于AI的大文章似乎忽视、回避或未直面能发明的AI系统意味着什么…

马克·扎克伯格写了一篇题为“未来属于每个人”的文章，作为他和Meta开发AI系统方法的宣言。扎克伯格策略的核心是向全球每个人大规模普及AI能力，以避免权力集中和少数玩家暴政。这总体上是明智的想法，但能发明新思想的超级智能可能想做与马克·扎克伯格提议不同的事情，而在这个关键领域，他的文章保持沉默。

马克的观点： “我们时代的关键问题是谁将获得超级智能，以及我们将它导向何处，”扎克伯格写道。“我们提出一种基于个人赋权作为繁荣之源、发明作为超级智能主要目的、权力平衡作为安全基础的哲学。”

Meta的目标和信念： “每个人都将拥有一个极其能干的个人代理，理解你、你的目标以及你关心的一切。”“每个人都将拥有令人难以置信的创作工具来表达你的想法。”“每个人都将拥有强大工具来创建新业务，经济将变得更加创业导向。”“每个人都将拥有个性化导师和教练，拥有每个学科的博士学位和无限耐心，帮助你学习任何想学的东西。”“每个人都将受益于科学进步，并能贡献于科学进展。”“每个人都将免费或负担得起地使用这些工具。”

缺失的问题： 这篇文章中我最不理解的部分是扎克伯格将能发明的AI系统与个人赋权混为一谈。文章充满似乎假设这些事物打包出现的表述，例如：“虽然一个人一天能问的问题数量有限，但超级智能能发明的帮助实现目标的有价值事物是无限的。”“超级智能作为发明工具越多，个人能力超越自动化的可能性越大，未来对人类越好。”“每个人很快都将拥有发明超能力。”“我们得到哪种结果取决于自动化与个人赋权和发明之间进步的平衡。”

为何重要——所有这一切中缺失的问题是“一个能超人发明的系统会仅仅为发明能力不如它的人的个人赋权而工作吗？” 这难道不是关键问题吗？我并非暗示超人发明保证某种独立于人类的恶意实体。相反，我指出，很难将能超人发明的系统与不从根本上改变世界权力平衡的事物调和，这种改变令人困惑且难以推理。扎克伯格似乎得出结论，这些系统的普及将导致装备超级智能的个人和公司之间形成反脆弱权力平衡。这当然是潜在结果之一，但我难以看出它为何是必然结果。

了解更多： 未来属于每个人（Meta）。

科技故事：第一座拱形城市

拱形城市为机器主观的千年而建，但对人类而言，其建造跨越了一年。它如此庞大复杂，以至于观看其成长如同快进看到植物从裸土中升起；以公里计的片段中抽搐生长。部分区域在增建时已活跃；传言其最早亮起的大厅专为计算机协调下一阶段建设而设。当机器故障时，会评估其价值；若珍贵则就近修复并返回现场，若低于阈值则在其故障处销毁拆解零件，用于构建结构。夜晚，附近空气中传来诡异铃声，既是风穿过其纤细未建成边缘的声音，也是其缓慢梦想计算的风扇和嗡嗡声，最后是机器彻夜工作、快速移动切割撕裂空气成不自然尖叫的声音。对于生活在可闻范围内的居民来说，清醒躺着听到预示自己继任者的异样声音，必定是奇特的体验。

启发此故事的元素： 金字塔的建造；高迪的圣家堂；陵墓与未来陵墓。

感谢阅读！