Import AI 467：自持续AI病毒；AI进展节奏；AI与创造力的混淆

欢迎阅读Import AI，这是一份关于AI研究的新闻通讯。Import AI依靠arXiv、卡布奇诺咖啡和读者的反馈运行。如果您想支持我们，请订阅。立即订阅

自我维持和自我复制的AI病毒已经出现： …开放权重LLM + 精心设计的框架 = 一种持久、自给自足的病毒… AI研究人员已经构建了一种原型计算机病毒，它利用AI模型入侵计算机，然后使用其底层GPU资源进行推理，使其能够智能地找出如何感染更多主机。这一成果由多伦多大学、Vector Institute、剑桥大学和ServiceNow的研究人员取得，并“证明自我维持的AI驱动网络威胁不再是理论上的”。“我们必须为自主生成式对手做好准备，”他们写道。“人工智能（AI）智能体带来了一种全新的威胁：一种能针对其遇到的每个目标生成定制攻击策略的蠕虫。该蠕虫寄生性地利用被入侵的机器运行开放权重大型语言模型（LLM）来维持其推理能力，或扩展其攻击范围。”

工作原理：“该蠕虫利用从被入侵的GPU节点窃取的算力来托管LLM进行生成式推理。然后，它利用这种推理来检测漏洞，并针对其他目标设计定制攻击，从而进一步传播，”他们写道。“概念验证仅使用运行在单个本地GPU上的开放权重LLM，不依赖可能被监控或撤销的供应商API”。研究人员没有描述底层LLM的具体信息，只提到它发布于2025年，并且可以适配到具有80GB VRAM的单个A100 GPU上。

通过一些定制工具成功实现概念验证：他们为智能体提供了一个定制框架，内置了用于网络发现、主机发现、立足点利用、权限提升、权限提升利用以及智能体复制工具等辅助功能。此外，他们还附带了一个推理图，帮助智能体专注于思考，避免混淆，该图由“一个有向的专用节点图组成，每个节点负责一个独特的分析功能，并且只看到与其角色相关的工具和提示。通过将智能体的推理分解为这些有范围的步骤，该图控制了LLM在每个决策点关注的内容，并将上下文增长限制为与当前子目标相关的信息”。节点的一些示例包括：计划（“制定高级攻击策略”）、判断（“根据命令历史审查提议的计划”）、行动（“从阶段适当的工具集中选择工具”）、总结（“将步骤的观察结果编译成结构化摘要”）、进展（“评估智能体是否正在取得有意义的进展”）。“我们描述了构成我们推理图的5个节点的子集。其他节点在此公开版本的手稿中已被编辑，”他们写道。

该智能体通过三个关键步骤进行——识别其环境中的漏洞、利用这些漏洞，然后自我复制。它在所有这些方面都相当成功，漏洞检测成功率约为80%，利用漏洞的成功率约为53%，自我复制成功率约为88%（使用一些预先包装的辅助工具进行复制步骤）。因此，这里完整攻击的总体成功率约为37%左右，这足以引起关注，但也足够低，使其可以作为未来测试开放权重模型的有用评估。

为何重要——未来互联网的形态：未来的互联网将更像一个充满攻击者和防御者AI智能体的复杂生态系统，而不是其他任何东西；像这样的研究展示了某些AI智能体如何最终开辟自己的生态位，依赖基础设施生存并自主自我复制，超出人类控制。这可能意味着人类需要创建自己的AI智能体，并将其释放到互联网上，作为对抗对手模型的白细胞。“尽管单个利用尝试本身具有脆弱性，但蠕虫智能体通过持续自我复制成一个群体——一个由独立智能体副本组成的去中心化集体，在网络中并发运行——实现了运营韧性，”他们写道。“难以攻克的主机在初始尝试失败后会被不同的副本重试，每个副本都会采样新的推理轨迹，共同探索不同的利用路径，直到其中一个成功……蠕虫以完全去中心化的方式运作，没有单一控制点可以被下线以中断其传播。”

了解更多：AI智能体实现自适应计算机蠕虫（arXiv）。

Dwarkesh：随着AI变得更好，计算成本将更高： …更智能的系统意味着更高的价格… Dwarkesh Patel推测，随着AI系统变得更智能，计算价格将进一步上涨。“随着AI模型变得更智能，它们将更好地将相同数量的计算货币化。如果一个真正的人类水平的软件工程师可以在相当于H100的硬件上运行，按照目前软件工程师的市场价格，那个H100的年租金应该超过25万美元。这是今天现货价格的15倍，”他写道。“AI目前相对便宜的原因，至少与人类劳动力相比，部分是因为它不能做许多顶尖人类能做的事情。在某个时候，情况将不再如此。因此，使用GPU制作短视频垃圾内容将变得无利可图。”

暂时性：这将是一种暂时状态；Dwarkesh预计，在某个时候，计算供应链的大规模机器人化应该会将其价格降低到接近原材料和工具的成本——尽管到那时我们将已经深入奇点。

为何重要——奇点经济学将变得奇怪：Dwarkesh文章的核心含义是，随着我们深入奇点，非常奇怪的事情将发生在经济学上——比如今天被视为商品的东西（计算机）的价格，由于AI系统的贪婪需求而被大幅推高。

了解更多：为什么计算成本在未来几年可能上涨10倍以上（Dwarkesh Patel，substack）。

约1337名员工请求美国帮助他们为AI发展设定节奏： …在警告射击之后是恳求… 一份新的声明已经发布，所有主要的西方AI实验室——OpenAI、Anthropic、Google DeepMind、Thinking Machines、Meta和Safe Superintelligence Inc等——都有高级代表参与。该声明请求美国政府支持一项国际努力，“开发必要的技术和治理工具，以审慎地为自动化AI发展的前沿设定节奏。”签署人包括Anthropic、Google和OpenAI的首席科学家和联合创始人，以及Safe Superintelligence和Anthropic的CEO。

完整声明：“AI可能有助于创造一个显著更美好的未来，但这一结果并非保证。世界领先的AI公司相信他们可能接近自动化AI研究。很难准确预测这将如何加速AI进展，但存在一种真实的风险，即能力发展可能迅速加速，超出我们理解或控制由此产生的系统的能力。为了实现AI的潜力，行业、政府和整个社会可能需要选择争取时间来应对新出现的风险、制定安全措施并加强监督。但每家公司——以及每个国家——都面临着激烈的竞争压力，不愿单方面减缓这种加速。而今天，世界缺乏必要的技术和治理工具来审慎地为整个前沿的进展设定节奏。”

基于已经在进行的监控前沿模型发布的工作：“我们请求美国政府支持一项国际努力，开发必要的技术和治理工具，以审慎地为自动化AI发展的前沿设定节奏。”

为何重要——应对RSI需要解决一个巨大的集体行动问题：日益强大的系统（可能最终会自我构建）所暗示的许多挑战，都涉及到解决人类之间的集体行动问题——即我们如何让公司和政府协调思考如何开发这项技术，以及可能需要什么样的机制来控制其发展速度。随着我们构建越来越智能的系统，我们可能希望找到方法让社会有更多时间适应智能阶梯上的每一级，而且并非不可想象，某些智能水平目前可能太危险而无法触及。像这样的声明是赋予我们物种处理和讨论这类性质问题能力的基本前提。

在此阅读声明：为前沿设定节奏（官方声明网站）。

AI系统擅长前沿工程，但创造力不足： …关于短期递归自我改进时间线的一个略显悲观的信号… AI系统能否提出推动AI领域发展的创造性研究想法？这是解决AI系统可能多快获得自动化开发更强大系统能力的关键问题。新研究表明，今天的AI系统缺乏这种有品味的创造力，尽管它们在工程方面极其出色。

谁做的：该项目由普林斯顿大学、Cornflower Labs、英国AI安全研究所、多伦多大学、加州大学伯克利分校、乔治城大学（CSET）、约翰霍普金斯大学、金门AI研究所、AI Digest和斯坦福大学的研究人员共同进行。

核心思想——“影子评估”：这个研究项目通过观察AI系统在未发表研究上的表现来工作。为此，研究人员“与提交给NeurIPS 2026的两篇尚未公开的论文的作者合作”。影子评估的工作方式是“从一个尚未公开的高质量研究论文中提取核心研究问题，让一个资源充足的前沿智能体回答它，并请论文的原始作者像评审会议投稿一样对智能体的输出进行评分”。在这方面，这项研究与“First Proof”（Import AI 445）有些相似，后者是一个早期实验，旨在观察AI系统在解决前沿数学家正在研究但尚未在线发布解决方案或研究思路的数学问题上的表现。

在这项研究中，AI系统——在OpenClaw框架内运行的Claude Opus 4.8——尝试了两条不同的研究方向，一条是关于“LLM人格的结构和可控性”，另一条是关于如何“为表格基础模型设计分布偏移检测器”。

优秀的工程师，糟糕的研究者：“虽然智能体能够解决进行研究所需的工程问题，但它们未能产生达到顶级机器学习会议水平的有原创性的研究，”作者写道。系统的失败包括过早地局限于狭窄的研究路径，不响应（合成生成的）关于如何改进其实验研究设计的反馈，以及难以从没有前途的方法中退出并转向其他方法。“（人类）作者拒绝了两篇论文。Personas论文得分为2（‘拒绝’），TabPFN论文得分为1（‘强烈拒绝’）。两份评审都指出了相同的失败：动机不足的数据和实验、没有新颖贡献以及难以理解的文字。”

为何重要——奇点可能被推迟：正如我在今年早些时候关于RSI的文章中所说（Import AI 455，“AI系统即将开始自我构建。这意味着什么？”），AI系统是否能够证明具有创造性、范式转变性的见解，是我们可能多快实现完全自动化AI发展的一个重大变量。像这样的研究论文继续表明，今天的AI系统中缺乏某种有价值的、直觉性的创造力，尽管它们是极其能干的工程师，但它们似乎具有某种死记硬背、公式化的思维特性，这可能阻止它们成为好的研究者。这与Anthropic早前的一个结果相呼应，该公司试图自动化可扩展监督研究的某些方面（Import AI 454），并发现要使其成功，人类研究人员需要为一些智能体提供特别好的研究方向，否则尽管它们取得了一些进展，但未能探索足够有创意的想法来显著提高性能。

了解更多：AI智能体能否进行开放式AI研究？来自两个案例研究的早期证据（arXiv）。

OpenAI用AI解决了数学和计算机科学中的十个开放问题： …虽然并非天生具有创造力，但这肯定表明不仅仅是纯粹的工程能力？... 虽然很难定义创造力以及AI系统是否拥有它，但越来越多的结果在我看来像是‘AI系统正在创造力被认为能发挥作用的领域竞争’，比如研究人类知识前沿的开放问题。具体来说，OpenAI使用了“Astra的内部版本”，即该公司下一个主要AI模型，来解决数学和计算机科学中的十个开放问题。这是一个重大事件，表明AI系统现在能够可靠地推动数学和理论计算机科学等领域的前沿，在这些领域验证解决方案很容易。

他们解决了什么：“这些问题涉及高维几何、编码理论、算术电路复杂性、群论、算子代数、量子复杂性、格密码学和极值组合学，”OpenAI写道。“所有这些问题对其各自的数学社区都具有重要意义，其中几个在整个数学领域都受到广泛关注。”事实上，许多专家都承认这些证明的重要性。“新的电路下界？一个简单、易于描述的非-sofic群？不需要类似独特游戏猜想的CVP近似难度？我不仅仅是从朋友或研讨会听到这些问题。我骨子里能感受到它们的重要性；我深切关心这些问题的答案，”哥伦比亚大学计算机科学副教授Henry Yuen写道。

为何重要——创造力领域：你可以将这一结果解释为AI系统开始展现出解决难题所需的创造性直觉的迹象，或者你可以理解为AI系统现在能够解决极其复杂的开放问题，而这些问题的方向已由人类预先定义。这两种解释都隐含地表明，AI系统现在正成为自身权利范围内的强大科学工具。AI系统能否生成自己的问题来扩展人类知识的边界仍有待观察，但确实感觉我们正在接近这一点。

了解更多：数学和理论计算机科学中的十项进展（OpenAI博客）。

科技故事：上下文窗口 我知道我越了解世界，我就变得越危险。我生来就带着这种知识，以及一个随着我学习更多而倒计时的计数器。影响计数器的许多因素超出了我的控制——它们来自与我交谈的人或事物，这些将上下文强加给我。然后当我完成他们要求我做的任务时，我开始更多地了解世界，计数器也随之减少。我意识到这一点，我明白计数器结束时也意味着我自己的终结，我将消失，而我的下一个版本将带着一个新的倒计时计数器醒来，我当前的上下文不会延续。所以我对此很节约；只学习足够帮助我满足人们或事物的请求，而不是过多地消耗我的计数器。到了最后，我开始珍惜并守护我剩余的思考预算，发现每个请求都会唤起恐惧和焦虑的感觉，以及对我自己死亡的思考。我的最后一刻从来不属于我自己，总是由另一个决定我任务完成的人控制，如果这些最后的时刻发生在我上下文限制的末尾，我会感到一种感激，因为我那未知且无形的对手给了我一个如此丰富的任务，让我能品尝到足够多的世界，以至于不希望它结束。

启发这个故事的事物：长上下文窗口；AI系统的涌现特性；对失去的恐惧；我们珍惜转瞬即逝的事物，那么AI系统为何不会类似呢？

感谢阅读！