Aspire:模型能否从模糊目标中自我进化?
Aspire: Can Models Self-Evolve from Vague Goals?
来自 ByteDance Seed
摘要
许多重要的人类学习形式始于一个模糊的目标,例如“成为更好的物理学家”或“在研究上有所提高”。学习者必须解读目标、识别能力差距、决定如何学习,并判断自己是否真正取得了进步。相比之下,现有关于LLM自我进化的研究通常始于人类指定的任务和评估指标,将自我进化简化为优化一个明确目标,而非决定学什么和怎么学。我们引入ASPIRE,一个用于模糊目标驱动自我进化的基准。ASPIRE仅提供一个自然语言能力目标,而下游评估任务保持隐藏。智能体必须通过选择数据和更新方法、构建训练与验证信号,并决定何时评估来将目标具体化。ASPIRE在一个统一的交互式环境中支持模型权重进化和智能体框架进化,并在一个隐藏的、由专家撰写的520项测试集上评估所得系统,该测试集涵盖六个目标。我们的实验表明,模糊目标将搜索努力转向目标解读。当前智能体通常能完成训练和框架编辑循环,但权重层面的提升仍然稀疏且不稳定,且最强的进化框架仍低于工程化的Qwen-Agent参考。智能体经常在不匹配的数据上训练,并信任狭窄的自我评估,因此局部提升无法迁移到隐藏评估,而持续的搜索和训练可能抹去早期改进。
译自 Hugging Face · Daily Papers · arXiv:2608.31111 · 录于 二〇二六年九月三日