论文解决了什么问题
现有的智能体自我进化方法通常将模型权重更新与外壳(提示词、工具和控制流)修改视为两个独立的方向。这种割裂的做法忽略了模型能力与外壳修改之间的相互依赖关系:模型的能力决定了修改的质量,而外壳修改的执行结果本可以为模型提供宝贵的训练信号。本文旨在探索如何将这两种进化过程连接起来,使负责进化的模型能够从外壳的修改与执行反馈中持续学习。
核心方法
Evo^2 采用统一的双角色流水线,由共享参数的单一策略同时担任生成外壳编辑的 Proposer 和诊断执行效果的 Reflector。系统通过树状搜索探索外壳变体,并引入交叉搜索机制,允许 Reflector 从其他分支提取有效策略并指导 Proposer 进行整合。在训练端,EvoTIDE 流水线通过编辑提取和前缀延续恢复不完整轨迹,结合监督微调与交替的组相对策略优化(GRPO)对模型进行联合训练。
方法与已有工作的区别
有原文依据现有的自我进化方法如 SICA 仅沿单一谱系修改自身实现,DGM 和 HGM 侧重于维护档案或基于后代估计选择父代,而 GEA 关注并发智能体间的经验共享。与这些仅修改外壳或独立更新权重的方法不同,Evo^2 将外壳搜索作为进化器自身的训练信号,通过双角色共享参数和交叉搜索机制,实现权重与外壳的协同进化。
实验结论
- 在 Polyglot 和 SWE-bench Verified 编程基准上,Evo^2 分别取得 82.1% 和 48.3% 的成绩,显著超越最强基线的 62.6% 和 41.0%。
- 在 SWE-bench Verified 上进化出的外壳,无需进一步进化即可直接迁移至 Polyglot 和 LiveCodeBench,并取得所有方法中的最高分。
- 应用于固定权重的闭源模型 GPT-5-mini 时,Evo^2 将其在 SWE-bench Verified 的 60 题子集上的解决率从 24.4% 提升至 48.3%。
- 在 LoCoMo 和 LongMemEval 记忆任务中,Evo^2 进化出的外壳分别取得 60.4 的 F1 分数和 71.5% 的准确率,优于所有基线。
- 在 Polyglot 和 SWE-bench Verified 上分别达到 82.1% 和 48.3%,显著超越最强基线。
局限性与证据边界
- 闭源模型实验仅在 SWE-bench Verified 的 60 题子集上进行,不能直接视为全量基准成绩;相关结果由论文作者报告,本站尚未独立复现。
- 原文未提供关于该方法在更大规模模型或更复杂多步推理任务中的计算成本与资源消耗细节。
- 原文未明确披露双角色交替训练过程中的具体收敛速度或潜在的失败模式。
适合谁阅读
致力于智能体系统自动化优化与 Agent 外壳工程的研究者探索强化学习在代码生成与修改中应用的算法工程师需要提升闭源大模型在复杂工程任务中表现的开发者Agent 系统强化学习
可核验的原论文来源和作者
- 作者
- 作者信息暂未从原始元数据中确认
- 来源
- arXiv
- 论文 ID
- 2610.13025