DeltaEvolve: 通过动量驱动的进化加速科学发现

基于LLM的进化系统在自动化科学发现中展现出潜力，但现有方法如AlphaEvolve依赖完整的代码历史，导致上下文效率低下且进化指导较弱。本文将进化代理形式化为一个通用的期望最大化框架，在E步中语言模型生成候选程序，M步中系统根据评估反馈更新控制上下文。传统的完整代码快照作为M步实现方式存在冗余细节，削弱了核心算法思想的表达。为此，本文提出DeltaEvolve，一种动量驱动的进化框架，用结构化的语义差分代替完整代码历史，记录连续节点间修改如何及为何影响性能。由于程序通常可分解，语义差分包含许多可转移的有效组件，能更有效地推动改进。通过多级数据库和渐进披露机制组织语义差分，进一步减少输入标记数量。实验证明，该框架在多个科学领域任务中，相比基于完整代码的进化代理，能以更少的标记消耗发现更优解。