GitSwarm: Decentralized Compounding Inference

论文解决了什么问题

长周期问题解决和科学研究依赖于计算成果在多次尝试中的持续积累，部分解或失败实验往往能为后续工作提供关键线索。然而，现有的推理时计算大多围绕独立的推理轨迹或候选方案展开，缺乏持久化的工作记忆机制。这导致后续计算无法有效复用历史经验，经常需要重新发现已被探索过的中间成果。

核心方法

GitSwarm 采用共享且可分支的 Git 仓库作为结构化持久内存，允许同质异步智能体独立检查历史提交并自主决定探索、验证或综合前人工作。系统将每次贡献记录为原子提交，并通过显式的语义依赖字段追踪跨分支的知识继承关系，从而在无中央规划器的情况下实现去中心化的计算积累与最终方案提名。

相比于依赖预定义角色、集中规划或共享对话的多智能体系统，以及将早期尝试蒸馏为摘要以指导后续推理的方法，GitSwarm 允许独立工作者保留竞争性的工作路线及其依赖关系，并自主决定扩展哪些先前贡献，无需中央智力规划器分配任务。

实验结论

• 在 ProgramBench 上，GitSwarm (Codex) 的平均得分从 100 个 worker 预算时的 73.1% 提升至 500 个预算时的 79.4%，而顺序执行的 Forced Codex 基线得分停留在 63.1% 至 65.1% 之间。
• 在 IMOProofBench-Advanced 上，使用 GPT-5.5-high 的 GitSwarm 在 40 和 80 的 worker 预算下解决了全部 30 个问题，而 Best-of-N 基线在较低 token 消耗下也达到了该基准的上限。
• 在 ProgramBench 的运行中，94.7% 的贡献被后续引用，所选解决方案的传递祖先平均覆盖了 81.6% 至 92.6% 的贡献图。
• 在 Residual Matrix Transformer 研究任务中，8 GPU 和 4 GPU 的 GitSwarm 在 1.3B token 训练预算下分别实现了 2.890 和 2.894 的保留损失，优于参考模型的 3.147。
• 在 ProgramBench 上均分达 79.4%，且 94.7% 的贡献被后续复用

局限性与证据边界

适合谁阅读