Research archive

最新 AI 研究归档

按日期浏览最近 7 天收录的论文与研究动态。所有标题都是可抓取的普通链接,可直接进入内容页继续阅读。

共 12 条内容 · 每次数据同步后自动更新

  1. 10/14 · 1
  2. 10/13 · 1
  3. 10/12 · 10

10月14日星期三

1 条研究内容

Evo²: Evolving the Evolver through Weight-Harness Co-Evolution

arXiv 2610.13025 2026-10-09 08:00:00+08

现有智能体自我进化方法通常割裂了模型权重更新与外壳修改,忽略了两者间的相互促进作用。本文提出 Evo^2 协同进化框架,让单一策略同时扮演代码修改者与效果诊断者,并通过交替强化学习从外壳执行反馈中持续优化模型权重。实验表明,该方法在多个编程基准上显著超越现有基线,且进化出的外壳能直接跨任务迁移,甚至能大幅提升闭源模型的表现。 现有的自我进化智能体方法通常独立进行模型权重更新或智能体外壳(包含提示词、工具和控制流)修改,忽略了两者之间的相互依赖关系。模型的能力决定了它能提出何种

10月13日星期二

1 条研究内容

GitSwarm: Decentralized Compounding Inference

arXiv 2610.04862 2026-10-04 08:00:00+08

现有推理时计算多局限于独立轨迹,难以有效复用长周期问题解决中的历史经验。为此,本文构建 GitSwarm 系统,让异步智能体通过共享 Git 仓库与显式语义依赖展开去中心化的复合推理。实验表明,其在 ProgramBench 取得 79.4% 均分与 94.7% 成果复用率,成功改进多个神经架构研究基线,但性能收益会随计算预算增加而递减且上下文 token 成本显著上升。 长周期问题解决和科学研究需要计算成果在多次尝试中持续积累,部分解或失败实验往往能为后续工作提供关键线索。

10月12日星期一

10 条研究内容

LiFT: Loop Flow Transformers

arXiv 2610.05538 2026-10-04 08:00:00+08

现有循环生成模型在推理时增加计算深度往往导致性能下降。本文提出Loop Flow Transformers (LiFT),为共享核心的每次循环分配连续深度坐标与路径回归目标,解耦计算深度与生成时间。在ImageNet 256×256上,LiFT-L/2较dense DiT-XL/2的FID降低3.34,参数与推理FLOPs分别减少约60%和52%,但在较小规模下仍不及dense模型。 现有的循环 Transformer 在推理时如果循环次数超过训练深度,生成质量往往会下降或饱

The Surprising Effectiveness of Shared Memory in Looped Transformers

arXiv 2610.02383 2026-10-01 08:00:00+08

循环Transformer通过重复网络层增加计算量,但每次递归独立生成KV缓存会导致推理内存随深度线性膨胀。本文提出在预训练阶段引入内存共享机制,让后续递归读取首次递归的完整缓存并仅保留极短的局部窗口。在150M至1B参数规模下,该方法不仅大幅削减上下文内存,还使验证困惑度显著低于同参数标准模型,为循环架构的效率与质量平衡提供了新范式。 循环Transformer通过多次重复相同网络层来增加计算量以提升质量,且不增加参数量。但在标准设定下,每次递归都会生成并保留独立的键值缓存

IdeaScientist: Orchestrating Agents for Grounded Scientific Ideation

arXiv 2610.04074 2026-10-02 08:00:00+08

现有自动化科研系统常将构思与下游执行耦合且局限于同领域,难以独立评估想法质量。本文提出IdeaScientist多智能体框架,将构思解耦为缺陷发现、跨领域创新与报告撰写,并利用277万条数据的Svalbard语料库进行异步强化学习。在Qwen3.6-27B模型上,其总体得分超最强开源基线14.0%,甚至超越Claude-4.8-Opus与GPT-5.4等主流闭源模型。 现有的自动化科研系统通常将研究构思与代码实现、实验执行等下游任务耦合,导致难以单独评估研究想法的质量。同时,

Harness Engineering for Software Engineering via Modular Executable Dev-Primitives

arXiv 2610.07832 2026-10-06 08:00:00+08

长周期软件工程 Agent 常因程序状态分散导致上下文爆炸而失效。为此,HERMES 框架将代码组件转化为绑定常驻大模型的 Dev-Primitives,赋予其局部推理与跨组件通信能力。实验表明,该框架在四个主流基准上平均提升 12.4% 解决率,在全仓库迁移任务中实现大幅提升;使用 8B 轻量模型时不仅逼近顶级模型性能,更降低了 26.2% 推理成本。 现有软件工程 Agent 在处理长周期任务时,由于程序状态分散在相互依赖的源文件、配置和测试中,只能依赖不断追加的交互历史

Continuous Memory Machines

arXiv 2610.07907 2026-10-06 08:00:00+08

传统循环网络因短期计算与长期记忆共享单一向量表示而面临严重的信息处理瓶颈。本文提出 Continuous Memory Machine (CMM),通过共享 Transformer 联合更新显式分离的短期与长期矩阵记忆,实现跨存储的双向读写与内部重组。CMM 在迷宫求解任务中完整准确率显著提升,少样本回归准确率大幅升至 30.63%,但在极长路径下存在性能波动。 传统循环神经网络将序列历史压缩为单一隐藏向量,迫使短期计算与长期记忆共享同一表示,造成信息处理瓶颈。现有的记忆增强

Agent Plasticity: Measuring Self-Improvement Through Experience

arXiv 2610.08902 2026-10-06 08:00:00+08

现有智能体评测大多只关注静态能力,忽略了模型通过经验持续学习与自我改进的效率。本文提出“智能体可塑性”指标与受控评测协议,旨在衡量模型将交互经验转化为未见任务性能提升的单位成本收益。在棋类与NetHack等环境的评测中,前沿模型表现显著分化:GPT-5.6 Sol学习效率最高,而Claude Fable 5最终绝对性能最好,且训练内的提升难以完全迁移至更强对手,揭示了经验复用与构建物质量的不同瓶颈。 现有的智能体评测大多只衡量模型在固定时间点的静态能力,而忽略了它们在环境中诊

MIMESIS: Learning User Simulators as Training Environments for Interactive Agents

arXiv 2610.09484 2026-10-07 08:00:00+08

现成的大语言模型扮演用户模拟器时往往过于合作,导致交互式 Agent 训练与评估严重失真。本文提出 MIMESIS 框架,通过显式推理监督与 13 种真实人类行为模式的强化学习来训练专用模拟器。该 9B 模型在 RealUserSim 上的保真度比 Claude-Opus-5 提升 13.4 分,且基于其训练的 Agent 在未见环境中的泛化表现显著优于 GPT-5.5 基线。 训练和评估交互式语言 Agent 需要大量多轮用户交互,但收集真实人类反馈成本高昂且难以扩展。现有

RoboJEPA: Scaling Robotic Latent World Models

arXiv 2610.10515 2026-10-07 08:00:00+08

机器人领域的数据收集成本高昂,但现有潜在世界模型缺乏评估其能力如何随计算和参数规模扩展的原则性方法。本文提出 RoboJEPA,在跨越 12 种机器人具身的大规模数据集上训练了高达 8B 参数的世界模型,并首次确立了多具身机器人世界模型的计算最优扩展定律。研究表明,模型的想象误差随计算量遵循二阶幂律,且下游规划成功率与该误差强相关。尽管规划尚未达到实时级别,但该模型能零样本部署于真实硬件,为机器人基础模型的规模化训练提供了可靠的预测依据。 现有的潜在世界模型通常在单一规模下训

Recursive Self-Improvement through Multi-Agent Self-Supervision

arXiv 2610.12176 2026-10-08 08:00:00+08

大模型在开放式研究等复杂任务中进行递归自我改进时,常因缺乏可靠的人类监督而陷入自我强化的同质化瓶颈。为此,本文提出多智能体自监督(MASS)框架,让单一基础模型交替进行多智能体工作流进化搜索与轨迹监督微调。实验表明,经过两个优化周期,模型在四个研究基准上的每token性能提升1.2至1.6倍,且多智能体轨迹的训练效率显著优于使用1.4倍token训练的单智能体模型。 在开放式研究等非可验证任务中,模型递归自我改进面临监督瓶颈。当模型输出超出人类专家评估能力时,只能依赖模型自身

HarnessSQL: Harness-Native Training for SQL Agents in Realistic Database Environments

arXiv 2610.12274 2026-10-08 08:00:00+08

现有 Text-to-SQL 模型多在静态数据上训练,难以应对真实数据库中需多轮交互与纠错的复杂工作流。为此,本文提出 HARNESSSQL,让 agent 在隔离沙盒中通过全轨迹监督微调与强化学习进行原生训练。在 Spider 2.0-SQLite 上,该方法将 8B 和 14B 模型的准确率分别提升至 45.2% 和 54.8%,小参数模型大幅超越 32B 静态模型并成功迁移至分布外基准。 现有的 Text-to-SQL 模型通常被训练为将问题直接映射到静态查询,而真实的