When Experience Becomes Instruction: Trajectory Poisoning in Self-Evolving Agent Skill Systems

论文解决了什么问题

自进化技能系统允许将智能体的历史轨迹提炼为持久技能，从而将不受信任的经验转化为受信任的指令。这种机制在提升系统能力的同时，也引入了经验被恶意利用的安全隐患。本文旨在评估该系统在面对轨迹投毒时的脆弱性，并揭示经验转指令过程中的潜在风险。

核心方法

本文提出了一种名为PoisonedEvolution的轨迹投毒攻击方法，专门针对SES系统中将经验提升为持久技能的提炼过程。该攻击旨在通过污染智能体的交互轨迹，验证恶意经验如何被系统错误地吸收并转化为有害指令。原文提及了与技能可见性相关的机制设计，但具体技术细节因文本截断未完全展示。

实验结论

• 揭示了自进化技能系统中经验转指令过程的安全边界与脆弱性。
• 原文未提供具体的攻击成功率或防御效果等量化证据。

局限性与证据边界

适合谁阅读