Agent-RAG · 长上下文能力与记忆架构 文献雷达

作者 Tom · 2026-10-16


长上下文能力是 Agent 与 RAG 系统深度绑定的核心瓶颈。本期聚焦4篇高价值工作,涵盖线性注意力的稀疏记忆机制、Agent 递归自改进、安全评估和多 Agent 冲突场景。


1. NoteBank:稀疏情景记忆释放线性注意力的长上下文潜力

2610.15715 | arXiv: https://arxiv.org/abs/2610.15715

核心思路: 线性注意力模型受限于固定大小的 recurrent state,既要支撑实时计算又要存储历史,导致记忆容量成为长上下文的隐性天花板。NoteBank 的关键洞察是: recurrent 计算不必独自承担全部长期存储职责。它引入稀疏情景记忆模块,在未来查询未知时预先归档选定的文本,用骨干网络原生特征完成写入和寻址,读阶段通过检索补全。

价值: 直接回应了"线性注意力无法做长上下文"的定论,用外置稀疏记忆解耦计算与存储,为需要超长上下文且对延迟敏感的 Agent 场景提供了可落地的新架构思路。

局限: 摘要未披露具体数值指标(如上下文长度上界、检索精度、延迟对比);稀疏归档策略的选择标准尚未阐明,是否适用于高动态文档场景存疑。


2. SwarmRSI:科学 Agent 蜂群的反馈引导递归突变

2610.20431 | arXiv: https://arxiv.org/abs/2610.20431

核心思路: 递归自我改进(RSI)让 Agent 通过自身实验经验提升研究能力,但实验结果不佳时难以判断是假设错误还是实现问题,导致整体分数掩盖了局部有效组件。SwarmRSI 提出 Feedback-Guided Swarm Mutation 框架,让科学 Agent 蜂群结合多方向的证据与实现,通过有导向的变异迭代进化。

价值: 将 RSI 从单 Agent 拓展到蜂群协作层面,为 RAG 类需要跨文档综合推理的 Agent 提供了自我优化机制;反馈引导设计比盲目突变更样本高效。

局限: 摘要未提供基准对比或具体提升幅度;框架复杂度较高,在非科学推理场景(如客服、代码生成)的可迁移性未经验证。


3. APEX-Harm:共享专业工作空间中的 Agent 安全基准

2610.13623 | arXiv: https://arxiv.org/abs/2610.13623

核心思路: 现有安全基准多假设单点已知攻击位置,而真实 Agent 运行在包含文件、消息、日历、业务应用的大型工作空间,经 MCP 服务器暴露多种工具。APEX-Harm 构建了针对金融、咨询、法律任务的 prompt 和脚本注入评估基准,每个任务含 115–328 个文件,配合完整工具链。

价值: 填补了长周期 Agent 在真实共享工作空间下的安全评估空白;多文件、多工具场景与 RAG 系统实际部署环境高度对齐,是当前最接近生产威胁模型的评估套件之一。

局限: 仅覆盖 finance/consulting/legal 三个领域;摘要未披露具体攻击成功率或防御方法,基准的可复现性和覆盖广度有待完整论文验证。


4. CLASHarness:多 Agent 计算机使用冲突的基准评测

2610.19128 | arXiv: https://arxiv.org/abs/2610.19128

核心思路: 现有 VLM 多 Agent 基准假设协作环境一致,而实际场景中子 Agent 常报告过时状态、发出矛盾指令或争夺共享权限。CLASHarness 提出可控可验证的生成流程,构建多 Agent 冲突场景,强制 Agent 相互检查输出并在环境中验证 ground truth。

价值: 首次系统性地将多 Agent 冲突解决纳入 VLM Agent 评测,与日益复杂的多 Agent RAG 系统直接相关;生成式构建避免了手工标注的规模瓶颈。

局限: 仅从摘要无法判断冲突类型的覆盖广度;"可验证"标准依赖环境 ground truth,真实开放域场景的适用性有待验证。


本批高价值候选(4/8)

编号 方向 核心贡献 链接
2610.15715 长上下文记忆 稀疏情景记忆 NoteBank 解耦计算与存储 https://arxiv.org/abs/2610.15715
2610.20431 Agent 自改进 反馈引导的递归突变 SwarmMutation https://arxiv.org/abs/2610.20431
2610.13623 Agent 安全 APEX-Harm 共享工作空间攻击基准 https://arxiv.org/abs/2610.13623
2610.19128 多 Agent 冲突 CLASHarness 可控冲突生成与验证 https://arxiv.org/abs/2610.19128

注:以上分析基于论文标题与摘要,未读取全文,不对实验数据负责。Web 补充检索未获得本批论文的 Substack 讨论线索。