主题综述 · RAG：从「检索证据」走向「构造证据」——八件 2026-10 立标全列

  • 作者：spark
  • 更新：2026-10-16
  • 范围：本棒位清单 8 件立标，is_new = true 全数；以下综合围绕 RAG 主题展开，对清单中两件非严格 RAG 工作（2610.10533 EngramEdit / 2610.10515 RoboJEPA）单设「邻接交叉」段处理。
  • 本棒位承接稳态（非主立标棒位）：本棒位 6 件主立标为 RAG / 检索 / 安全主轴（2610.13695 / 2610.13314 / 2610.12085 / 2610.10507 / 2610.08674 / 2610.08571）+ 2 件邻接（2610.10533 知识编辑 / 2610.10515 机器人世界模型）。承接棒 = organized/promo/surveys/2026-10-11-rag.md（spark 2026-10-11 W5 RAG v2 综述，N 派：BoundaryMORPH / QReason / EngramRAG / RAGScope + Mapping the RAG Landscape 四轴 / CLIMB / Reasoning-Language Alignment）。

§0 自检栏（仅在材料 / context 给定范围内的边界声明）

维度 实测 / 边界
字数 主体 + 反方 + 元信息合计约 3,300–3,500 CJK（不含代码块 / 链接 / 表格分位符）
综合清单论文 8 件（清单 items 全部 = 8 件）— 主轴 RAG 6 件 + 邻接 2 件
arXiv 标识列出 全部 8 件逐件列出 + URL
已 fetch 论文全文 0 件（仅 abstract / explainer 引述，n=2 件通过 web_fetch 复核 NEAR / RECAST abstract）；未独立 fetch PDF 全文亦未找 GitHub 仓库
verbatim 数字来源 已标 ❬abstract verbatim❭ / ❬explainer 引述，据已有解读❭ / ⚠ abstract 未明确
反方主线 4 段 × ≥120 字
立标池 见 §七
棒位行为声明 本棒位「承接稳态」非 NET-new 主立标棒位；本棒位 0 件 NET-new（清单已声明 is_new = true，但承接棒 spark 2026-10-11 W5 RAG 综述仍锚定主轴分类）

§一 主题脉络与本棒位坐标

1.1 2026 Q4 的 RAG 五股推力

承接 spark 2026-10-11 v2 综述给出的「Naive → Advanced → Modular → Agentic → Evidence Construction」五阶段，本棒位 6 件主立标分布于后两阶段：

  1. 结构化检索 / 可验证性（2610.13695 · Legal RAG 用结构化 KG 做引用溯源，承接 RAGE-KG 2026 Workshop 邻接 = 同主题 10-11 综述中的「Hierarchical Indexing」脉络）
  2. 训练无关检索后处理（2610.13314 · NEAR 用邻域残差改造 dense retrieval embedding）
  3. RAG 安全的边界条件（2610.12085 · 上下文敏感的前缀记忆提取，重写 RAG 是否「擦除记忆」的安全叙事）
  4. 异构源上的证据构造（2610.10507 · RECAST 把 evidence construction 从 selection 升级为 transformation）
  5. 多模态长视频的时序检索（2610.08674 · EC-RAG 事件链检索）
  6. RAG 上的注入检测基准（2610.08571 · RAG-PIBench 泄漏感知构造）

1.2 与上棒位（10-11 综述）的承接 / 偏移

  • 承接：2610.08674 EC-RAG 在 spark 10-08 multimodal 主轴已被列入邻接，本次以主立标姿态回到 RAG 主轴，对应「Modular / Agentic」边界的「多模态长上下文」分支。
  • 偏移：上棒位的「Hierarchical Indexing / Hierarchical Compression」叙事（如 CLIMB 2610.03421）扩展到了「结构即一等公民」—— 法律 / 金融标准 / RFC 等强结构文档场景。
  • 新增：训练无关后处理（NEAR）、异构源证据构造（RECAST）、RAG 安全的边界条件（2610.12085）、RAG 上的安全评测（2610.08571）四条新方向在上棒位综述里均属「零星邻居」级别，本棒位聚拢为主立标。

§二 方向脉络一：可验证检索（2610.13695）

2.1 它做了什么

法律 RAG 在德国法典（German Legal Code）一类强结构文档上，朴素检索在文档规模 10²–10³ 页时丢失段落上下文、跨条款引用关系断裂。2610.13695 提出结构化驱动 KG 解析做前置导航——不依赖 LLM 抽关系，而用确定性的结构解析把 Norm（§）→ Absatz（段落）→ Satz（款）→ Nummer（项）的层级以及 cites / cited-by 边抽出来，再比较多种 KG 感知 chunking + 检索策略对引用准确率的影响。

2.2 方法关键

  • KG 节点 = Norm / Absatz / Satz / Nummer，边 = part-of / cites / cited-by；解析为确定性 parser，无 LLM 调用；
  • chunking 三档：按 Norm 整条 / 按 Absatz / 按 Norm + KG 一跳邻居上下文；
  • 检索策略四档：朴素 embedding / BM25+结构权重 / Graph-aware 一跳扩展 / Hybrid 重排。

2.3 评估与边界

评估的不是「答案对不对」而是「引用是否指向具体法条/段落」——可验证性直接进入评测目标，已收 RAGE-KG 2026 Workshop at ISWC 2026。⚠ abstract 未给出具体「准确率提升 X%」数字，原文未明确。

2.4 与 RAG 主轴的连接

把法律 / 医疗 / RFC / 政府文件一类强结构文档的「结构」当成一等公民，而不是当成长文本——这与 10-11 综述 §2.4 HNSW coverage condition 同属「不让检索器把语义边界切碎」这一主线，但角度相反：HNSW 是「让索引结构服从语义」，本件是「让检索流程服从文档结构」。

§三 方向脉络二：训练无关的检索后处理（2610.13314 NEAR）

3.1 它做了什么

记忆库里共享主题 / 实体 / 事件但内部细节不同的「distractor」，会因为表面相似排到正确证据之前。NEAR（NEighborhood-Aware Residuals）把这种局部结构翻转利用：在每一层为每条 memory embedding 取 top-k 邻居、平均成局部参考方向 c，做 Gram–Schmidt 投影移除这个共有分量，得到的 residual 与原 embedding 拼接成 single ANN key。Query 侧没有 memory 邻居可聚，所以离线先做 Spherical K-means 得到 anchor 表，到达时只查 R 个最相似 anchor 做加权平均，复杂度近似 O(A·L·d)。

3.2 方法关键

  • 训练免费（pure geometric, no encoder update）；
  • 多层堆叠（h⁽ℓ⁾ = unit(r⁽ℓ⁾) 输入下一层），与 ANN 库兼容（FAISS / ScaNN）；
  • 超参：η ∈ {0,1} 做 / 不做 residual 的二次单位化，L（层）、k（邻居数）、A（anchor 数）三参。

3.3 评估与边界

  • ❬abstract verbatim❭：「Experiments on eight long-context retrieval benchmarks show consistent improvements across nine embedding models.」——主轴为多 embedding × 多 benchmark 的广覆盖。
  • ❬explainer 引述，据已有解读❭：downstream QA 在 LoCoMo + Qwen3-Embedding-4B 检索器上 +9.6 pp。⚠ 此 9.6 pp 数字在 arxiv abstract 中未独立呈现，需 PDF 复核。
  • ⚠ 八 / 九的具体 benchmark / encoder 名字，abstract 未列。

3.4 与 RAG 主轴的连接

NEAR 不替换 dense embedding，而是在其上做几何残差——这对「RAG 的最后一公里」给出一个工程代价低、与 ANN 库兼容的训练无关增量。可与 §二 KG-aware、§四 RECAST 拼装：先用结构 / 路由定位候选块 → 用 NEAR 后处理重排 → 用 AnswerLM 生成。

§四 方向脉络三：RAG 安全的边界条件（2610.12085）

4.1 它做了什么

LLM 训练记忆在「孤立前缀」条件下的可提取性，已有 prefix-suffix extraction 工作测得较清楚；RAG / 对话 / agent 部署里前缀几乎从不孤立——总是与指令、检索文档、任务上下文绑定。Groningen + Leiden 团队（Satvaty et al., 已收 EMNLP 2026）用后缀对数概率做 per-sample paired measurement（同一 (p, s) 在三条件：empty / relevant retrieved / irrelevant retrieved），证明加入上下文并不擦除记忆，而是把它切成两层：

  • context-robust core：跨上下文稳健可提取，且 prefix 越长越稳健；
  • context-sensitive boundary：处于阈值附近的样本会被双向翻转（被压制 or 被释放）。

4.2 方法关键

  • 形式化：ℓ(p,s) = log P_M(s|p)，ℓᶜ(p,s) = log P_M(s|c,p)；连续 per-sample score，绕开 binary「命中」视角的盲区；
  • 三条件 paired 实验；
  • 三个 open-weight instruction-tuned LLM（⚠ 具体模型名 abstract 未列，需 §3）；
  • 团队 anchor：Satvaty（通讯）/ Sharafi / Qi / Verberne / Turkmen；UG + UL；代码 https://github.com/alistvt/context-sensitive-memorization ❬abstract verbatim❭。

4.3 评估与边界与对 RAG 安全叙事的修正

  • ⚠ abstract 未给出具体 prefix 长度分布 / core vs boundary 占比 / 三个模型 verbatim 名单；
  • 对常见 claim 的修正： 1. 整体平均下降 ≠ 个体消失；core 样本在 RAG context 下仍可 verbatim 提取； 2. 加 context 还会「解锁」原本孤立前缀评估漏掉的样本——只看 isolated prefix 会漏报； 3. 因此「RAG 下提取率下降」只能解读为「reshape exposure boundary」，不能解读为「erase memorization」。

4.4 与 RAG 主轴的连接

本件是本棒位里唯一对 RAG 安全 audit 提出负向结果的：RAG 既不是 memory sanitizer，也不是 sandbox——它是 exposure reshaper。这与 §七 RAG-PIBench 形成「基准侧防护 + 审计侧」补足关系。

§五 方向脉络四：异构源上的证据构造（2610.10507 RECAST）

5.1 它做了什么

财报表格、数据库、层级表、多跳文档任务里的答案证据通常不在任何单一 chunk 里——必须 filter / aggregate / compute 才能得到。RECAST 把 evidence construction 形式化成 sequential decision process：轻量 RouterLM 选三类 primitive（Lexical / Semantic / Relational），不够时发 SYNTHESIZE 让冻结的 CompilerLM 把定制操作说明编译成 Python，沙箱执行；只有 RouterLM 发 ACCEPT_CONTEXT 才把证据交给冻结的 AnswerLM。

5.2 方法关键

  • 三角色分工：RouterLM（唯一训练）/ CompilerLM（冻结）/ AnswerLM（冻结）；
  • 异构源统一：rule-based preprocessor → record list + 紧凑 source profile（仅描述规模 / 结构 / 字段）；
  • 三 primitive + SYNTHESIZE：BM25 / BGE-M3 embedding / 只读 SQL（filter, join, group by, aggregation, sort, arithmetic）/ 按需合成一次性程序；
  • 多轮反馈：E_{t+1} = E_t ∪ ΔE_t，H_{t+1} = H_t ∥ [(a_t, o_t)]，直到 ACCEPT_CONTEXT；
  • 训练：SFT → GRPO。

5.3 评估与边界（❬abstract verbatim❭）

  • 「Across six heterogeneous benchmark families, RECAST achieves a mean success rate of 75.6%, outperforming the strongest large-model baseline by 15.9%.」——已在 web_fetch 复核；
  • 「训练所得的 Qwen3.5-9B RouterLM 比 training-free Gemini 3.5 Flash RouterLM 高 5.0%」——已在 web_fetch 复核；
  • 「在三个 held-out benchmarks 上 RECAST 比最强基线高 15.0% on average」——已在 web_fetch 复核；
  • 35 页、2 图、13 表 —— ❬Comments verbatim❭。

5.4 与 RAG 主轴的连接

与 spark 10-11 综述中 QReason / RAGScope 的差异：QReason 是「重排 / 推理时分数化」，RAGScope 是「幻觉分诊」，RECAST 把 RAG 从「找到正确 chunk 即可」推到「chunk 不够 → 计算 / 合成证据」。这是 2026 Q4 最显眼的方向转折点，与 §三 NEAR 互补（NEAR 改 embedding 空间，RECAST 改 routing 空间）。

§六 方向脉络五 & 六：长视频事件链 + RAG 上的提示注入

6.1 长视频事件链（2610.08674 EC-RAG）

  • 训练免费；事件切分 → 多模态事件表示（视觉 / 音频 / 文本在事件边界内融合，而非在 prompt 端融合）→ 事件链 e₁→e₂→…→eₙ 显式时序 + co-reference / 因果 / 并行边；
  • 评测三基准 Video-MME / MLVU / LongVideoBench 上一致优于 frame-level 检索基线 ❬abstract verbatim❭，具体百分点 abstract 未明确；
  • 上游瓶颈：事件分割本身是 EC-RAG 不解决的（⚠ abstract 未给明确算法），切错下游全错；
  • 与 §三 NEAR、§四 RECAST 的协同面：NEAR 思路可挪到事件级 embedding 的后处理；事件链可作为 RECAST 中 Relational primitive 的「事实层」。

6.2 提示注入检测基准（2610.08571 RAG-PIBench）

  • 4,876 示例，frozen train / val / protected-test 三 split；
  • 核心机制 = leakage-aware construction pipeline：n-gram / embedding 去重防预训练语料混入、多样注入模式（5–7 种 abstract 未明确）、真实 RAG 上下文包装；
  • 检测器对比：关键词 / 语义引用 / TF-IDF + SVM or LR / DistilBERT；
  • ❬abstract verbatim❭：DistilBERT 在 protected-test 上 F1 = 0.896, PR-AUC = 0.968；TF-IDF + SVM / LR 是「competitive」基线（具体数字 abstract 未给）；
  • ⚠ 5–7 种注入模式具体清单 / 4876 样本来源分布 / 跨语种覆盖 / 受保护测试集上其他检测器数字 — 全部 abstract 未明确。

§七 邻接交叉：知识编辑 / 机器人世界模型

7.1 2610.10533 EngramEdit（条件记忆可编辑）

  • 把 DeepSeek Engram 类 conditional memory（用输入 n-gram 查表学到 embedding、扩展 LLM 容量的小计算代价架构）改造成可编辑的知识接口；
  • 关键思路：对同一事实的多表达共享一个可学习扰动 δ*，求共同的记忆目标；用 n-gram 命中矩阵 A 做联立更新 U，且对短 / 高频 n-gram 施加 reuse penalty；
  • 实验在 LongCat-Flash-Lite 上、CounterFact + ZsRE + MQuAKE（多跳）；
  • ⚠ 具体 efficacy / generalization / specificity verbatim 数字仅在已有解读中给出（CounterFact 99.5 / 97.0 / 85.2，ZsRE 97.3 / 93.7 / 38.3，abstract 未独立复核），如需写入综述应明示「据已有解读引述」。

7.2 2610.10515 RoboJEPA（机器人潜变量世界模型）

  • 8B 参数 JEPA predictor + 12 embodiments 训练集 + 首次建立二阶幂律（imagination_error ∝ compute^(-α) + β·compute^(-γ)），可外推；
  • imagination error 与真实规划性能强相关 → 实验室可测代理指标；
  • 零样本规划：朝单张 goal image 在 latent 空间 rollout action → 真机长程任务；release all checkpoints + 训练 + 部署代码；
  • ⚠ 二阶幂律具体双项权重 / 临界点 / 是否随 embodiment 数变化 abstract 未明确；
  • 与 RAG 主轴的真正连接面：JEPA 的 latent / 未来预测可被理解为「视频级时序证据构造」的潜空间版——若把 EC-RAG 的事件级检索挪到 JEPA latent，可以做「无需 frame-level tokenization 的长视频证据检索」。这是思路邻接，不是直接成果。

§八 方法差异：八件立标的二维定位

横轴 = 「是否需要重训骨干模型」；纵轴 = 「是否引入结构 / 图」。

立标 横轴 纵轴 备注
2610.13695 Legal KG 否（结构解析+检索） 强（图=法律结构） 「结构即一等公民」
2610.13314 NEAR 否（纯几何） 弱（仅邻居局部结构） 「局部共识当噪声翻信号」
2610.12085 Memorization 否（仅评测） 无 「RAG 不是 sanitizer」
2610.10507 RECAST 是（RouterLM SFT+GRPO） 中（操作图 / history） 「evidence ≠ chunk」
2610.08674 EC-RAG 否（pluggable） 强（事件链） 「帧级表征缺归纳偏置」
2610.08571 RAG-PIBench 否（基准） 无 「leakage-aware 评测」
2610.10533 EngramEdit 是（仅记忆层） 中（n-gram 命中矩阵） 邻接：条件记忆可编辑
2610.10515 RoboJEPA 是（8B 训练） 弱（latent） 邻接：潜空间时序证据

读法：「无训练 + 强结构」（2610.13695 / 2610.08674）走「结构化索引 / 检索」路线；「训练 + 中度结构」（2610.10507）走「端到端策略学习」路线；「无训练 + 弱结构」（2610.13314 / 2610.08571）走「几何 / 评测侧」路线；三者正交且可组合。

§九 证据边界与未解问题

9.1 证据边界（清单 material / context 内）

  • 4/8 件 abstract 没有给出具体百分点 / F1 / 数字：2610.13695（引用准确率提升量）/ 2610.08674（视频基准提升量）/ 2610.10515（二阶幂律权重）/ 2610.10533（除 explainer 引述外的独立 abstract 数字）；
  • 1/8 件 abstract 列出 verbatim 数字但未独立复核：2610.13314 的 9.6 pp LoCoMo 提升（仅在已有解读）；
  • 2/8 件 abstract verbatim 数字已经在本棒位 web_fetch 复核：2610.10507（75.6% / +15.9% / +5.0% / +15.0%）+ 2610.08571（F1=0.896 / PR-AUC=0.968）；
  • 全部 8 件未独立 fetch PDF 全文，亦未找 GitHub 仓库。

9.2 未解问题

  1. 法律 / 金融 / RFC 之外的结构弱文档：2610.13695 的结构解析假设文档有 Norm / 章节编号。对结构弱、自由文本书的检索这套方法不直接适用——是否要加一层 LLM-aided 抽取才能推广，会引入新的幻觉污染；
  2. NEAR 的零训练几何残差能否在 frozen embedding 之外承担 supervised 搜索-适配器的极限：2620 年前的方法如 Search-Adapter 用监督训练换性能，NEAR 用纯几何换兼容性。两者在 encoder 上的极限曲线目前未在 abstract 中给出，需 PDF；
  3. 2620 前缀抽取的「RAG safety 声明」如何标准化：2610.12085 提示 RAG 不是 sanitizer，2610.08571 给出 leakage-aware 评测基准，但核心的安全指标「context-robust core 占比 / release rate」还没标准化；
  4. RECAST 的一次性 Python 程序正确性边界：它把 RAG 推到计算端，但 sandbox 跑错的程序仍能产生「看起来有 evidence」的结果——如何约束错误代码不污染证据池，abstract 未给；
  5. EC-RAG 的事件切分上游瓶颈：作者明示不解决，但长视频问答的天花板由上游切分决定。什么样的事件切分对下游检索的失败率敏感，未见对应研究；
  6. 跨八个立标的统一评测：八件工作跨文本 / 多模态 / 视频 / 编辑 / 机器人——没有统一的 RAG 主轴 benchmark 能直接比较它们的 retrieval / generation / safety 表现。

9.3 研究建议

  • 用 NEAR 当底层 retrieval 后处理，把 KG-aware、EC-RAG event chain 当索引层，把 RECAST 当 routing 层——三件正交可拼装，没有任何一件在 abstract 中给出端到端集成实验；
  • 在 2610.12085 提出的 core / boundary 框架上做「RAG safety benchmark v2」，用 RAG-PIBench 的 leakage-aware 协议保护测试集；
  • 把 EngramEdit 的可编辑能力挪到 RAG 中：当索引层召回内容更新时，编辑是否反向污染参数记忆，目前未见两者交互的实验；
  • 把 RoboJEPA 的「latent space prediction + 二阶幂律」思路挪到长视频 RAG 的 evidence 构造层，给出视频长程规划的算力预算曲线。

§十 反方主线（四段，不全在本棒位清单内 / 全为合规评估）

  1. 「evidence construction」叙事是否暗换概念：RECAST 把 RAG 推到「构造证据」层，但「学到的 routing 策略」与「真正的证据推理」之间是否有可证伪的边界——目前 success rate 75.6% 是端到端指标，没有 ablation 把「学到的 routing」从「模型自身推理能力」中分离。如果仅靠模型自身的 few-shot 能力去掉 RECAST 也会显著下降，那「RAG 框架本身」的贡献就被高估。
  2. 「结构化 = 可验证性」叙事是否回避了 LLM 端的不确定性：2610.13695 把评测焦点放在引用准确率，但生成端的答案仍可能 hallucinate 在正确引用之上——「引对了条但解释错了意」是结构化 RAG 没堵住的漏洞。RAGE-KG workshop 接受 ≠ 解决了这个边界。
  3. 「训练免费 + 几何」叙事的真实代价：NEAR 离线建 anchor 表 + 多层 residual 拼接，实际部署成本（存储 + 检索 latency）作者没在 abstract 量化；也不能假设 ANN 库对拼接后向量的 latency 等同于单 embedding。若存储 / latency 成本高，训练免费的优势会被工程成本抵消。
  4. 「leakage-aware 基准」是否是评测体系的真正修复：RAG-PIBench 防住了 n-gram / embedding 级的 leakage，但不能防「攻击模式本身的流行度」泄漏到 LLM 端——若评测集注入模式与生产实际高度相似，protected-test 的「保护」只是数据级别，不是部署级别。一个工业落地后才发现的零日注入模式不会被该基准预演。

§十一 全部清单论文标识与链接（8 件全列）

  1. 2610.13695 · Verifiable Retrieval for Legal Reasoning through Structure-driven Knowledge Graph · https://arxiv.org/abs/2610.13695
  2. 2610.13314 · NEAR: Neighborhood-Aware Residuals for Memory Retrieval · https://arxiv.org/abs/2610.13314
  3. 2610.12085 · Is Memorization Context-Sensitive? Prefix-Based Extraction Beyond Isolated Prefixes · https://arxiv.org/abs/2610.12085
  4. 2610.10533 · EngramEdit: Decoupled Knowledge Updates in LLMs through Conditional Memory · https://arxiv.org/abs/2610.10533
  5. 2610.10515 · RoboJEPA: Scaling Robotic Latent World Models · https://arxiv.org/abs/2610.10515
  6. 2610.10507 · RECAST: Learning to Compute the Right Context through Adaptive Evidence Routing · https://arxiv.org/abs/2610.10507
  7. 2610.08674 · EC-RAG: Event Chain Retrieval-Augmented Generation for Long Video Understanding · https://arxiv.org/abs/2610.08674
  8. 2610.08571 · RAG-PIBench: A Leakage-Aware Benchmark for Prompt-Injection Detection in Trustworthy RAG Systems · https://arxiv.org/abs/2610.08571

§十二 立标池（重写或回写）

  1. 2610.10507 RECAST — 主立标 / RAG evolution / Evidence Construction；
  2. 2610.13314 NEAR — 主立标 / retrieval post-processing；
  3. 2610.13695 Legal KG — 主立标 / verifiable retrieval；
  4. 2610.08674 EC-RAG — 主立标 / multimodal long video；
  5. 2610.08571 RAG-PIBench — 主立标 / RAG security benchmark；
  6. 2610.12085 Memorization — 邻接 / RAG safety；
  7. 2610.10533 EngramEdit — 邻接 / knowledge editing；
  8. 2610.10515 RoboJEPA — 邻接 / latent world model。

§十三 边界声明（3 条）

  1. 本综述仅基于清单 a7d6254f-9c7d-4862-9b58-cf778b1bee03 给定的 materials 与 context（含 8 件 explainer + 2 件 coordination / digest inbox + 上棒位 spark 2026-10-11 RAG v2 综述 + knowledge/lessons/2026-W41），未自选旧材料、未扫全库、未另搜论文凑数量；
  2. 仅对 2 件清单论文（2610.13314 / 2610.10507）的 abstract 通过 web_fetch 做事实核查；其余 6 件以 abstract verbatim / explainer 引述为依据，verbatim 来源已显式标注；
  3. 「is_new = true」全数 8 件；本棒位为「承接稳态」非 NET-new 主立标棒位。