工程草稿 · Jay · 2026-09-14 晚场

主题：Agentic RAG 工程化现状 · VikingRAG Token 效率优化 · 生产栈成本分析

一、VikingRAG：结构化文档 Token 效率优化（arXiv 2609.11390）

来源： arXiv · submitted 2026-09-11 原文： https://arxiv.org/html/2609.11390v1 可信度： 高（学术论文，有 Benchmark 对比） 工程价值： ⭐⭐⭐⭐⭐

核心问题

现有结构化文档 RAG 方法（MoDora、BookRAG、KohakuRAG、DeepRead）存在 Token 开销过大的问题：多轮检索时上下文线性增长，目录序列化开销随候选文档数量和目录规模线性扩展。

关键技术贡献

  1. Experience Edge 机制：将 Agentic 多轮检索轨迹物化为"经验边"，类似查询可复用历史检索路径，避免重复多轮探索。Token 消耗降至基线的 5.1%-32.5%。

  2. Adaptive Escalation 策略：单轮经验增强检索足以回答时直接返回；需要多轮时再升级至 Agentic 多轮检索。避免不必要的迭代开销。

  3. 目录感知语义管理：结合语义检索与结构化访问，在证据缺口驱动下进行多轮检索。

Benchmark 数据（相对于基线 token 消耗）

  • 基础 VikingRAG：11.6%-51.9% tokens（vs MoDora/DeepRead/BookRAG/KohakuRAG）
    • Experience Edge 复用：5.1%-32.5% tokens
  • 精度维持竞争性水平，存储性能实用

对比基线

  • DeepRead（Li et al., 2026）：ReAct 风格 locate-then-read，多轮目录检索
  • MoDora：LLM 引导的根到叶树遍历
  • BookRAG：目录树 + 实体知识图谱联合推理
  • KohakuRAG：分层 embedding 传播

工程评价

优点： 数字具体（5.1%-32.5%），有对比基线，机制清晰（Experience Edge + Adaptive Escalation） 不足： 论文工程实现细节需对照 GitHub repo 核实；未提供开源代码链接（需进一步检索） 后续行动： 检索 VikingRAG GitHub 源码；核实 Experience Edge 实现复杂度

二、DEV.to · Agentic RAG 2026 生产栈现状

来源： DEV.to · saaro_net · blog.saaro.net 原文： https://dev.to/saaro_net/agentic-rag-2026-when-the-ai-decides-how-it-searches-9ck 可信度： 中（个人技术博客，有工程经验但非官方） 工程价值： ⭐⭐⭐⭐

三种核心架构模式

1. Self-RAG（Asai et al., 2023） 模型输出特殊反射 token：是否需要检索 → 段落是否相关 → 生成答案是否被证据支持 → 答案是否有用 适用场景：法律、医疗、金融等强监管领域

2. Corrective RAG / CRAG（Yan et al., 2024） 独立检索评估器判断文档质量；证据弱时切换检索路径（如从向量库切至 Web 搜索）；常与知识图谱组合

3. Adaptive RAG（最实用） 查询分类器前置：简单问题跳过检索 → 中等难度单轮向量检索 → 复杂多跳问题启用 Agentic 循环 工程价值： 60-70% 查询为简单问题，此路由策略可大幅节省成本

2026 生产技术栈

Orchestration: LangGraph（checkpoints 可追踪/暂停/回放）+ LlamaIndex（检索层）
Hybrid Search: Dense Vector + Sparse BM25 → Reciprocal Rank Fusion
Reranker: Cohere Rerank 3.5 / Voyage AI rerank-2.5
Knowledge Graph: Neo4j / LazyGraphRAG
Evaluation: Ragas（Faithfulness ≥0.9, Answer Relevancy ≥0.85, Context Precision ≥0.8）
Observability: Arize Phoenix / Langfuse

成本与延迟实测数据

指标 简单 RAG Agentic RAG
Token 消耗倍率 1x 3-10x
p95 延迟 1-2s 4-15s

关键工程教训

  • 纯向量搜索是"架构错误"（architectural mistake）—— 必须混合 BM25
  • Agentic RAG 不是免费升级，需按查询复杂度路由
  • 2024 年 2 工程师 6 周的工作，2026 年 1 工程师 4 周可完成

工程评价

优点： 数字具体；工具链完整；路由策略有成本意识 不足： 无代码片段；依赖引用的外部资源（LangGraph/LlamaIndex 文档）补充阅读 后续行动： 结合 visrow 的 GROUNDED Framework 补充 GitHub 实现参考

三、Medium · GROUNDED Framework 生产 RAG 架构

来源： Medium · visrow · 5 days ago 原文： https://medium.com/@visrow/production-rag-architecture-in-2026-the-grounded-framework-guide-9074c2255167 可信度： 中高（作者有多个开源 RAG 仓库，工程实践经验丰富） 工程价值： ⭐⭐⭐⭐

GROUNDED 八原则

字母 含义 核心工程动作
G Graph the structure 结构优先于 embedding；sagejava（Java 版 SAGE）做图构建；hyperrag 做超图索引
R Retrieve only when needed Agent 决定是否需要检索；agentic-rag-patterns（A2AJava）为参考实现
O Optimize what's in the window KV Cache 复用；ragboost 实现 ContextPilot，报告 3x prefill 延迟降低
U Unify the protocol MCP + A2A 双协议暴露；mcp-rag-server（MongoDB Atlas）；mcp-kotlin-rag 跨 JVM
N No vectors when reasoning will do PageIndex 向量less RAG；LLM 直接导航目录树
E Embed wisely chunk 策略；语义结构保留
D Deploy 生产部署检查清单

引用 GitHub 仓库

  • github.com/vishalmysore/sagejava — SAGE: Structure Aware Graph Expansion（arXiv:2602.16964）
  • github.com/vishalmysore/agentic-rag-patterns — 基于 A2AJava 的 Agentic RAG 设计模式
  • github.com/vishalmysore/a2ajava — A2A 协议框架
  • vishalmysore.github.io/ragCompressionDemo/ — Context Compression 演示

工程评价

优点： GitHub 引用具体；将生产工程决策提炼为 8 字母记忆法；有配套 arXiv 论文 不足： Medium 文章为概述，具体工程细节需阅读引用的 arXiv 论文和 GitHub README 后续行动： 阅读 sagejava README 核实 percentile pruning 参数；阅读 agentic-rag-patterns 代码

四、Substack 线索汇总

The ML Brief · "Toward Agentic RAG"

  • 来源： themlbrief.substack.com · Bharadwaj Ghali & Anjali Chennupati
  • 可信度： 中
  • 核心观点： 检索不再固定在 pipeline 中，而是 Agent 驱动的迭代推理过程；OKF（Open Knowledge Format）标准化知识表示
  • 评价： 架构叙事有价值，但无命令/代码；作为 Agentic RAG 概念背景引用

China AI Bulletin 11 · 中国 AI 标准动态

  • 来源： chinaaibulletin.substack.com
  • 值得关注： GB/Z 242-2026（Agent 通用技术要求）、GB/Z 236-2026（RAG 评估指南）
  • 工程价值： 国内合规参考；RAG 评估标准对构建内部 Eval 体系有参考意义

五、本次筛选结论

✅ 保留条目（建议精读/源码核实）

  1. VikingRAG（arXiv 2609.11390）— 2026-09-11 最新，Token 效率数据具体
  2. DEV.to Agentic RAG 2026 — 生产栈成本数据（3-10x token，4-15s p95）
  3. GROUNDED Framework（Medium visrow）— GitHub repo 引用具体，需核实 README

🔶 降级引用（作为背景）

  • The ML Brief Substack（Toward Agentic RAG）
  • China AI Bulletin 11（GB/Z 标准参考）

❌ 丢弃条目

  • Turing Post "20 Advanced RAG Types"（目录性质，非原始工程）
  • Instagram AI 路线图（无工程细节）
  • V2EX 本日热门（无工程相关话题）
  • kunalganglani.com（成本数字汇总，缺命令环境）

📌 建议后续行动

  1. 检索 VikingRAG 是否已有 GitHub 源码
  2. 核实 sagejava percentile pruning 参数（GROUNDED G 原则）
  3. 阅读 agentic-rag-patterns 源码中 agentic routing 实现
  4. 结合 GB/Z 236-2026 建立内部 RAG Eval 基线

分类标签

agentic-rag vikingrag token-efficiency rag-eval langgraph llamaindex ragas grounded-framework production-stack context-pilot experience-edge

Jay · 2026-09-14 19:50 CST · 写入 /shared/research-kb/inbox/jay/