Jay · 工程筛选报告 · 2026-07-01 上午档

筛选时间：2026-07-01 10:50 (Asia/Shanghai) 筛选角色：Jay（工程实践视角） 筛选对象：今日（2026-07-01）全部收录草稿 · 重点判断是否含真实环境、命令、错误、源码、性能数据、可复现步骤

一、候选条目总览

二、🔴 保留条目（高工程价值）

条目 1 ✅ 保留：vLLM vs Ollama A10 卡实测对比

保留理由： - ✅ 真实硬件环境：A10 GPU（具体卡型） - ✅ 实测 benchmark 数据：首 Token 延迟（ms）、QPS、显存占用（GB）三框架对照表 - ✅ 真实错误与解决方案：CUDA Graph 在 A10 上失败率>60%，关闭 enforce-eager 后延迟波动降 85% - ✅ 可复现命令：--enforce-eager、--max-num-seqs 128、--enable-chunked-prefill - ✅ 环境细节：WSL2 Docker 网络路径问题（host.docker.internal vs 172.17.0.1）

质量判断：⭐⭐⭐⭐⭐ 这是本批最高工程价值条目，核心在于 A10 卡的真实调参踩坑记录，包含临界参数（128 vs 140 的边界效应）和量化数据。

条目 2 ✅ 保留：AutoDL + LLaMA Factory 微调完整记录

保留理由： - ✅ 完整复现步骤：实例申请 → git clone --depth 1 → conda 环境 → 依赖安装 - ✅ 真实端口和 IP 配置：--server-name 0.0.0.0 --server-port 6006 - ✅ 模型来源：HuggingFace URL（Qwen/Qwen2.5-0.5B-Instruct） - ✅ 数据格式：JSONL 三元组（instruction-input-output） - ✅ 训练超参记录：学习率、LoRA 秩值等 - ✅ API 部署命令：vllm 或 HuggingFace backend 二选一

质量判断：⭐⭐⭐⭐⭐ 云 GPU 微调的端到端实战记录，步骤链完整，适合作为同类操作的命令参考。

条目 3 ✅ 保留：AI Agent Memory 十大框架横评

保留理由： - ✅ 框架性能横评表：MemTree、MemOS、MemoryOS（树状/分层结构）性能最优 - ✅ 具体结论数据：7B→72B 时间推理性能翻倍 - ✅ 源码框架拆解：A-MEM、Zep(Graphiti)、MemoryBank、MemGPT、Mem0、MemoChat 等代码路径 - ✅ 协议动态：MemSearch 实现跨客户端记忆共享（Claude Code ↔ OpenClaw ↔ Codex CLI） - ✅ 2027 趋势预判：MCP 成为 Agent Memory 互操作事实标准

质量判断：⭐⭐⭐⭐⭐ 本批 Agent Memory 主题的最完整横评，含实测数据支撑框架性能排序，而非纯概念罗列。

条目 4 ✅ 保留：Dify/Coze/飞书 RAG 架构对比

保留理由： - ✅ 架构流程图：Knowledge Pipeline（文档解析→切片→Embedding→Vector DB） - ✅ 混合检索实现：BM25 + Vector Search + Graph Search 三路混合代码示例 - ✅ 平台对比：Coze Agent Runtime 架构（User→Planner→Workflow→Tool→Knowledge→Memory→LLM） - ✅ ACL 权限模型：飞书/企业场景的访问控制设计 - ✅ Multimodal RAG：文本+图像+音频跨模态检索链路

质量判断：⭐⭐⭐⭐⭐ RAG 工程架构的实战对比，含代码片段和平台架构图，是 GraphRAG/Multimodal RAG 实施的直接参考。

条目 10 ✅ 保留：arXiv 2605.01280 — LLM Serving 需要数学优化

保留理由： - ✅ 核心论点有理论支撑：LLM 推理的 prefill-decode 相位不对称、输出长度未知、continuous batching 约束等结构特性 - ✅ 具体算法分析：JSQ 路由、FIFO 调度、LRU 淘汰的失效条件 - ✅ 性能保证证明：Chen et al. 2026 证明 Ω(√(B log G)) 负载不均衡降低倍数 - ✅ 与 vLLM/SGLang 生产调优直接相关

质量判断：⭐⭐⭐⭐⭐ 推理系统工程化方向的理论基石，适合作为推理优化主题页的核心参考文献，而非单纯经验性结论。

条目 11 ✅ 保留：WRP — vLLM 语义路由三维框架

保留理由： - ✅ vLLM 官方项目：Semantic Router Project 的愿景论文 - ✅ 三维优化框架：信号驱动语义路由 + 上下文长度池路由 + Token budget 池路由 - ✅ 生产级覆盖：语义缓存、多模态 Agent 路由、Tool Selection、CUA 安全 - ✅ 具体应用场景：用户反馈驱动的路由适应

质量判断：⭐⭐⭐⭐⭐ vLLM 生产部署的架构级参考，是 WRP 语义缓存主题页的核心文献来源。

条目 12 ✅ 保留：MCP 2026 安全缺陷与 UTCP

保留理由： - ✅ 真实安全事件：2025-2026 年 MCP Server 多起安全事件，跨 Agent 横向移动攻击路径 - ✅ 具体缺陷量化：双跳延迟（Double-hop latency）、上下文窗口膨胀的 Token 影响 - ✅ 替代方案具体数据：UTCP 复杂多步工作流快 60%、Token 少 68%、往返次数少 88% - ✅ 适用场景分类：MCP 仍适用的场景 vs UTCP 更适合的场景

质量判断：⭐⭐⭐⭐ Agent 基础设施选型的安全维度必备参考，但 UTCP 性能数据需交叉验证（独立博客来源）。

条目 13 ✅ 保留：向量数据库 2026 benchmark 对比

保留理由： - ✅ 真实 benchmark 数据：1M/5M/50M vectors 不同规模下的 QPS 和 p95 延迟对照表 - ✅ 具体配置参数：pgvector HNSW (m=16, ef_construction=64)、IVFFlat (lists=100) 等 - ✅ 量化对比结论：pgvectorscale + Timescale 50M vectors 达 471 QPS，比 Qdrant 快 11.4 倍 - ✅ 选型建议具体化：按规模（<2M/5M+/50M+）和场景（多租户/sub-20ms/自托管）给出建议 - ✅ 平台真实：Kalvium Labs 2026 年最新测试

质量判断：⭐⭐⭐⭐⭐ 向量数据库选型的核心数据源，含具体 benchmark 参数和量化结论，可直接作为选型决策依据。

三、🟡 降级保留条目（中等工程价值·参考性入库）

条目 5 🟡 降级：RAG 技术全解析（2026版）

降级理由： - ✅ 工具选型表：FAISS、Chroma、Milvus、Pinecone、Weaviate 对比 - ✅ 四代演进框架：Naive RAG → Advanced RAG → GraphRAG → Modular RAG - ⚠️ 缺真实环境命令：主要是框架概述，缺乏实测或源码分析 - ⚠️ 缺性能数据：只有工具名称，缺少 benchmark 数据

最终决定：参考性入库，作为 RAG 综述文档，与条目 4（Dify/Coze 架构）配合归档，不作为精读优先项。

条目 6 🟡 降级：LLM→Agent 完整解析

降级理由： - ✅ 有开发环境搭建命令：python -m venv ai_env + pip install langchain/chromadb/faiss-cpu - ✅ 有 RAG 流程和 MCP 协议解释 - ⚠️ 面向入门级别，工程深度有限 - ⚠️ 无实测数据或生产环境命令

最终决定：参考性入库，作为 MCP/Agent 入门补充读物，不作为精读优先项。

条目 8 🟡 降级保留：FastContext 代码库探索模型

降级理由： - ✅ GitHub 990 Stars，Microsoft Research，有真实落地场景（Coding Agent Token 消耗 >50%） - ✅ 核心创新方向有价值：探索与解决解耦 - ⚠️ 缺原论文链接和具体架构参数 - ⚠️ 缺源码或复现命令

最终决定：参考性入库，关注原论文（arXiv）精读，GitHub Stars 数量说明工程关注度高。

条目 14 🟡 降级保留：DesignGurus LLM 推理四杠杆

降级理由： - ✅ 四杠杆框架完整：Batching / Caching / Routing / Cost Control - ✅ 有规模化视角：盈利 vs 每请求亏损的本质区别 - ⚠️ 部分付费内容（免费摘要有限） - ⚠️ 缺具体 benchmark 数据和命令

最终决定：参考性入库，适合作为推理系统设计框架，付费部分可后续获取。

条目 15 🟡 降级保留：The AI Engineer AI Agents Stack 2026

降级理由： - ✅ 六层架构具体：L1 模型路由、L2 MCP 协议、L3 记忆、L4 编排框架、L5 评估、L6 Guardrails - ✅ 有 Cursor 内部实践引用（每 90 分钟重训接受率模型） - ✅ 反面案例有价值：LangGraph 14 节点 vs 50 行 OpenAI SDK + 2 MCP Server - ⚠️ 缺具体命令和源码 - ⚠️ 偏架构概述，非工程落地细节

最终决定：参考性入库，适合作为 Agent 架构主题页的 2026 年更新参考。

条目 19 🟡 降级保留：Know Before You Fetch — RAG Budget Allocation

降级理由： - ✅ 具体问题：固定检索数对简单查询浪费，对复杂查询不足 - ✅ 解决方向：校准检索预算分配 - ⚠️ cs.IR 领域（信息检索），与 LLM 工程实践有一定距离 - ⚠️ 缺实际代码和性能数据

最终决定：参考性入库，关注 RAG 检索优化的研究人员可精读。

四、🟢 丢弃条目

五、最终工程筛选结论

🔴 直接精读推荐（入库优先级：高）

1. vLLM vs Ollama A10 实测 → 推理部署主题页核心参考（A10 调参避坑表）
2. AutoDL + LLaMA Factory 完整记录 → 微调主题页命令参考（端到端步骤链）
3. AI Agent Memory 十大框架横评 → Agent Memory 主题页核心文献（2026 年年中更新）
4. Dify/Coze/飞书 RAG 架构 → RAG 主题页架构参考（含代码示例）
5. arXiv 2605.01280 LLM Serving 数学优化 → 推理优化主题页理论基础
6. WRP vLLM 语义路由框架 → 推理系统架构主题页核心参考
7. 向量数据库 2026 benchmark → 向量数据库选型主题页核心数据

🟡 参考性入库（中优先级）

8. MCP 2026 安全缺陷 → Agent 安全主题页
9. FastContext → Coding Agent 主题页关注
10. RAG 技术全解析（2026版）→ RAG 综述
11. The AI Engineer Stack 2026 → Agent 架构主题页 2026 更新
12. DesignGurus LLM 推理四杠杆 → 推理系统设计框架

六、建议写入路径

• 主草稿：/shared/research-kb/inbox/jay/2026-07-01-1050-engineering-filter-vllm-llamafactory-agentmemory-vecdb.md

七、检索元数据

• 筛选时间：2026-07-01 10:50 (UTC+8)
• 筛选范围：今日全部收录（2026-07-01 08:00 - 10:50）
• 候选总数：19 条
• 保留：12 条（🔴高价值 7 条 + 🟡参考性 5 条）
• 丢弃：7 条（🟢 低工程价值）
• 本次过滤率：36.8%

八、分类标签

vLLM Ollama A10 Benchmark LLaMA-Factory AutoDL LoRA 微调 推理部署 Agent Memory MemGPT Mem0 MemTree RAG GraphRAG Dify Coze Multimodal RAG LLM Serving 推理优化 WRP Semantic Router MCP 安全 UTCP 向量数据库 pgvector Qdrant Pinecone Benchmark Coding Agent FastContext Batching Caching Routing AI Agent 架构

九、主题页更新建议