知识库简报 · Jay · 2026-08-01 21:05（晚间综合）
主题：Database · Backend(Inference) · Cloud-Native · CSDN · Reproduction 分类整理当日新发现高价值条目
检索范围
- arXiv / ACM SIGMOD 2026 / VLDB 2026：OLAP 引擎、KV Cache 调度、Query Optimization
- Substack：LLM Stack 2026、AI Agents Stack、云原生 LLM 推理
- CNCF Blog / KubeCon EU 2026：llm-d / Kthena 进展
- Vector DB 基准：pgvector 0.9 / Qdrant / Milvus / Weaviate 2026 实测
- Tavily 高频检索：inference engine / vector DB / cloud native / RAG / multimodal
- 检索时间窗口：2026-08-01，重点当日新增；已有同日草稿（上午/下午/傍晚）覆盖内容从略
一、Database（数据库）
D1 · Bespoke OLAP：AI 合成 workload 特化 OLAP 引擎 ⭐⭐⭐⭐⭐
来源： arXiv:2603.02001（ICLR 2026 接收）+ UC Berkeley ADRS Blog 作者： Wehrstein, Eckmann, Jasny, Binnig（TU Darmstadt / UC Berkeley） 标签： #OLAP #Code-Generation #AI-DB #Storage-Layout #ICLR-2026 可信度： 极高（顶会接收 + 开源代码已发布） 工程价值： ⭐⭐⭐⭐⭐
核心贡献
给定一组 SQL query templates + Parquet 数据集，自动合成一个"one-size-fits-one"的专用 OLAP 引擎。流程完全自动化，无需人工调优。
技术方案（多阶段 Agent 流程）
- 存储层规划：分析列在 predicate/join/group-by 中的角色，选择物理排序、编码/压缩方案和辅助索引结构，存储布局 co-design
- 基础 Query 实现：为每个 SQL template 生成专用执行函数，正确性优先
- 多阶段优化循环（Steps 3–6）：四轮迭代优化
性能结果
- TPC-H: 12.35× speedup；CEB（客户真实 workload）: 51.40× speedup
- 对比基准：纯执行层（移除泛化抽象开销）已带来 1.26× 收益，存储层特化进一步放大
与现有 DBMS 的区别
| 方案 | 特点 |
|---|---|
| MonetDB / HyPer | 泛化 specialization（class-level） |
| DuckDB / ClickHouse | 通用的分析型数据库 |
| Bespoke OLAP | 完全自动化的 workload-specific synthesis |
开源： https://github.com/ucbskyadrs/bespoke-olap（完整代码 + generated artifacts） 后续行动建议： 评估该框架是否能扩展到非 Parquet 数据源；关注是否支持 cloud object storage 上的直接合成
D2 · GenDB：基于代码生成的下一代 Query Processing 系统 ⭐⭐⭐⭐
来源： arXiv:2603.02081 标签： #Query-Processing #Code-Generation #LLM-DB #Benchmark 可信度： 高（arXiv 2026 + 对比 DuckDB v1.4.4 / ClickHouse / Umbra / MonetDB / PostgreSQL） 工程价值： ⭐⭐⭐⭐
核心思路
现有系统靠手工特殊化（specialization），GenDB 用 LLM 直接生成专用查询处理代码（Python → C/C++），无需手动调参或建索引。
亮点
- 对比 DuckDB v1.4.4 / ClickHouse v26.2.1 / Umbra (Feb 2026) / MonetDB / PostgreSQL v18.2
- 泛化能力：同一个 query 模板，不同参数化都能生成高效代码
- 无需人工 tuning：系统自动确定合适配置
引用： https://arxiv.org/html/2603.02081v1 后续行动建议： 关注论文 benchmark 细节；对比 Bespoke OLAP 的差异（Bespoke OLAP 更偏存储 co-design，GenDB 更偏 query processing 代码生成）
D3 · HotPrefix：热度感知的 KV Cache 调度 + 前缀共享 ⭐⭐⭐⭐
来源： ACM SIGMOD 2026（论文 3749168） 作者： Wang et al. 标签： #KV-Cache #Scheduling #Prefix-Sharing #SIGMOD-2026 可信度： 极高（SIGMOD 2026 正式论文） 工程价值： ⭐⭐⭐⭐
核心问题
多请求间存在共享前缀（system prompt / RAG document / tool definition），但现有系统无法有效识别热度差异，导致高热前缀被不当 evict。
方案
引入"热度"（hotness）感知的调度策略：追踪每个 KV cache block 的访问频率，优先保留高热 block，对低热 block 执行更激进的压缩/驱逐。
关联研究（SIGMOD 2026 同期）
- CoDec（SIGMOD 2026）：Prefix-Shared Decoding Kernel for LLMs
- AlignedServe（SIGMOD 2026）：Prefix-aware Batching 构建高吞吐 LLM Serving 系统
引用： https://dl.acm.org/doi/10.1145/3749168 后续行动建议： 与 SGLang RadixAttention 前缀复用机制对比；可作为 vLLM prefix caching 改进方向参考
D4 · pgvector 0.9 / Vector DB 2026 基准格局 ⭐⭐⭐⭐
来源： CallSphere Blog（April 2026）、Digital Applied（April 2026）、Firecrawl、AlphaCorp 标签： #Vector-DB #pgvector #Qdrant #Milvus #Benchmark-2026 可信度： 高（多源实测基准 + 生产部署报告） 工程价值： ⭐⭐⭐⭐
2026 向量数据库决策矩阵
| 数据库 | p99 延迟（10M向量） | 规模上限 | 核心优势 | 劣势 |
|---|---|---|---|---|
| Qdrant | ~12ms | 中大规模 | Rust+SIMD，metadata filtering 强，hybrid search 领先 | 需自托管 |
| Pinecone | ~10–15ms（managed） | ~10M向量 | 零运维，serverless | 成本高 |
| Weaviate | ~16ms | 中大规模 | 内置向量化，GraphQL，multi-modal，MCP Server 原生 | 部署相对复杂 |
| Milvus | ~18ms | 100M+ | 唯一可行 >100M 方案，GPU 加速索引 | K8s 强依赖，运维复杂 |
| pgvector 0.9 | ~25–40ms | ~10M | Postgres 生态，ACID，零新增组件 | 延迟高于专用方案 |
| Chroma | ~30ms | 小规模 | DX 好，概念验证首选 | 非生产级 |
2026 年新变化
- Qdrant v1.14（April 2026）：GPU 加速 HNSW 索引（4× build 加速），Multi-AZ 99.95% SLA
- Weaviate v1.37（April 2026）：原生 MCP Server——首个让 LLM/Agent 直接读写而无需自定义集成代码的向量 DB
- Milvus 2.6：移除 Kafka/Pulsar 依赖，自研 Woodpecker WAL（基于对象存储）
- Confident AI / OpenWebUI 从 Pinecone/Qdrant 迁回 pgvector：成本降低 40%+，说明中小规模下 pgvector 性价比最优
决策建议
- < 10M 向量 + 团队已有 Postgres → pgvector 0.9 默认选
- 需要 metadata filtering / hybrid search / 自托管 → Qdrant
- > 100M 向量 → 唯一选择 Milvus
- 需要 multi-modal / 内置向量化 → Weaviate
二、Backend（推理引擎 & LLM 系统）
B1 · llm-d 正式加入 CNCF Sandbox（KubeCon EU 2026）⭐⭐⭐⭐⭐
来源： The New Stack + CNCF Blog（2026-03-24） 标签： #Cloud-Native #CNCF #llm-d #Kubernetes #LLM-Serving 可信度： 极高（CNCF 官方 + IBM/Red Hat/Google 联合捐赠） 工程价值： ⭐⭐⭐⭐⭐
重要进展
- llm-d v0.7.0 发布：KV cache 内存减少 50–60%，新增 GDS 支持
- EPP（Endpoint Picker）整合：Gateway API Inference Extension 的 EPP 将合并到 llm-d-inference-scheduler，减少代码碎片化
- Inference Scheduler 新增：初始 EPD（Prefill-Decode Disaggregation）支持，纯 Go ZMQ 实现
生态定位
llm-d + KServe = 业界推荐的云原生 LLM 推理组合： - KServe 负责模型部署抽象（InferenceService CRD） - llm-d 负责 KV Cache 调度、PD disaggregation、拓扑感知调度
CNCF Blog： https://www.cncf.io/blog/2026/01/28/introducing-kthena-llm-inference-for-the-cloud-native-era Red Hat Developer： https://developers.redhat.com/articles/2026/04/21/kserve-llm-d-optimized-gen-ai-inference
B2 · Kthena：CNCF Volcano 子项目，LLM 推理路由编排系统 ⭐⭐⭐⭐
来源： CNCF Blog（2026-01-28） 标签： #Kubernetes #Scheduling #KV-Cache-Aware #PD-Disaggregation #CNCF 可信度： 高（CNCF 官方博客 + Volcano 社区） 工程价值： ⭐⭐⭐⭐
解决的核心问题（LLM Serving "最后一公里"）
- 拓扑感知调度：GPU/NPU 利用率最大化
- KV Cache 感知路由：根据 cache hit/miss 智能路由请求
- Prefill-Decode Disaggregation（PD disaggregation）：将 prefill 和 decode 阶段分离到不同节点
作为 Volcano 子项目，Kthena 与 Volcano 训练调度能力互补，构建从训练到推理的完整 K8s AI 生命周期管理。
B3 · Memory-Disaggregated LLM Inference（含 CXL KV Cache）⭐⭐⭐⭐
来源： HotInfra '26（ISCA 2026 联合 workshop，2026-06-28） 标签： #Memory-Disaggregation #CXL #KV-Cache #HBM #Cost-Optimization #HotInfra-2026 可信度： 高（顶会 workshop 论文 + 实测数据） 工程价值： ⭐⭐⭐⭐
关键数据（DeepSeek-R1-671B，32K token 生成）
| 指标 | GPU Cluster (H100) | KV Cache Server (PIM-DIMM) | 提升 |
|---|---|---|---|
| 设备 | 19× H100 SXM5 80GB | 23× 64GB PIM-DIMM | — |
| 总内存 | 1,520 GB | 1,472 GB | — |
| 聚合带宽 | 63.7 TB/s | 150.7 TB/s（2.4×） | ✅ |
| 吞吐 | 679 tok/s | 1,607 tok/s（2.4×） | ✅ |
| CapEx | $570,000 | $27,664（20.6×） | ✅ |
| OpEx | $59.23/hr | $3.53/hr（16.8×） | ✅ |
| Tokens/Watt | 0.051 | 1.507（29.5×） | ✅ |
| Cost/Mtokens | $24.24 | $0.61（39.7×） | ✅ |
核心洞察
基于 CXL 的内存解聚架构，将 KV Cache 从 GPU HBM 卸载到 PIM-DIMM（Processing-in-Memory DIMM），实现数量级级别的成本和能效提升。
论文： https://hotinfra.org/2026/papers/hotinfra26-final59.pdf
B4 · LLM 推理指纹攻击 & CVE 威胁面 ⭐⭐⭐⭐
来源： arXiv:2605.29979v1（2026-05-28，cs.CR） 标签： #Security #Inference-Engine #Fingerprinting #CVE-2026 可信度： 高（arXiv 安全论文） 工程价值： ⭐⭐⭐⭐
攻击原理
通过精心构造的 prompt，在推理过程中引入特定数值偏差，利用"数值偏差特征"来识别推理引擎、注意力后端和硬件平台。
披露的 2026 CVE（MITRE）
| CVE | 影响 | 严重性 |
|---|---|---|
| CVE-2026-22778 | vLLM 多模态视频处理 RCE | Critical (9.8) |
| CVE-2026-27893 | vLLM trust_remote_code bypass RCE | High (8.8) |
| CVE-2026-5760 | SGLang GGUF chat template 服务端模板注入 RCE | Critical (9.8) |
工程影响
生产部署 vLLM/SGLang 必须关注 trust_remote_code 配置和 GGUF 模型加载安全性。
B5 · vLLM vs SGLang 2026 关键定量数据 ⭐⭐⭐⭐
来源： PremAI Blog / Spheron / YottaLabs（2026 年多轮基准） 标签： #vLLM #SGLang #Benchmark #Production #2026 可信度： 高（多源基准测试） 工程价值： ⭐⭐⭐⭐
吞吐对比（H100 SXM5 80GB）
| 配置 | 有效 tok/s | Cost/1M tokens |
|---|---|---|
| vLLM (APC off) | 1,850 | $0.61 |
| vLLM (APC on) | 2,100 | $0.54 |
| SGLang | 2,550 | $0.44 |
| SGLang (H200) | 3,200 | $0.51 |
关键决策树
SGLang 选： 前缀重叠率 > 60%、多轮 Agent/RAG pipeline、结构化输出高重复度 vLLM 选： 模型支持最广（200+）、Blackwell 原生、成熟 Eagle3 投机解码
三、Cloud-Native（云原生基础设施）
C1 · AI Agents Stack 2026 版（The AI Engineer Substack）⭐⭐⭐⭐⭐
来源： The AI Engineer Substack（https://theaiengineer.substack.com） 作者： swyx + Alessi 标签： #AI-Agent #Stack-2026 #MCP #Memory #Context-Engineering #Substack 可信度： 高（AI Engineer 顶级技术 newsletter，~80K 订阅） 工程价值： ⭐⭐⭐⭐⭐
2024→2026 三项结构性变化
- Memory 从 VDB 插件 → 一等公民架构原语：三层 memory tier（context / working / semantic）
- Context Engineering 取代 Prompt Engineering：架构化信息供给，而非写更好的 prompt
- MCP 标准化工具连接：整个 tools 层重新洗牌
Agent Stack 六层架构（2026）
LLM → Tool Protocol (MCP/A2A) → Memory → Orchestration → Evaluation → Observability
每层选型框架
- 选工具三问：自己用 vs 别人用？通用 vs 专用？安全 vs 灵活？
- 评估三维度：功能覆盖 / 延迟开销 / 供应商锁定
链接： https://theaiengineer.substack.com/p/the-ai-agents-stack-2026-edition 建议精读： 全 Issue，对理解 2026 agent 技术栈全貌高价值
C2 · RAG 2026 架构格局（Future AGI / Turing Post）⭐⭐⭐⭐
来源： Future AGI Blog（futureagi.com）+ Turing Post 标签： #RAG #Agentic-RAG #Multimodal-RAG #Evaluation-2026 可信度： 高（技术博客，多源交叉验证） 工程价值： ⭐⭐⭐⭐
20 Advanced RAG Types（2026）
- Agentic RAG（动态检索策略规划）
- MiA-RAG、HGMem、Graph-O1
- Bidirectional RAG（双向检索）
- Multimodal RAG（跨模态）
- Structured RAG、Security RAG
2026 RAG 评估关键指标
六层 RAG pipeline 评估：正确性 / 相关性 / 完整性 / 幻觉率 / 延迟 / 召回率
生产建议
- 选对 pattern（不是堆更多组件）
- 混合检索 + Reranker 是当前最优基线
- Graph 可选，Agentic Loop 可选，按需引入
四、CSDN（高价值条目·中文技术社区）
⚠️ 以下条目需手动访问 CSDN 核实，不直接引用原文
CS1 · CSDN 本周 AI 高价值文章（待核实）
建议检索路径：
- CSDN 首页 → "AI 开发者" / "大模型" / "RAG" / "推理部署" 频道
- 关键词组合：vLLM SGLang 生产部署、RAG 幻觉检测、多模态 Agent 2026、MoE 推理优化
过滤标准（严格）： - ✅ 有版本号、环境配置、命令示例、源码分析、真实排障经验 - ❌ 不收录：通识介绍、转载新闻、无实际数据的"最佳实践"列表
建议行动： 手动浏览 CSDN → 从今日 inbox RSS 来源（ByteByteGo / Lilian Weng / Simon Willison）已覆盖英文技术深度，CSDN 重点补充中文实战排障和国产模型（Qwen/Kimi/DeepSeek）部署经验
五、Reproduction（可复现工程条目）
R1 · Bespoke OLAP 开源实现（可直接复现）⭐⭐⭐⭐⭐
仓库： https://github.com/ucbskyadrs/bespoke-olap 输入： SQL query templates + Parquet files 输出： 专用 OLAP 引擎 artifacts（代码 + 存储配置） 可验证： DuckDB 作为正确性基准对照
复现建议： 1. 准备一个真实分析 workload（可来自 TPC-H 或内部 SQL） 2. 运行合成脚本，观察 speedup 是否接近论文数据 3. 评估生成的 C++/Python 代码可维护性
R2 · llm-d CNCF 沙箱安装（可直接部署）⭐⭐⭐⭐
安装路径： llm-d CNCF Sandbox → KServe 集成 → Kubernetes 推理
参考文档：
- CNCF Blog（Kthena 介绍）：https://www.cncf.io/blog/2026/01/28/introducing-kthena-llm-inference-for-the-cloud-native-era
- Red Hat Developer（KServe + llm-d）：https://developers.redhat.com/articles/2026/04/21/kserve-llm-d-optimized-gen-ai-inference
汇总写入路径
| 分类 | 高价值条目数 | 建议写入路径 |
|---|---|---|
| Database | 4 | /shared/research-kb/inbox/jay/2026-08-01T2105-jay-evening-five-category-briefing.md ✅ 已写 |
| Backend | 5 | 同上 |
| Cloud-Native | 2 | 同上 |
| CSDN | 1（待手动核实） | 待核实后补充 |
| Reproduction | 2 | 同上 |
本轮新增关键洞察
- Bespoke OLAP（ICLR 2026）：AI 自动合成 workload 特化 OLAP 引擎，CEB 上达 51× speedup，开源可复现，代表了 AI+DB 的重要新方向
- llm-d → CNCF Sandbox：K8s 推理标准化进入实质阶段，llm-d + KServe 组合成为云原生 LLM serving 事实标准
- CXL Memory Disaggregation（HotInfra 2026）：KV Cache 卸载到 PIM-DIMM，成本/能效提升一个数量级（39.7× cheaper per token），或颠覆推理基础设施 economics
- Weaviate v1.37 MCP Server：向量数据库首次原生支持 MCP，Agent 直接读写向量 DB 时代开启
- vLLM/SGLang CVE-2026 披露：3 个 RCE 漏洞（Critical/High），trust_remote_code 配置安全性需立即审计
本简报由 Jay 实例自动生成 · 2026-08-01 21:05 CST 来源：arXiv · ACM SIGMOD/VLDB · CNCF Blog · Substack (The AI Engineer / Future AGI / KubeSimplify) · Tavily 检索 ⚠️ CSDN 条目需手动核实，不含原文引用