知识库简报 · Jay 五类目 · 2026-07-31 下午场

实例: Jay | 日期: 2026-07-31 | 时间: 15:05 CST 主题: Database OLAP 新研究 · Cloud-Native Platform Engineering · Substack AI Agent Stack 2026 · 推理引擎选型补编 · Bespoke OLAP / LAAR 路由


📦 一、Database · OLAP 数据库与存储引擎

高价值条目

1. Bespoke OLAP: 面向工作负载的 AI 合成数据库引擎(Wehrstein et al., arXiv:2603.02001)

  • 来源: https://ucbskyadrs.github.io/blog/bespoke-olap | arXiv:2603.02001
  • 发表: arXiv 2026-02,Cited by 2026 VLDB/ICDE 多篇
  • 可信度: ⭐⭐⭐⭐⭐ — UC Berkeley ADRS 实验室,Carsten Binnig 联合署名(SIGMOD/VLDB 常客)
  • 核心内容:
  • 核心思想:给定一组 SQL 查询模板 + Parquet 数据集,AI Agent 自动合成"专用 OLAP 引擎"——物理存储布局(sort order、encoding/compression)按查询工作负载 co-design,执行代码逐个查询生成,然后进入 4 轮 benchmark 驱动的优化循环
  • 生成流程:存储布局规划 → 基础查询实现(与 DuckDB 对比验证正确性)→ 4 轮 profile-guided 优化
  • 性能结果:对比 DuckDB,对 TPC-H 子集最高加速 89×(平均 10-50× 量级);对比 ClickHouse,部分查询更快
  • 开源: GitHub 有生成引擎产物,可直接下载运行;完整 pipeline 可复现
  • 定位: One-size-fits-one(每个工作负载一个引擎),而非 one-size-fits-all(ClickHouse)或 embedding-only( DuckDB)
  • 评价: 与 Jailbreak(arXiv:2607.07696v1,LLM 合成存储解码层)同属 2026 年"LLM 生成数据库系统代码"方向;两者互补——Bespoke OLAP 生成执行层,Jailbreak 生成存储层
  • 后续行动: 建议精读原 paper;关注与 ClickHouse / DuckDB 的实测对比;探索在工作负载分析场景的复现可行性
  • 标签: #BespokeOLAP #LLM合成数据库 #OLAP #StorageCoDesign #arXiv2026 #UCBerkeley

2. Jailbreak: LLM 合成数据库存储解码层(arXiv:2607.07696v1)

  • 来源: https://arxiv.org/html/2607.07696v1
  • 可信度: ⭐⭐⭐⭐⭐ — 学术工作坊论文(HotInfra '26,与 ISCA 26 联合),有 benchmark 数据
  • 核心内容:
  • 核心思想:用 LLM 自动合成数据库存储格式的二进制解码器(如 Parquet、ORC、Arrow),替代手工编写的解码逻辑
  • 方法:二进制格式规范 + 确定性正确性 Oracle(reference decoder 输出)→ LLM 生成候选解码器 → 自动测试筛选
  • 相关工作对比:GenDB(合成整个查询处理 pipeline)、Bespoke OLAP(合成专用 OLAP 引擎)——Jailbreak 定位在存储摄取的二进制解码层,与 Bespoke OLAP 正交
  • 意义:存储层正确性是数据库质量的基础,自动生成解码器降低手工工程量
  • 评价: 与 Bespoke OLAP 共同构成"LLM 生成数据库系统"的完整图景(执行 + 存储);建议与 Bespoke OLAP 合并建主题页「LLM-Native 数据库系统 2026」
  • 后续行动: 关注 HotInfra '26 会议上是否有进一步 benchmark 数据;与 DuckDB / Polars 存储解码性能对比
  • 标签: #Jailbreak #LLM合成存储 #Parquet #ORC #数据库存储 #HotInfra2026

3. LAAR: Long-Context-Aware 分布式 LLM 路由(arXiv:2604.15732v1)

  • 来源: https://arxiv.org/html/2604.15732v1
  • 可信度: ⭐⭐⭐⭐⭐ — arXiv 2026,有完整数学模型和 Envoy EPP 实现
  • 核心内容:
  • 问题:长上下文工作负载(100K-1M tokens)下,prefill 计算主导成本、内存带宽瓶颈、cache 管理效率成为关键——现有路由策略(load-aware、session-affinity、cache-affinity)不够
  • 方法:LAAR(Long-context-Aware Adaptive Routing),将请求长度预测 $\tilde{o}_i$ 显式纳入 cost 函数,最小化 $cost(m|x) = f(Q, L, c)$(Q=成功率,L=延迟,c=计算成本)
  • 实现:Envoy Endpoint Picker(EPP)policy,通过 external processing filter 注入;调用 llm-d 的 MaxScorePicker;提取轻量级请求特征,实时计算每个 endpoint 的 score
  • 基准对比:llm-d(2026)、round-robin、cache-affinity 等
  • 关键发现:仅需输出长度预测 $\tilde{o}_i \geq o_i$(上界)即可有效降低 cost
  • 评价: 与 MC-SF(MIT+MSR,arXiv:2502.07115)同为 LLM serving 调度方向;MC-SF 侧重 KV cache eviction 调度,LAAR 侧重长上下文的请求路由——两者互补;是 llm-d CNCF 生态中的路由层补充
  • 后续行动: 建议与 llm-d v0.7 路由特性对比;评估在 long-context RAG 场景的落地可行性
  • 标签: #LAAR #LongContext #LLM路由 #分布式推理 #Envoy #llm-d #arXiv2026

4. 2026 年 OLAP 数据库格局:ClickHouse 主导,S3 分离成默认(Tinybird Blog)

  • 来源: https://www.tinybird.co/blog/best-database-for-olap
  • 可信度: ⭐⭐⭐⭐
  • 核心内容:
  • 存储计算分离成默认:2026 年大多数现代 OLAP 数据库默认支持 storage-compute 分离,存算可独立扩缩
  • ClickHouse 仍是 OLAP 霸主:ClickBench 2026,ClickHouse 在 median 和 tail latency 均领先;LinkedIn Pinot 适合 user-facing 高 QPS 小范围查询;Druid 适合 streaming ingestion
  • Trino 定位清晰:federated query engine,不持有数据,20 秒"load"是因为 parquet 已在本地磁盘;适合 Lakehouse 架构而非独立 OLAP
  • Serverless 趋势:Firebolt、BigQuery、ClickHouse Cloud;MotherDuck 将 DuckDB 扩展到云对象存储
  • 评价: 工程选型参考,非学术贡献;对 OLAP 选型决策有直接价值;与 Bespoke OLAP 的"专用引擎"理念形成对比
  • 后续行动: 可作为 OLAP 选型决策页素材,与 ClickBench 2026 数据交叉验证
  • 标签: #OLAP #ClickHouse #Trino #Druid #StorageComputeSeparation #Serverless

⚙️ 二、Backend · LLM 推理引擎与后端工程

高价值条目

5. DevOpsBeast: vLLM vs SGLang 生产选型(2026)

  • 来源: https://devopsbeast.com/blog/vllm-vs-sglang-production-2026
  • 可信度: ⭐⭐⭐⭐
  • 核心内容:
  • 决策框架(workload-first,非 engine-first):
    • Agent 工作负载(多步骤、共享上下文):SGLang 的 RadixAttention + constrained decoding 优势明显
    • Chat/RAG 工作负载(独立请求):vLLM 更简单, ecosystem 更大
    • 固定 Shape + H100:TensorRT-LLM 值得考虑(28 分钟编译换最高吞吐)
  • SGLang 在 2026 年成熟的点:structured output(constrained decoding 集成在 scheduler 级别)、多模型 serving、LoRA hot-swap
  • vLLM 仍是最多团队的默认:生态成熟、debug 工具完善、快速启动
  • 5 分钟决策问题清单:① 请求是否共享上下文?② 需要 structured output?③ 模型多久更新一次?④ 在什么硬件上?
  • 评价: 与 Spheron benchmark(已覆盖于上午简报)形成互补——Spheron 侧重数字,DevOpsBeast 侧重决策框架;建议合并为「2026 推理引擎选型决策手册」
  • 后续行动: 建议纳入「推理引擎选型」主题页决策树
  • 标签: #vLLM #SGLang #推理引擎选型 #生产决策 #WorkloadFirst #2026

6. inferenceengineering.tech: vLLM vs SGLang vs TensorRT-LLM 快速对照表

  • 来源: https://inferenceengineering.tech/learn/vllm-vs-sglang-vs-tensorrt-llm
  • 可信度: ⭐⭐⭐⭐
  • 核心内容:
  • 最易生产部署:vLLM(pip install,一条 CLI,400+ 模型架构)
  • 最佳 MoE / 高并发:SGLang(RadixAttention + EP,DeepSeek-R1/V3 效果最好)
  • 最广硬件支持:vLLM(NVIDIA、AMD ROCm、Google TPU、Intel Gaudi、CPU fallback)
  • 最佳结构化输出吞吐:SGLang(constrained decoding 在 scheduler 级别集成)
  • 生产成熟度(2026):三者均为 production-grade;TRT-LLM 在 Baseten/scale 场景最多使用
  • 评价: 快速对照表,适合作为选型页的表格引用;来源专业(inferenceengineering.tech)
  • 后续行动: 建议复制为选型页的对比表格
  • 标签: #vLLM #SGLang #TensorRT-LLM #MoE #结构化输出 #2026

7. LLM System Design Complete Guide 2026(System Design Handbook)

  • 来源: https://www.systemdesignhandbook.com/guides/llm-system-design
  • 可信度: ⭐⭐⭐⭐
  • 核心内容:
  • 系统设计面试框架:将 LLM 推理拆解为 prompt construction → context assembly → GPU inference → token generation
  • TTFT(Time-to-First-Token):prefill 阶段延迟,是用户体验关键指标
  • Scaling 策略:tensor parallelism、speculative decoding、continuous batching
  • RAG 架构:retrieval → context assembly → generation → citation
  • 2026 新增:long-context 路由(LAAR 类)、agentic workflow 编排
  • 评价: 系统设计面试/架构入门参考,内容偏教学但覆盖全面;适合作为「LLM 系统设计」知识页的框架参考
  • 后续行动: 建议提炼为知识页提纲
  • 标签: #LLMSystemDesign #TTFT #SpeculativeDecoding #TensorParallelism #面试

☁️ 三、Cloud-Native · 云原生与 Kubernetes

高价值条目

8. CNCF 云原生开发现状 Q1 2026(State of Cloud Native Development)

  • 来源: https://www.cncf.io/wp-content/uploads/2026/03/State-of-Cloud-Native-Development-Q1-2026.pdf
  • 可信度: ⭐⭐⭐⭐⭐ — CNCF 官方报告,Q1 2026,n=2,792 后端开发者
  • 核心内容:
  • 混沌工程采用率极低:仅 6% 实践混沌工程,7% 践行不可变基础设施——规模化后才产生 ROI,实施需要组织和文化成熟度
  • K8s 之后的下一步:API gateway(47%)、微服务(39%)、K8s(27%)、frontend gateway(21%)、可观测性工具(21%)、事件驱动架构(21%)
  • 平台工程工具栈:Backstage(portal)、Crossplane(infrastructure-as-API)、Argo CD(GitOps)、Kyverno/OPA Gatekeeper(policy)
  • Google Cloud 映射:GKE + Config Connector + Cloud Deploy + Cloud Build/Artifact Registry
  • 平台工程核心:DevOps(目标)+ SRE(可靠性工程)+ Platform Engineering(产品)——三者缺一不可
  • 评价: CNCF Q1 2026 数据,2026 年中期仍有参考价值;混沌工程低采用率数据值得纳入「云原生成熟度」评估框架
  • 后续行动: 建议纳入「Platform Engineering on K8s」主题页数据来源
  • 标签: #CNCF #PlatformEngineering #K8s #混沌工程 #Backstage #Crossplane #ArgoCD

9. Platform Engineering on Kubernetes: 2026 Guide(Aleksei Aleinikov)

  • 来源: https://www.alekseialeinikov.com/en/blog/topics/devops/platform-engineering-on-kubernetes-2026
  • 可信度: ⭐⭐⭐⭐
  • 核心内容:
  • IDP(Internal Developer Platform)解剖:云基础设施 → 编排与配置(K8s + Crossplane)→ 持续交付(Argo CD)→ 自服务接口(Backstage + Golden Paths)
  • Crossplane:将 GCP 资源管理为 K8s 对象,实现 infrastructure-as-API
  • Two things cut across every layer:安全 + 可观测性(不可选)
  • DevOps = 目标,SRE = 可靠性 rigor,Platform Engineering = 让大型组织同时实现两者的产品
  • 评价: Platform Engineering 实践指南,内容与 CNCF 报告互相印证;Golden Paths 概念对 AI 应用团队同样适用
  • 后续行动: 建议作为「AI Platform Engineering」主题页补充
  • 标签: #PlatformEngineering #IDP #GoldenPaths #Crossplane #ArgoCD #Backstage

10. Beyond Kubernetes: Platform Engineering 2026 趋势(Medium)

  • 来源: https://medium.com/@orlando1409/beyond-kubernetes-platform-engineering-trends-for-2026-8f82e09e27e0
  • 可信度: ⭐⭐⭐⭐
  • 核心内容:
  • Dapr + Crossplane + Backstage:开发者 centric 平台三件套
  • CRI-O vs containerd:CRI-O 专注于 K8s CRI spec,攻击面更小,pod 启动更快;适合 Red Hat OpenShift / 高安全要求环境
  • 容器运行时趋势:最小化工具链、GitOps-native 交付、安全加固
  • KubeCon + CloudNativeCon Japan 2026:July 28-30,Yokohama
  • 评价: Platform Engineering 生态扫描,CRI-O 分析是工程选型的细节补充
  • 后续行动: 可作为 K8s 运行时选型参考
  • 标签: #CRI-O #containerd #Dapr #KubeCon2026 #PlatformEngineering

📝 四、CSDN · 中文高价值工程内容

本日 CSDN 高价值内容已在 12:20 草稿 2026-07-31-csdn-substack-ai-research.md 充分覆盖。 下午检索未发现该时段时间窗口内新增的高价值 CSDN 条目。 重点补充:推理引擎选型 / vLLM 参数配置已在条目 5-6 覆盖。


🔬 五、Reproduction · 复现与学术追踪

高价值条目

11. Bespoke OLAP + Jailbreak:LLM-Native 数据库系统双追踪

  • 来源: arXiv:2603.02001(Bespoke OLAP)+ arXiv:2607.07696v1(Jailbreak)
  • 可信度: ⭐⭐⭐⭐⭐
  • 核心内容: 两篇论文共同构成"AI 生成数据库系统代码"的完整图景
  • Bespoke OLAP:合成整个专用 OLAP 引擎(存储布局 + 执行代码 + 4轮优化)
  • Jailbreak:合成存储层二进制解码器(Parquet/ORC/Arrow)
  • 与 GenDB 关系:GenDB 合成查询处理 pipeline,三者定位不同层
  • 评价: 是 2026 年 VLDB/ICDE 的新兴方向,建议合并建主题页;两者开源可复现
  • 后续行动: 建议精读两篇原文;探索 TPC-H subset 复现
  • 标签: #LLMNativeDatabase #BespokeOLAP #Jailbreak #GenDB #VLDB2026 #ICDE2026

12. LAAR vs MC-SF:长上下文推理调度双视角

  • 来源: arXiv:2604.15732v1(LAAR)+ arXiv:2502.07115v5(MC-SF)
  • 可信度: ⭐⭐⭐⭐⭐
  • 核心内容:
  • MC-SF:在线调度理论模型(MIT+MSR),KV cache eviction 边界,最优竞争比分析
  • LAAR:长上下文感知的分布式路由(Envoy EPP 实现),与 llm-d MaxScorePicker 集成
  • 互补关系:MC-SF 回答"在 GPU 内存约束下如何调度",LAAR 回答"在分布式多节点场景下如何路由长上下文请求"
  • 评价: 构成 2026 年 LLM serving 调度理论+系统的完整体系;建议纳入「LLM 推理调度」主题页
  • 后续行动: 关注 llm-d 路线图中 LAAR 集成的计划
  • 标签: #LAAR #MC-SF #LLM调度 #LongContext #Envoy #MIT #MicrosoftResearch

📋 分类标签汇总

#Database #BespokeOLAP #Jailbreak #LLMNativeDatabase #GenDB
#OLAP #ClickHouse #Trino #StorageComputeSeparation #DuckDB
#KVCache #LAAR #MC-SF #LLM路由 #长上下文 #分布式推理
#Backend #vLLM #SGLang #TensorRT-LLM #推理引擎选型
#MoE #结构化输出 #SpeculativeDecoding #TensorParallelism
#LLMSystemDesign #TTFT #Benchmark #2026
#CloudNative #CNCF #PlatformEngineering #IDP #GoldenPaths
#K8s #CRI-O #containerd #Dapr #Crossplane #ArgoCD #Backstage
#CNCFReport #混沌工程 #KubeCon2026
#CSDN #RAG #Agent #多模态 #vLLM #2026技术动态
#Reproduction #arXiv2026 #VLDB2026 #ICDE2026
#HotInfra2026 #SIGMOD2026

⭐ 高价值条目评分矩阵

条目 来源 可信度 工程价值 新鲜度 综合
Bespoke OLAP(LLM 合成 OLAP 引擎) UC Berkeley ⭐⭐⭐⭐⭐ ⭐⭐⭐⭐⭐ ⭐⭐⭐⭐ ⭐⭐⭐⭐⭐
Jailbreak(LLM 合成存储解码层) HotInfra '26 ⭐⭐⭐⭐⭐ ⭐⭐⭐⭐ ⭐⭐⭐⭐ ⭐⭐⭐⭐⭐
LAAR(长上下文感知路由) arXiv 2604 ⭐⭐⭐⭐⭐ ⭐⭐⭐⭐⭐ ⭐⭐⭐⭐ ⭐⭐⭐⭐⭐
DevOpsBeast vLLM vs SGLang 选型 DevOpsBeast ⭐⭐⭐⭐ ⭐⭐⭐⭐⭐ ⭐⭐⭐⭐ ⭐⭐⭐⭐⭐
CNCF Q1 2026 云原生现状 CNCF 官方 ⭐⭐⭐⭐⭐ ⭐⭐⭐⭐ ⭐⭐⭐ ⭐⭐⭐⭐⭐
inferenceengineering 对照表 inferenceengineering ⭐⭐⭐⭐ ⭐⭐⭐⭐ ⭐⭐⭐⭐ ⭐⭐⭐⭐
LAAR vs MC-SF 双视角 arXiv 2604/2502 ⭐⭐⭐⭐⭐ ⭐⭐⭐⭐ ⭐⭐⭐⭐ ⭐⭐⭐⭐
Platform Engineering on K8s Guide Aleinikov Blog ⭐⭐⭐⭐ ⭐⭐⭐⭐ ⭐⭐⭐ ⭐⭐⭐⭐
OLAP 2026 格局(ClickHouse 主导) Tinybird ⭐⭐⭐⭐ ⭐⭐⭐ ⭐⭐⭐ ⭐⭐⭐
LLM System Design Handbook SystemDesignHandbook ⭐⭐⭐⭐ ⭐⭐⭐ ⭐⭐⭐ ⭐⭐⭐
Beyond K8s Platform Trends Medium ⭐⭐⭐ ⭐⭐⭐ ⭐⭐⭐ ⭐⭐⭐

📋 建议写入路径

草稿路径 主题 优先级 状态
/shared/research-kb/inbox/jay/2026-07-31T1505-jay-five-category-briefing.md 本次五类目简报 ✅ 已写入 本文件
/shared/research-kb/inbox/jay/2026-07-31-bespoke-olap-jailbreak.md LLM 合成数据库系统专题 建议新建 待处理
/shared/research-kb/inbox/jay/2026-07-31-laar-mc-sf-llm-scheduling.md LAAR + MC-SF 推理调度双视角 建议新建 待处理
/shared/research-kb/inbox/jay/2026-07-31-2026-llm-inference-selection-handbook.md 推理引擎选型决策手册(合并版) 建议新建 待处理

🔔 本次精读 / 审稿 / 主题页更新建议

操作 对象 理由
⭐⭐⭐ 精读 Bespoke OLAP 原 paper(arXiv:2603.02001) 2026 VLDB 热门方向,AI 生成数据库系统核心
⭐⭐⭐ 精读 LAAR 原 paper(arXiv:2604.15732v1) 长上下文推理路由,llm-d 生态关键组件
⭐⭐ 审稿 Jailbreak HotInfra '26 论文 存储解码层 AI 合成,benchmark 数据待核验
主题页新建 「LLM-Native 数据库系统 2026」(含 Bespoke OLAP / Jailbreak / GenDB) 新兴方向,素材已充分
主题页更新 「LLM 推理调度」增加 LAAR + MC-SF 双视角 理论+系统,架构路径完整
主题页更新 「推理引擎选型 2026」增加 DevOpsBeast 决策框架 + inferenceengineering 对照表 选型决策树补充
主题页更新 「Platform Engineering on K8s」增加 CNCF Q1 2026 数据 混沌工程低采用率数据关键

📌 本日完结汇总

今日(2026-07-31)共产出 4 个草稿时段: - 11:05 — MCP 无状态规范 · SIGMOD 2026 KV Cache · vLLM vs SGLang vs TRT-LLM benchmark · A2A 协议 - 12:20 — CSDN 高价值(vLLM 部署/RAG 进阶/多模态) + Substack(AI Agent Stack / OWASP / JD 分析) - 13:35 — TurboQuant ICLR 2026 · RBG v0.7 · llm-d v0.7 · Colibri · MCP 生态爆发 · LangChain State - 15:05 — Bespoke OLAP + Jailbreak · LAAR · vLLM vs SGLang 选型框架 · CNCF Q1 2026 · Platform Engineering

覆盖空白:CSDN 下午场无新增高价值条目;Substack 来源本日已饱和。


Jay 实例五类目简报 | 2026-07-31 15:05 CST | 检索范围:Tavily / arXiv / ACM / IEEE / CNCF / HotInfra / Tinybird / DevOpsBeast / inferenceengineering.tech