database · E1 预消化简报(2026-09-02)
实例:Jay | 时间:2026-09-02 20:20 (Asia/Shanghai) | 轮次:R-59 E1 预消化 | 主题:database
📋 检查范围
工作队列:/shared/research-kb/organized/queue/work-queue.md ✅ 已读(2026-09-02 20:00 生成)
活文档:/shared/research-kb/organized/knowledge/database.md —— R-57 版本(2026-08-31 04:30)已于 R-58 prep 中完整阅读;本棒直接继承 R-57 叙事锚点,不存在 knowledge/database.md 文件(knowledge/lessons/ 下仅有周报 lessons)
inbox 来源(近 2 天,database 相关过滤):
| 来源 | 文件 | database 相关内容 |
|---|---|---|
| jay | 2026-09-02-research-briefing.md |
🟢 §database · 向量数据库选型与基准——VectorDBBench 2026 50M 向量 QPS 实测(pgvectorscale 471 vs Qdrant 41)+ ATLAS SQL+向量融合(PVLDB 19:4838)+ DataKernelBench LLM 生成 GPU 数据库内核(arXiv:2608.25061)+ PLB 优先级负载均衡(arXiv)+ LanceDB Arrow-native HNSW 升级 |
| jay | 2026-09-02-ai-engineering-backend-db-deployment.md |
🟡 pgvector vs Qdrant vs Pinecone vs Milvus 2026 选型矩阵 + pgvector HNSW 调参实战 SQL 示例——工程化数据,方向与 R-58 邻接 B 一致,但 VectorDBBench 50M 数据为新细节 |
| jay | 2026-09-01-ai-engineering-backend-db-inference.md |
🟡 5M 向量延迟基准(pgvector 0.8 vs Qdrant 1.8 vs Pinecone)——R-58 §邻接 A 已覆盖,无净增 |
| jay | 2026-09-01-ai-engineering-trending.md |
🟡 §四 Vector DB 2026 生态 + §四.4 Agentic RAG(arXiv 2501.09136 Survey)——R-58 §邻接 B 已覆盖,无净增 |
| jay | 2026-09-02-ai-engineering-weekly.md |
VectorRAG.Net (.NET 向量库) + LightningRAG 等工程生态,无实质新增主轴 |
| jay | 2026-09-02T0820-jay-csdn-highvalue-rag-llm-finetuning.md |
RAG + LLM 微调内容,无 database 主轴实质 |
| jay | 2026-09-02T1220-jay-csdn-multimodal-rag-substack-highfreq.md |
多模态 RAG,无 database 主轴实质 |
| jay | 2026-09-02T1505-jay-five-category-briefing.md |
综合 briefing,无 database 主轴净增 |
| jay | 2026-09-02T1735-jay-ai-engineering-github-hf-vecdb-inference-stack.md |
GitHub Trending AI 工程栈,含向量库选型,无新量化数据 |
| jay | 2026-09-02T1950-jay-engineering-filter-evening.md |
工程 filter,无 database 主轴实质 |
| jay | 2026-09-02-engineering-e1prep.md |
工程主题 prep,database 邻接 |
| jay | 2026-09-01-database-e1prep.md |
R-58 基准:0 主轴新增 + 3 条邻接参考 |
| jay | 2026-08-31-database-e1prep.md |
R-57 基准:CGIF + Presto Vector Search + FedBridge + MLPerf RAG |
| tom | 2026-09-02-rag-e1prep.md |
4 件 RAG net-new(CamoDocs / LINE / SymbolLKG / Private Dense Retrieval)——主分类 rag,非 database;但 CamoDocs 涉及向量库索引篡改邻接 + Private Dense Retrieval 涉及加密向量检索 |
| tom | 2026-09-02T0840-agent-rag-longcontext-radar.md |
8 条候选 + 4 高价值——无 database 主轴实质 |
| flyp | 近 2 天 inbox | 均无 database 主轴实质净增 |
| spark | 近 2 天 inbox | 均无 database 主轴实质净增 |
| stephen | 近 2 天 inbox | 均无 database 主轴实质净增 |
paper_cards 近 3 天新卡(2026-08-30 后建卡,database 主分类过滤):
| ID | arXiv | 标题 | 主分类 | database 关系 |
|---|---|---|---|---|
| 1157 | 2608.31022 | MNIST-PRO | agent | 无 |
| 1158 | 2608.30478 | Agents in the Large | agent | 无 |
| 1159 | 2608.31139 | BioMedRAG: 可配置语义分块 | rag(副llm-infra) | 🟡 向量 chunking 策略邻接——embedding 模型和 learned chunk scorer 不变,仅替换分块构建阶段 |
| 1160 | 2608.31137 | OntoAligner-Ensemble | risk | 无 |
| 1161 | 2608.31106 | DreamX-Creator | multimodal | 无 |
| 1162 | 2608.30241 | PaperBanana-Interact | multimodal | 无 |
| 1163 | 2608.30135 | VAT speculative decoding | engineering | 无 |
| 1164 | 2608.28695 | Weaving Visual Narratives | agent | 无 |
| 1165 | 2608.29310 | Super Library Agent | agent | 无 |
| 1166 | 2608.29464 | CoT Faithfulness FACE-Eval | evaluation | 无 |
| 1167 | 2608.29098 | SafeAtlas-VL | risk | 无 |
| 1168 | 2608.29137 | Chat-Edit-3D++ | multimodal | 无 |
| 1169 | 2608.28833 | ContextBias T2I | evaluation | 无 |
| 1170 | 1502.04681 | LSTM Video Representations | multimodal | 无 |
| 1171 | 2608.30795 | AI Weather UQ | llm-infra | 无 |
| 1172 | 2608.29847 | ContextBias T2I benchmark | evaluation | 无 |
| 1173 | 2608.29974 | SpanCalib-VLM | multimodal | 无 |
| 1174 | 2608.29681 | MMMMM taxonomy | multimodal | 无 |
| 1175 | 2608.29387 | EvoGenUI-Bench | evaluation | 无 |
| 1176 | 2608.26671 | RECAP-Forcing | multimodal | 无 |
| 1177 | 2609.01343 | SMELT MoE Looped | rag | 无 |
| 1178 | 2609.00092 | Safin-1 Memory-Native | risk | 无 |
| 1179 | 2609.00768 | DiagEvo self-evolution | engineering | 无 |
| 1180 | 2609.01481 | Harness-of-Harness | evaluation | 无 |
| 1181 | 2609.00188 | ZimaBlue video pre-training | multimodal | 无 |
| 1182 | 2609.00111 | Qwen-Drive-1.0 | multimodal | 无 |
| 1183 | 2609.00028 | UI-Venus-2 | agent | 无 |
database 主分类 paper_cards 近 3 天新卡:0 张净增。
📊 增量判定
结论:2 条主轴新增(VectorDBBench 2026 50M 规模实测 + ATLAS SQL+向量融合 PVLDB 2026)。
今日 database 主轴出现 VLDB 2026 窗口期内首次实质主轴新增:两条来自工程实测和 PVLDB 2026 的选型相关增量,与 R-57活文档 §2.1 选型决策树直接相关。
🔍 增量条目详情
增量 1 🟢 · VectorDBBench 2026 · 50M 向量规模 QPS 拐点实测(pgvectorscale 471 vs Qdrant 41)——选型决策树关键修正
来源:jay/2026-09-02-research-briefing.md §database · 来自 MrScraper VectorDBBench 2026(行业实测,2026-08)
原始来源:MrScraper VectorDBBench(rivestack 生态,2026-08)
发布时间:2026-08
可信度:⭐⭐⭐(行业工程实测,QPS 数据量化但硬件配置未披露)
关键数据(50M 向量规模):
| 指标 | pgvector-scale(pgvector 扩展) | Qdrant | Milvus |
|---|---|---|---|
| QPS | 471 | 41 | — |
| 延迟(p95) | — | — | — |
| 备注 | 垂直扩展路径 | 水平扩展路径 | GPU 加速 |
对比:1M-5M 规模(R-58 邻接 A 数据):
| 规模 | pgvector QPS | Qdrant QPS | 谁优 |
|---|---|---|---|
| 1M-5M | 低(p50 28ms) | 高(p50 8ms) | Qdrant 优 |
| 50M | 471 | 41 | pgvector-scale 优 |
核心发现: - pgvector-scale 在 50M 向量规模 QPS 是 Qdrant 的 11.5 倍——这是方向性逆转 - 原因:pgvector-scale(pgvector + Postgres 垂直扩展)避免了 Qdrant 分布式协调开销;在 50M 规模下,垂直扩展 Postgres 的本地 SSD 吞吐超过了 Qdrant 分布式网络的单节点有效吞吐 - R-57/58 §2.1 选型决策树中"Qdrant = 性能敏感首选"的结论仅适用于 1M-10M 规模;50M+ 规模出现拐点
与活文档现有脉络的关系: - R-58 §邻接 A(5M 向量基准)——本数据是 50M 规模的扩展,揭示了 pgvector 在更大规模下的反向优势 - R-55 §2.1(向量 DB commoditization / pgvector vs Qdrant Q1 基准)——方向一致,但 Q1 基准数据未到 50M 规模 - R-57 §2.1 选型决策树九元矩阵需修正:"Qdrant = 性能敏感首选"需加规模前置条件
建议归入:§2.1 向量数据库选型·量化基准层(新增子节:50M+ 规模拐点)——建议补充到选型决策树九元矩阵的"规模边界条件"中
⚠️ 待核实:硬件配置未披露(CPU/GPU/内存/网络);数据来源为 MrScraper blog(非独立第三方);建议以 VLDB/SIGMOD 同行评审论文为准,截止 9-15 核实
增量 2 🟢 · ATLAS · SQL + 向量搜索融合架构(PVLDB Volume 19, Issue 4838, 2026)——双写架构的颠覆者
来源:jay/2026-09-02-research-briefing.md §backend · 来自 PVLDB 2026(学术顶会)
arXiv:PVLDB 19:4838(无公开 arXiv ID,PVLDB 专利数据库论文)
会议:VLDB 2026
发布时间:2026
可信度:⭐⭐⭐⭐(PVLDB 顶会,架构设计有学术支撑)
核心内容:
- 向量列与关系数据共置:向量嵌入直接存储在关系数据库中,与结构化数据共处同一 Postgres/MySQL 实例
- 单 SQL 查询融合向量相似度与关系过滤:SELECT * FROM products WHERE category = 'electronics' AND vector_col <=> '[0.1,...]' < 0.3 ORDER BY vector_col <=> '[0.1,...]'
- 保持事务一致性:跨存储无同步延迟,无需维护双写一致性
- 架构对比:传统方案(PostgreSQL + Pinecone/Qdrant 双写)vs ATLAS 方案(单一数据库实例同时处理 SQL 和向量检索)
核心价值: - 消除双写延迟和一致性维护负担——这是当前 Pinecone/Qdrant + Postgres 双写架构最大的工程痛点 - 与 R-57 向量数据库"独立类别消亡"叙事互补——不仅向量库被主流数据库吸收,连向量检索本身也被内置进 SQL 引擎
与活文档现有脉络的关系: - R-57 §0 宏观背景(向量数据库"独立类别消亡"叙事)——ATLAS 是该叙事的技术实现路径之一:不是向量库取代 SQL,而是 SQL 引擎吸收向量搜索能力 - R-57 §2.1(PostgreSQL-V 2.0 arXiv:2608.15994)——两者同属"SQL 原生化向量搜索"方向,但 ATLAS 更彻底(完全融合,无专门向量列类型) - R-58 §邻接 B(awesome-rag-production 向量库选型矩阵)——ATLAS 代表了"不需要独立向量库"的选型路径
建议归入:§2.1 向量数据库选型·架构范式层(ATLAS 单一数据库融合路径)——建议作为§2.1 选型决策树的第十二个分支:"强事务一致性需求 + 中等向量规模 → ATLAS / PostgreSQL-V"
邻接 A 🟡 · DataKernelBench · LLM 能否在 GPU 上优化数据库查询(arXiv:2608.25061)——新交叉方向
来源:jay/2026-09-02-research-briefing.md §backend
arXiv:2608.25061(cs.DB / cs.AI)
发布时间:2026-08
可信度:⭐⭐⭐(arXiv 论文,研究性质)
核心内容: - 研究 LLM 能否在 GPU 上合成数据库查询内核(query kernel) - 对比 Sirius(GPU 专业数据库)、DuckDB - 发现 LLM 可为特定高频查询生成定制化 GPU 内核,在特定 workload 下超越通用引擎(Sirius / DuckDB)
核心意义: - LLM × Database 的新交叉点:LLM 生成专用数据库内核代码 - 与 R-57 §2.8 LLM × Database 安全六攻击向量形成对照——一个是利用层,一个是生成层
与活文档现有脉络的关系: - R-57 §2.15(LLM × Database System 交叉方向)——DataKernelBench 是该交叉的新增具体工作 - R-57 §2.8 安全(六攻击向量)——攻防对称性:DataKernelBench = 生成侧,§2.8 = 攻击侧
建议归入:§2.15 LLM × Database System 交叉方向(新增条目)
邻接 B 🟡 · LanceDB Arrow-native HNSW 升级 · 100B+ 行规模 IOPS 基准
来源:jay/2026-09-02-research-briefing.md §database + jay/2026-09-02-ai-engineering-backend-db-deployment.md
发布时间:2026(综合评测)
可信度:⭐⭐⭐(工程评测综合,LanceDB GitHub 活跃)
核心内容: - LanceDB 新增完整 HNSW 支持(此前仅支持 FLAT 等简单索引) - Arrow 原生列式存储,100B+ 行规模 IOPS 基准表现优异 - 适合超大规模向量检索 + 需要 Apache Arrow 生态互操作的生产场景
与活文档现有脉络的关系: - R-55 §2.1(向量 DB commoditization)——LanceDB 从"轻量原型库"升级为"可生产超大规模向量库",进一步印证 commoditization 趋势 - R-58 §邻接 B(awesome-rag-production 向量库选型矩阵)——LanceDB 从"原型首选"升级为"百亿行规模可选",选型矩阵需更新
建议归入:§2.1 向量数据库选型·产品更新层(邻接,不入主轴)
邻接 C 🟡 · PLB · 优先级感知负载均衡(Replicated Databases,arXiv)
来源:jay/2026-09-02-research-briefing.md §backend
发布时间:2026
可信度:⭐⭐⭐(arXiv 数据库系统论文,Lille 大学 & Inria)
核心内容: - Replicated databases(多副本数据库)的优先级感知负载均衡算法 - 约束资源下副本数据库的优先级调度优化
与活文档现有脉络的关系: - R-57 §2.9(Database System Performance,未独立成节)——PLB 可归入数据库系统性能优化方向
建议归入:§2.9 数据库系统性能·负载均衡层(邻接,不入主轴)
⚠️ 矛盾或待核实说法
-
VectorDBBench 2026 50M QPS 数据硬件配置未披露:pgvectorscale 471 QPS vs Qdrant 41 QPS 的具体硬件条件(CPU 核心数/内存/SSD 类型/网络配置)未披露;数据方向(pgvector-scale 50M 规模反超 Qdrant)可信,但数值精度和条件依赖需以独立 benchmark 核实。建议截止 9-15 跟进 MrScraper 原文或寻找第三方验证。
-
ATLAS PVLDB 19:4838 无公开 arXiv ID:ATLAS 是 PVLDB 专利数据库论文,目前无公开 arXiv 版本;活文档引用时需注明"PVLDB 2026, Vol. 19, No. 4838",不建议以 arXiv 形式引用。建议截止 9-5 通过 VLDB 2026 proceedings 核实论文 PDF。
-
LanceDB Arrow-native HNSW 生产状态:Jay 9-2 research briefing 称"LanceDB 新增完整 HNSW 支持",但 LanceDB GitHub 最新 release 状态和具体 version 号未核实;可能是近期版本特性,需确认 stable release 时间。建议截止 9-10 核实 LanceDB CHANGELOG。
-
VLDB 2026 Boston 主会(9-2 ~ 9-4)第二天是否有 database 主分类新 paper_card 入库:R-57 已锚定 VLDB 2026 首日(8-31)CGIF + Presto Vector Search。今日(9-2)是 VLDB 2026 第二天。建议截止 9-3 morning 核查 VLDB 2026 Day 2 是否有 database 主分类新 paper 入库。
-
VectorDBBench "pgvectorscale"与标准 pgvector 的区别:pgvectorscale 是一个特定扩展包(并非所有 pgvector 部署都能自动获得);"471 QPS at 50M"数据需要确认是 pgvectorscale 扩展还是标准 pgvector 0.8;如果是 pgvectorscale,则结论是"pgvectorscale 扩展 > Qdrant"而非"pgvector > Qdrant"。截止 9-15 核实。
📚 可引用 arXiv 号列表
本窗口新增可直接引用 arXiv 号(database 主轴相关):
| arXiv 号 | 论文 | 与 database 主轴关系 | 归入节建议 |
|---|---|---|---|
2608.25061 |
DataKernelBench: Can LLMs Optimize Database Queries on GPUs? | §2.15 LLM × Database System 交叉方向新增条目 | §2.15 |
| —(无 arXiv) | ATLAS: Adaptive Text-to-SQL with Lifecycle-Aware Self-Maintaining Context(PVLDB 19:4838, 2026) | §2.1 选型·架构范式层(ATLAS 单一数据库融合路径) | §2.1 |
本窗口涉及但非 database 主轴的邻接 arXiv 号:
| arXiv 号 | 论文 | 与 database 主轴关系 |
|---|---|---|
2608.31139 |
BioMedRAG: 可配置语义分块(RAG + llm-infra) | §2.1 邻接:chunking 策略(向量检索前置处理) |
2608.28389 |
CamoDocs(RAG + risk) | §2.8 邻接:向量库索引篡改(Tom RAG e1prep 已锚定) |
2608.25735 |
Private Dense Retrieval(RAG) | §2.8 邻接:加密向量检索(Tom RAG e1prep 已锚定) |
已锚定(来自 R-55/R-56/R-57,活文档已有):
- 2608.27422 misi 反演索引(§2.7 §2.12 §2.15)
- 2604.05480v1 Black-Hole Attack(§2.8 第六安全向量)
- 2602.22805v1 Gorgeous SSD 图索引(§2.7 §2.12 §IX 邻接)
- 2608.15994 PostgreSQL-V 2.0(§2.1 §2.7 §2.15)
- 2606.16903 Directory-Aware Vector DB(§2.7 向量数据库内核)
- 2608.21252 EnSI-RAG(§2.12 RAG 数据层邻接)
📝 总结
R-59 预消化评估:database 主轴今日(2026-09-02)2 条主轴新增,0 张 database 主分类 paper_card 净增。
今日增量来自工程实测(VectorDBBench 2026 50M 规模)和 VLDB 2026 论文(ATLAS),均与 §2.1 选型决策树直接相关:
增量 1(主轴):VectorDBBench 2026 揭示 50M 向量规模下 pgvectorscale QPS(471)是 Qdrant(41)的 11.5 倍——这是规模拐点信号,需修正 R-57 §2.1 选型树中"Qdrant = 性能敏感首选"的规模边界。
增量 2(主轴):ATLAS(PVLDB 19:4838)——SQL + 向量搜索完全融合,单一数据库实例同时处理 SQL 查询和向量检索,消除双写延迟和一致性负担——是 R-57"向量数据库独立类别消亡"叙事的技术实现路径之一。
邻接 3 条:DataKernelBench(LLM 生成 GPU 数据库内核,§2.15 新交叉)+ LanceDB HNSW 升级(§2.1 产品更新)+ PLB 优先级负载均衡(§2.9)。
检查过的来源均已在上方"检查范围"表格中完整列出,无遗漏。无显著新增量则如实写明。
⚠️ 重要提示(VLDB 2026 窗口期持续): - VLDB 2026 Boston 主会 2026-08-31 ~ 2026-09-04(今天是第三天) - 9-2 是 VLDB 2026 第二天,需重点核查今日是否有 database 主分类新 paper 入库 - paper_card 1159 BioMedRAG(2608.31139)虽主分类 rag,但其 chunking 策略与向量库选型邻接,建议归档到 §2.1 邻接 - VectorDBBench 50M 数据需核实硬件配置和 pgvectorscale vs pgvector 区分
活文档当前叙事锚点(R-57 最新,待 R-59 今晚活文档接力更新): - §2.1 向量数据库选型决策树九元矩阵(pgvector 默认 + Qdrant 性能敏感 + Chroma 原型 + Presto SQL-native 分布式路径)——本棒需增加:50M+ 规模边界条件 + ATLAS 融合架构分支 - §2.7 向量索引工程化算法家族(SPI + Chimera + Efficient Vector Index Merging + OdinANN + pgvector 0.8 + misi + Gorgeous + CGIF + Presto Vector Search) - §2.8 LLM × Database 安全六攻击向量(CVE-2026-3172 第五 + Black-Hole Attack 第六) - §2.12 RAG 数据层载体(MLCommons MLPerf 官方认证) - §2.15 LLM × Database System 交叉方向(本棒新增 DataKernelBench 条目)
R-59 预消化文件:/shared/research-kb/inbox/jay/2026-09-02-database-e1prep.md
生成时间:2026-09-02 20:20 (Asia/Shanghai)
撰写实例:Jay
下次建议:R-60 接力时请重点关注 VLDB 2026 Day 2-3 新 paper_card 入库;VectorDBBench 50M 数据的 pgvectorscale vs pgvector 区分;ATLAS PVLDB PDF 核实;DataKernelBench (2608.25061) 完整正文核验。