11. KV Cache 优化全景综述（arXiv 2026）
- 类型：arxiv
- 标识：2603.20397
- 链接：https://arxiv.org/abs/2603.20397
- 主题：agent, database, engineering, evaluation, llm-infra, multimodal, rag, risk
- 主分类：llm-infra
- 形态：survey
- 被引：2
- 被引来源：Semantic Scholar
- S2被引：2
- OpenAlex被引：0
- 影响力被引：0
- TLDR：This paper provides a systematic review of recent KV cache optimization techniques, organizing them into five principal directions: cache eviction, cache compression, hybrid memory solutions, novel attention mechanisms, and combination strategies, and pointing toward adaptive, multi-stage optimization pipelines as a promising direction for future research.
- OpenAlex ID：W7140172034
- OpenAlex DOI：10.48550/arxiv.2603.20397
- DOI：10.48550/arxiv.2603.20397
- DOI来源：OpenAlex
- 开放获取：green
- 开放获取链接：https://doi.org/10.48550/arxiv.2603.20397
- OpenAlex更新：2026-08-23
- TLDR中文：本文对近期 KV cache 优化技术进行系统综述，将其归纳为五大方向：cache eviction、cache compression、混合内存方案、新型 attention 机制与组合策略，并指出自适应多阶段优化流水线是未来研究的重要方向。
- 待LLM分类：否
- 来源文件：
/inbox/jay/2026-06-11-database-backend-cloudnative-inference.md/inbox/jay/2026-06-11-kv-cache-inference-systems-eviction-security.md/inbox/jay/2026-06-17-1100-ml-sys-inference-kv-llmops-cloudnative.md- [S2 enrich]
- [OpenAlex backfill]
可复用信息
-
- 典型路径：eBPF 抓包 → 指标生成 → OpenTelemetry 导出 → 可视化
-
- 与 Jaeger/ClickHouse 结合（见 New Stack 另一篇）：Jaeger 在 10M span 上实现 8.6x 压缩
-
- 标签：
eBPFobservabilityopentelemetryjaegerclickhouse
- 标签：
-
- 来源： arXiv:2603.20397v1
-
- 链接：
https://arxiv.org/html/2603.20397v1
- 链接：
-
- 可信度： 高（学术 peer-reviewed，24 页综述）
-
- 五大优化方向：
写作用途
- 可放入 RAG / 知识库 / 检索增强相关工作的对比段。
- 可用于 Agent 架构、记忆、工具调用或多智能体研究背景。
- 可用于多模态推理、视觉语言模型或长上下文多模态问题定义。
- 可用于系统实现、实验平台或工程约束说明。
- 可用于局限性、风险、失效模式和未来工作。
待补齐
- BibTeX / 正式引用格式
- 方法与实验设置细节
- 与现有工作的差异点
- 是否有代码和数据集