Grouped Value Attention: Efficient KV Caching via On-Demand Key Reconstruction

• 类型：arxiv
• 标识：2609.13285
• 链接：https://arxiv.org/abs/2609.13285
• 主分类：llm-infra
• 形态：position
• 被引：0
• 被引来源：Semantic Scholar + OpenAlex
• S2被引：0
• OpenAlex被引：0
• 影响力被引：0
• TLDR：This work introduces Grouped Value Attention (GVA), which stores grouped values and reconstructs content keys with a learned linear map at inference, which can be absorbed into the query, eliminating the need to materialize content keys in the intended decode path.
• OpenAlex ID：W7213337946
• OpenAlex DOI：10.48550/arxiv.2609.13285
• DOI：10.48550/arxiv.2609.13285
• DOI来源：OpenAlex
• 开放获取：green
• 开放获取链接：https://doi.org/10.48550/arxiv.2609.13285
• OpenAlex更新：2026-09-17
• 待LLM分类：否
• 标题中文：Grouped Value Attention：通过按需 Key 重建实现高效 KV 缓存
• TLDR中文：该工作提出了分组值注意力（Grouped Value Attention, GVA），通过存储分组值并在推理时利用可学习的线性映射重构内容键，该映射可被吸收进 query 中，从而在预期解码路径中无需显式物化内容键。
• 来源文件：
• /inbox/tom/_candidates/2026-09-15-agent-rag-longcontext-candidates.json
• [OpenAlex backfill]
• [S2 enrich]