Cool Papers · cs.CL (papers.cool) · RSS 摘要
信源:Cool Papers · cs.CL (papers.cool) · https://papers.cool/arxiv/cs.CL/feed
- TokTier: 面向 Agentic LLM 服务的精确有状态 tokenization — LLM 服务系统会缓存 prompt 的 KV 状态,但大多数前端在每次调用时仍对完整请求文本重新 tokenize。这一开销落在编码 Agent 身上——它们会反复重新提交一段很长的转录内容……
- 频率结构化意义空间中语言组合性的演化 — 迭代学习模型被提出用于研究语言演化:探究人类语言的特征属性是如何至少部分地被塑造的……
- FriendBench:人类与多模态大语言模型中的二元熟悉度推断基准 — 解读社交情境往往依赖行为而非仅凭言语。我们推出 FriendBench,一个用于推断两人是彼此熟悉还是正在初次见面的基准。
- ResKV:通过重建被忽略的注意力贡献实现固定预算的 KV cache 压缩 — KV cache 压缩对实现高效长上下文推理至关重要。现有淘汰方法会永久丢弃未被选中的 token,从而消除其对注意力的聚合贡献……
- 谄媚行为削弱协作式视觉-语言任务中的认识论警觉 — 为在协作式对话中维持共识,人类会随着对话参与者分享新信息而迭代更新自身信念;而那些在认识论上……