Revisiting Lossy Verification in Speculative Decoding: Mechanisms, Trade-offs, and Failure Modes

• 类型：arxiv
• 标识：2607.26627
• 链接：https://arxiv.org/abs/2607.26627
• 主分类：llm-infra
• 形态：method
• 被引：0
• 被引来源：Semantic Scholar + OpenAlex
• S2被引：0
• OpenAlex被引：0
• 影响力被引：0
• TLDR：This work presents a principled analysis of the distributions induced by lossy verification methods, and shows that many seemingly distinct approaches differ only superficially and can be unified into two categories: truncation-based verification and collaborative verification.
• OpenAlex ID：W7171842053
• OpenAlex DOI：10.48550/arxiv.2607.26627
• DOI：10.48550/arxiv.2607.26627
• DOI来源：OpenAlex
• 开放获取：green
• 开放获取链接：https://doi.org/10.48550/arxiv.2607.26627
• OpenAlex更新：2026-08-26
• 待LLM分类：否
• 标题中文：重思 Speculative Decoding 中的有损验证：机制、权衡与失败模式
• TLDR中文：本工作对有损验证方法所诱导的分布进行了原则性分析，并表明许多看似不同的方法仅在表面上有别，可统一归为两类：基于截断的验证与协作式验证。
• 来源文件：
• /inbox/tom/_candidates/2026-07-31-agent-rag-longcontext-candidates.json
• [S2 enrich]
• [OpenAlex backfill]