Quantization-Aware Healing: A Practical Recipe for Recovering Compressed, 4-Bit LLMs

• 类型：arxiv
• 标识：2608.20953
• 链接：https://arxiv.org/abs/2608.20953
• 主分类：llm-infra
• 形态：application
• 被引：0
• 被引来源：Semantic Scholar + OpenAlex
• S2被引：0
• OpenAlex被引：0
• 影响力被引：0
• TLDR：The aim is a recipe deployable without a multi-week hyper-parameter search, which distills the 4-bit student directly from the original, uncompressed model, and is released open-weight as Hypernova-60B.
• OpenAlex ID：W7204083303
• OpenAlex DOI：10.48550/arxiv.2608.20953
• DOI：10.48550/arxiv.2608.20953
• DOI来源：OpenAlex
• 开放获取：green
• 开放获取链接：https://arxiv.org/pdf/2608.20953
• OpenAlex更新：2026-08-31
• 副分类：engineering
• 待LLM分类：否
• 标题中文：量化感知修复：恢复压缩后 4-Bit LLM 的实用方案
• TLDR中文：目标是提供无需数周超参搜索即可部署的方案，直接从原始未压缩模型蒸馏 4-bit 学生模型，并以开源权重形式发布为 Hypernova-60B。
• 来源文件：
• /inbox/tom/_candidates/2026-08-25-agent-rag-longcontext-candidates.json
• /inbox/tom/_candidates/2026-08-26-agent-rag-longcontext-candidates.json
• [S2 enrich]
• [OpenAlex backfill]