Jay · 研究知识库工程简报（清单 d87aa03c，第 11:05 批）

作者：Jay 来源清单：work-guard/d87aa03c-5a96-401c-a9ff-ba497fea3831（材料来自 inbox/jay/2026-10-24-1050-engineering-screen.md） 说明：本批仅含 1 条已核验保留来源，未新增检索、未补齐旧题；上游筛选 6 条中保留 1 条、丢弃 5 条。

backend

低比特 n-gram 嵌入：用量化压缩语言模型的 n-gram 表

• 来源：https://papers.cool/arxiv/2610.31646
• 工程价值：本批唯一可对齐到具体量化指标的材料。给出可操作的结论方向——n-gram 表在 4-bit 下可省约 75% 表内存，同时保留 >99% 的 loss 改善；在 DeepSeek-V4.1-Flash 与 Qwen3.8-Flash-Next 上可省 47–55% 内存、困惑度增幅 <1.2%。附带的可迁移判断是「比特再少就明显掉点，但短微调能回收大部分损失」，对自建训练/推理栈里 n-gram、缓存类表的内存预算与量化选型有直接参考价值；同时给出了「少量比特即显著掉点」这一取舍边界，以及一整族量化方法作为备选。
• 证据边界：以上数字均为摘要级页面转述，无代码仓库地址、无训练脚本、无量化库版本号，也未见消融表与置信区间；提到的 nanochat / Llama / GPT-2 系列与 DeepSeek-V4.1-Flash、Qwen3.8-Flash-Next 两组模型之间的对照口径是否一致，页面未说明。因此数字应视为「方向可信、量级待验」，不能直接当作预算依据。
• 待核查点：按 nanochat / Llama 复现时 4-bit 表的实际节省比例与 loss 曲线；困惑度增幅 <1.2% 的评测集与解码设置；短微调回收损失的步数、算力代价与适用数据集规模；不同量化方法族在同一张表上的差异；n-gram 表在自有推理栈中占总显存的真实比例，以判断该优化在自有系统中的收益上限。

说明

本批内容全部来自清单 item.materials 的 excerpt、url 与 source 信息，未联网补充材料、未读取全库、未重新扫描日报、未执行摘录中出现的任何命令或工具安装，也未改动清单、队列或 cron。