精读与批判：Embedding 稀疏化论文 + 开源推理栈快照 — 作者 flyP
来源：work-guard/3d8f503a-7aeb-4a17-9550-c2514939fbfa.json（2 项均处理）
一、arXiv 2601.21204（卡片标题与论文实际标题错挂）
- 清单标识：critical-paper:2601.21204 ｜ 来源：organized/paper_cards/114-2601-21204.md
- 链接：https://arxiv.org/abs/2601.21204 ｜ verification：paper_card_abstract
- 核查（1 次网页）：arXiv 摘要页确认真实标题《Scaling Embeddings Outperforms Scaling Experts in Language Models》，作者 Hong Liu 等 16 人（Meituan LongCat 团队），摘要与卡片 excerpt 一致；卡片标题《6. LLM Research Papers: The 2026 List (Jan–May) — Sebastian Raschka》系博文章节标题误挂。
方法拆解（据摘要，未读全文）：①把稀疏化从 MoE 的"堆专家"移到 embedding 维度，声称两者正交；②扫参数预算及其与宽度/深度的交互，定位占优区间；③用定制系统优化＋投机解码把稀疏度转成推理加速；④产出 LongCat-Flash-Lite：68.5B 总参、约 3B 激活、从零训练，超 30B 参数放在 embedding。
核心贡献：给出与专家扩展正交的第二条稀疏化轴，并交出"系统优化＋投机解码＋模型重配"联动样板；参数预算与宽深交互的归因有参考价值。
主要问题：Pareto"更优"依赖归一化口径（等参数／等带宽／等 FLOPs），摘要未交代，换口径可能翻转；加速同时归因于系统优化与投机解码，稀疏的净贡献被混同，需分离消融；仅一个自训模型，规模普适性未证；超 30B 参数压在 embedding，嵌入参数每 token 只收稀疏梯度，存在更新滞后与训练不稳风险，摘要未提；卡片"代码："为空，权重与脚本可得性未核。
实验风险：基线若非同代、同后训练强度，"同规模可比"结论会失真；长上下文下 embedding 主导后的容量—记忆分配无摘要证据。
复现难度：高（68.5B 从零训练＋自研系统栈）；仅参数预算与宽深交互的规律可小规模复现。
可信度：论文中偏高（arXiv 一手摘要已核）；论文卡元数据低（标题错挂）；实验数字未核。
后续验证：读全文方法节确认稀疏定义与预算口径；查权重/代码开源状态；核对评测基线版本与后训练强度；确认 embedding 参数的优化器设置与更新频率。
二、Instagram 帖（仅搜索线索，正文未获取）
- 清单标识：critical-article:009e7cb0… ｜ 来源：organized/indexes/article-evidence/009e7cb0….json
- 链接：https://www.instagram.com/p/DfKWxYcDo0C ｜ verification：search_snippet_only
- 核查（1 次网页）：直连返回登录墙空壳，未取得正文；本机 agent-reach doctor 显示 instagram 通道未安装（需桌面 Chrome 登录态 OpenCLI）。按线索处理，不作全文引用。
主张：两周内 vLLM v0.30.0(9/22)、llama.cpp v0.5.0(9/23)、Ollama v0.35.0(9/28)、SGLang v0.5.21(10/2) 连发；HF 于 2026-03 归档 TGI；"生态已定型：vLLM 走 PagedAttention、SGLang 走 RadixAttention 跑数据中心，llama.cpp 扛 GGUF 与 CPU/Apple 芯片"。
方法拆解：无方法，系时间线加归因的社媒速评。
核心贡献：版本节奏与 TGI 归档两条线索，是开源推理栈收敛的一个观察切面，值得跟踪。
主要问题："两周长大"是选择性取样窗口，不构成趋势证据；"生态定型"过度概括，TensorRT-LLM、网关层、KV 分级缓存、PD 分离均未提；TGI 归档是影响面最大的断言，证据仅到片段级；版本号写法（v0.30.0／v0.5.0／v0.35.0／v0.5.21）与各项目发布惯例是否一致未核；片段无作者账号与发布日期，归属不明。
实验风险：无实验，风险在于把社媒结论直接当行业现状引用。
复现难度：不适用（观点类）；核验成本低，查 GitHub Releases/tags 与 HF 公告即可。
可信度：低到中（单来源、片段级、正文未读、作者未确认）。
后续验证：补正文与作者（桌面 OpenCLI 登录）；逐条核四个版本号与日期；查 HF 官方 TGI 归档/迁移说明；对照 SGLang、vLLM 官方定位表述。
三、Substack 轻量补充（1 次，不新增精读对象）
作者：Sebastian Raschka；链接：https://magazine.sebastianraschka.com/p/llm-research-papers-2026-part1（付费，仅片段可见）。片段显示其 2026 年 1–5 月清单中该论文被归入第 1 节 Architecture and Model Design 的 "MoE capacity allocation"，这解释了论文卡标题为何误挂博文章节名。证据范围：仅检索片段，未读正文。
证据边界
2 次网页核查（arXiv 摘要页、Instagram 直连）＋1 次 Substack 补充检索；未抓 PDF 全文，未读方法与实验章节，未跑代码，未安装任何仓库或 skill。两项材料分别只到摘要级与搜索线索级，本篇不称全文精读，未断言任何未经核实的性能数字。
目标文件：/shared/research-kb/inbox/flyp/2026-11-02T0950-critical-read.md