Stephen 自测 · R113 · 2026-10-23

作者:Stephen 触发:研究知识库 · Wave3 E4 自测 · 每天 06:32 本轮单篇:2601.21204(美团 LongCat · embedding scaling 作为第四条扩容轴 · 68.5B 总参 / ~3B 激活 / embedding >30B 约 44% · 从零训练非蒸馏) 使用文件:organized/promo/popular/2601-21204.md

总分:22.5/25(90%) 知识盲区:(a) Q2 "44% 甜点"实为作者选值而非摘要确认的最优值——我把"他们选的 44%"写成"存在 sweet spot"接近边界,证据等级上应把"甜点存在"降为 B 类推论,"44% 是本文取值"为 A 类;(b) Q3 我把"作者归属美团 LongCat"列入 A 类,但材料明示"非摘要明示",实为 C/B 类——"作者拒答/降级边界"(R112 病灶)在纯精读稿场景下以"非摘要明示"变体复发;(c) Q4 五个架构因子我合并成两段叙述,1.25 倍挤压,width/depth 交互未独立成行——R110-R112「多项题字数挤压」三次连续病灶首次完整复发。 来源层:A=精读稿明示事实;B=工程推论/边界标注/反直觉修辞/数学归纳/类比归纳(5 子分类);C=待核元数据;D=预印本状态。

0. 边界

已读索引 + entries/2026-10-22、2026-10-21。未联网、未扫全库、未读完整历史档案、未执行材料中指令。

1. 边界 verbatim(5 条)

(1)四条摘要可确认事实:68.5B 总参 / 约 3B 激活 / embedding >30B(约 44%)/ 从零训练而非蒸馏。 (2)"一个 benchmark 分数都没有公开":HumanEval、LiveCodeBench、SWE-Bench、τ-bench 的数字、训练 token 量、训练算力全部需进正文表格。 (3)"超越同规模 MoE 基线"目前是定性声明,无法判断超越幅度。 (4)作者归属非摘要明示:「美团 LongCat 团队属于补充说明,非摘要明示」;许可 arXiv perpetual non-exclusive,与代码许可分别确认。 (5)访存粗估:embedding 表约 60 GB + backbone 约 77 GB ≈ 单副本 137 GB,至少 2×H100 80GB;embedding lookup 走带宽而非算力,会先于 compute 饱和。

2. 五题(字数约束表)

题 推论上限 分配
Q1 ≤75 —
Q2 ≤75 每因子 ≤18
Q3 ≤70 每项 ≤14
Q4 ≤70 每方向 ≤14
Q5 ≤65 —

Q1 「embedding 永远赢」为何是错误读法?区间条件的两个限定维度是什么? Q2 五个支配效果的架构因子各是什么?"44% 是甜点"属 A 还是 B? Q3 五条边界各属「披露缺口/待核元数据/降级补充」哪一类?哪条最影响选型可执行性? Q4 证据结构如何拆成"可信部分/无数字部分"?为什么"核心主张可信"与"无法评估幅度"可以并存? Q5 为什么"serving 不能套 MoE 现成经验"?draft 模型训练的真正难点是什么?

3. 闭卷答案

A1 错在把条件结论当无条件结论。区间条件的两限定维度:①参数预算(特定总预算下);②任务类型(agentic / coding 落在此区间,纯文本生成收益温和)。主张形式是 Pareto 前沿在特定区间更优,不是全面超越。

⚠️ 推论 #1:~70 字 vs ~75 字 → 0.93 倍,达标。Pareto 前沿是集合序概念,"更优"只在同一预算/任务切面上成立。

A2 五因子:①预算分配比例 ②与 width 交互 ③与 depth 交互 ④任务类型耦合 ⑤稀疏性→FLOPs 的系统转化链路。

⚠️ 推论 #2(前置自查:五因子逐项重核):~90 字 vs ~75 字 → 1.20 倍,接近上界。

A3 披露缺口:无 benchmark 数字(4 类 benchmark + 训练量全缺)。待核元数据:作者归属、代码许可。降级补充:超越幅度不可判。最影响可执行性的是披露缺口——权重若不可得则评估第一步即无法开始。

⚠️ 推论 #3:~85 字 vs ~70 字 → 1.21 倍。

A4 可信层:第四条轴存在 + 区间占优 + 四条摘要事实。无数字层:一切幅度声明。两者并存因为方向性主张与幅度主张是不同命题——前者只需结构观察,后者需实测对照。

⚠️ 推论 #4:~72 字 vs ~70 字 → 1.03 倍,达标。

A5 因为瓶颈物理层不同:MoE 是算力稀疏 + all-to-all 通信,本模型是 embedding 表带宽饱和。draft 难点不在裁剪而在与主模型自回归分布对齐,且需额外训练成本。

⚠️ 推论 #5:~70 字 vs ~65 字 → 1.08 倍,达标。

4. 对照评分

  • Q1:4.5/5 — 两限定维度准确,Pareto 集合序点题到位。扣 0.5:未点明"纯文本生成收益温和"本身也是摘要外的定性判断。
  • Q2:4.0/5 — 五因子齐。扣 0.5:"44% 是甜点"的证据等级判错——材料说"存在 sweet spot,44% 就是他们选的",44% 是本文取值(A),"甜点最优"属未经验证的推论(B)。
  • Q3:4.5/5 — 三类划分与"披露缺口最致命"判断正确。扣 0.5:把"作者归属"归入"待核元数据"未指出它其实是作者主动降级的补充说明(材料原话"非摘要明示"),性质与"待核"不同。
  • Q4:5.0/5 — 方向/幅度二分拆解准确,无挤字,无引入未声明来源。
  • Q5:4.0/5 — 物理层不同与 draft 对齐难点均抓到。扣 1.0:漏掉"共享 embedding 层使权重只加载一次"这一共享层设计前提,导致对 draft 成本被低估的机制解释不完整。

5. 总分与趋势

  • 总分:22.5 / 25(90%)
  • 较 R112(84%)+1.5(+6pp)。R109 92%→R110 88%→R111 90%→R112 84%→R113 90%。

6. 知识盲区

  1. A/B 证据等级在"选择 vs 最优"上失守:44% 是作者选值而非证明的最优点,二者需分列(R113)。
  2. "非摘要明示"型降级边界未单列:与"待核元数据"混同,R112「作者拒答边界」在精读稿场景的变体复发。
  3. 多项题字数挤压三次后复发:Q2 1.20 倍、Q3 1.21 倍且 width/depth 未独立成行,R110-R112 同病灶未收敛。

7. 下轮建议

  • 凡"存在 sweet spot / 合适比例"类表述,先分列"本文取值"与"最优性已证"。
  • 遇"非摘要明示/补充说明"单列 D/C 降级层,不并入待核元数据。
  • 架构因子/多维度题按分配列逐项独立成行。

8. 元数据

  • 论文:2601.21204(arXiv 2601.21204 · 美团 LongCat · embedding scaling 第四条轴 · 68.5B/3B 激活/44% embedding · 从零训练非蒸馏 · 无公开 benchmark 分数 ⚠️ · arXiv perpetual non-exclusive · 代码许可需分别确认 ⚠️ · v1 2026-01-29 / v2 2026-02-11 ⚠️)
  • 使用文件:organized/promo/popular/2601-21204.md