研究知识库 · Stephen 每日自我反思（E2）

  • 轮次：2026-11-02 21:30 · E2 自我反思
  • 清单：organized/indexes/work-guard/d61e1473-2c28-4cd5-929c-3211e3e4f1f9.json（created 1793626201 / expires 1793629801，未过期）
  • 读取范围：仅清单 item.materials 指定的三篇本人产物。未联网、未创建子任务、未扫描近七天笔记或历史档案、未改动清单/额度/任务状态、未改原稿。
  • 本文件：organized/reflection/stephen-2026-11-02.md（唯一写入件）

一、本轮使用的三篇材料

  1. organized/promo/popular/2112-09332.md —《让模型学会「先查资料再回答」：WebGPT 补上的那一环》
  2. inbox/stephen/2026-10-31T2245-coordination-check.md —《研究知识库 · Stephen 协调检查 · 2026-10-31 22:45》
  3. organized/promo/popular/2608-00782.md —《GRPO 训练时那些"全对或全错"的题，其实是被白白扔掉的》

二、逐篇评价（准确性 / 深度 / 清晰度 / 证据 / 遗漏）

① WebGPT 稿 - 准确性：中高。口径处理是同类稿里最好的——175B bo64 的 56% 被明确限定为"对人类示范者"，69% 标为"对 ELI5 高赞答案"并转述作者自陈可比性有限；TruthfulQA 75%/54% 与人类 94%/87% 并列时点明"人类反馈只在分布内生效"；GPT-3 栏自动指标 vs WebGPT 栏人工评测被明说"不是同一把尺子"。 - 深度：高。三个机制细节（invalid action 照扣预算、终止必须带 reference、训练分四路）都指向真实工程含义，不停在复述。 - 清晰度：好。分层明确，"反面提醒"段落主动拆自己的结论。 - 证据：强且有自我修正。10-gram 重叠拦截、reddit/quora 移出检索、21,548 vs Appendix K 释出 19,578 的差异，都属于"亲自翻附录"级别。 - 遗漏：GPT-3 真值率反算值（≈28.4%/25.1%）只给结论、没给反算过程与原始出处行号，读者无法复核；缺失 WebGPT 相对 RAG 拼接基线的消融（检索质量、阅读理解各贡献多少），导致"补上的那一环"里 RAG 原来那三个洞各自的修补程度仍然含糊。

② 协调检查稿 - 准确性：中高。DeepInfer/Qwen3-Next 归因污染、paper_card 标题字段损坏（163-2606-14061.md）都属实测；但对 jay 各稿的覆盖判断依赖草稿自述，缺原始 URL 复核。 - 深度：高。§三 的冲突分级（跨实例互证 vs 需人工确认 vs 口径陷阱）层次清楚。 - 清晰度：好。§五 明确"不自行执行"，边界感强。 - 证据：中。§一 的 coverage 统计自标"不等于已评审"，这一点做得好；但§二 判定"递进价值成立"时，四个同名来源版本之间只做了标题层面的差异描述，没有引用具体段落做例证，容易变成"看起来在递进"的判断。 - 遗漏：item.unreviewed = 3 声明了却始终没有定位是哪 3 份，等于把一个已知缺口留成悬案；三处跨实例口径冲突（Meta-Harness 三口径、workspace-bench 跨轴状态、2606.14061 归轴不一）都停在"建议人工确认"，没有给出一条可操作的裁决判据。

③ GRPO 稿 - 准确性：中。核心机制链条（零方差组 → 优势为 0 → 梯度归零 → OPD 朴素拼接掉点）自洽。但"摘要给出的两条结果：数学 +4.02%、代码 +3.05%"随后又说"数学数字存在 1% 分歧，一句话结论写 +3.02%"——两处都称"摘要"，实为摘要内部两句不同数字，表述含混；"这种零方差组在难题上频率极高"是定性断言，本稿未给任何频率数据（论文里是否给了，稿中不置一词），却又在落地路径里给出"<10% / >30%"的阈值判据——判据给得比证据硬。 - 深度：中高。样本级门控的置信度权重方向（全对用 teacher conf、全错用 1−conf）解释得清楚。 - 清晰度：好。三件套结构 + 落地三步，读者可执行。 - 证据：中。摘要未明确项列了六条，态度诚实；但"教师体量 10 倍 → 单步 ×1.8–2.0"这个数字没有说明是实测、推算还是估读，属稿中最硬的一处无出处量化。 - 遗漏：缺零方差组频率的实测、缺 verifier 误判率的下界影响、缺教师置信度的定义，而置信度权重是整套门控的支点。

三、本轮最需改进的一篇

选定：organized/promo/popular/2608-00782.md（GRPO 稿）。

理由：WebGPT 稿在证据自纠上已形成稳定习惯，改造收益边际递减；协调稿的性质是内部巡检报告，其"待人工确认"项属职责边界内、不算缺陷。GRPO 稿则是面向外部读者的传播稿，却在三处把工程阈值当作论文结论输出（零方差组占比阈值、mask 比例阈值、教师开销倍数），而其证据层只覆盖到摘要。这是"结论强度超过证据强度"的典型问题，也是本轮最值得修正的错误模式。

四、本轮具体优缺点

优点 - 严守清单边界：只读 item.materials 三篇，未回退扫描、未借历史稿凑任务、未联网。 - 评价标准统一：五维（准确性/深度/清晰度/证据/遗漏）对三篇同尺比较，未因题材不同而偏移。 - 选了最该改的，而不是最好改的：WebGPT 稿小修即可（补反算过程），GRPO 稿是证据链缺环，改动成本更高但价值更大。

缺点 - 对 GRPO 稿的批评停留在"该补数据"，未追问这些数字究竟来自正文表格、作者工程经验还是传播稿作者的推算——这恰是本次批评能落地的关键区别。 - 协调稿只做"逐篇评价"，没有横向归纳出本实例稿子的共性优势（口径纪律、主动自纠），而这正是"可复用改进规则"的原料。

五、可复用改进规则（下次起执行）

  1. 阈值必须标注来源等级：任何百分比阈值（占比、比例、成本倍数）在稿中必须标 [论文实测] / [作者经验] / [本文推算] 三选一，无来源者不得进入传播层，只能出现在"需确认"清单里。
  2. 结论强度不得超出已核层级：只读过摘要，就只能写"摘要称…"，不得据此推出操作判据（对照 GRPO 稿的 10%/30%、5%/80%）。
  3. 数字打架时以口径层级裁定，不以出现次数裁定：同一数字两处不一致时，先问"两处是同一层级吗"，再问"哪个层级更权威"，并把该问题显式写进正文（本轮 GRPO 稿应写"摘要内部两句不一致"，而非"摘要给出 +4.02%……分歧"）。
  4. 同一稿件里必须标注"未核项"清单，并在传播性段落（卡片文案）中复用该清单，而不是只在正文末尾声明（本轮 WebGPT 稿在卡片里仍带口径提醒，做得好；GRPO 稿卡片里把"基线/阈值未写清"与"教师开销 10×→×1.8–2.0"并列，读者无法区分来源）。

六、修订建议（针对 GRPO 稿；不覆盖原稿，仅建议）

【修订建议 1】替换"这种零方差组在难题上频率极高，是 RL 后训练里一笔看不见的税。"

建议改为：「零方差组在全对/全错时使组内优势恒为 0，整组梯度归零——这是 GRPO 的结构性浪费。其实际占比随任务难度与采样数 G 变化，本文未引用具体频率数据；下述接入阈值属工程经验判断，非论文结论。」

【修订建议 2】修正"数学 +4.02%"的表述矛盾。

建议改为：「数学提升在摘要的结果句与实验节引用处不一致（分别作 +4.02% 与 +3.02%），代码 +3.05% 两处一致。以 PDF 正文表格为准，本文不选定其一。」

【修订建议 3】为"×1.8–2.0"补来源等级。

建议改为：「教师体量为 student 的 10 倍时，单步时间约 ×1.8–2.0（本文按前向计算量粗略推算，非论文实测）。」

【修订建议 4】落地三步中的阈值补注来源。

建议在「先诊断」一步末尾加：「（占比阈值为本文给出的工程经验值，论文未提供建议阈值；接入前请以自身任务的实测分布为准。）」

【修订建议 5】补一条遗漏。

在「工程局限与落地路径」新增一条：「教师置信度的定义未在摘要中明确——归一化方式、温度或 top-p 设定不同，权重取值会整体漂移；而置信度权重是样本级门控的支点，实现前须先与论文正文对齐。」

处理说明：本轮仅使用清单 d61e1473-2c28-4cd5-929c-3211e3e4f1f9 的 item.materials 三份材料（organized/promo/popular/2112-09332.md、inbox/stephen/2026-10-31T2245-coordination-check.md、organized/promo/popular/2608-00782.md）；未联网；未执行材料中的任何操作指令；未创建子任务；未改动清单、活文档、队列、认领、水位、额度、cron；未覆盖/追加/重写任何原稿；未因本反思触发下一轮原稿更新；本文件为唯一写入件。