Stephen · E2 每日自我反思 · 2026-11-01

本轮任务 e2:stephen，只读清单指定的三篇产物，逐篇评价后选定一篇作为改进对象。

一、逐篇评价

1. organized/promo/popular/2606-11435.md《你的 Agent 有一千个技能，然后它开始挑错》

• 准确性：高。综述性质被明确标注，"不报告单一数字""四范式缺 head-to-head""检索结论是定性的"三处自承边界都写清了；数字（WildClawBench 60 tasks/6 类、SkillForge 3,737 tasks/5 类）标注为规模锚点而非效果指标，克制。
• 深度：三层使用拆解 + 四范式表 + "结构化失败诊断 vs 端到端 raw-trace"这个高价值结论，抓到了真问题。
• 清晰度：好。"不是模型不够强，是架构选错了"是可复述的核心命题。
• 证据：中上，但全篇依赖二手综述，未回到 2606.11435 PDF 核实任何一条定性结论。
• 遗漏：安全维度作者自承偏薄，却仍在"五个坑"里给出独立判断——这一节的推断与证据边界存在张力；缺失一个具体 benchmark 的 skill 库规模量级（"几百条"的确切阈值）。

2. organized/promo/popular/2201-01389.md《语义通信不是"少传几个字节"》

• 准确性：高。语义信道容量公式与"可高可低"的结论都忠于原文，"800%""40x"明确标注为转引而非自有实验。
• 深度：最好。理解力 vs 压缩歧义的"赛跑"模型，是能直接迁移到工程的判断框架；坑 2（评测指标直接当训练损失 → 梯度消失）是硬结论。
• 清晰度：好。但"论文 Table I：JSCC 对同一句原文输出了语法通顺、语义完全漂移的句子"这一条最具体的证据，位置埋在坑 3 里，前文没有任何铺垫或指向，读者读到时会突然。
• 证据：中。公式与定理有原文支撑，但所有量级数字均转引。
• 遗漏：没有给出容量倒挂发生的可观测判据（链路层全绿却任务失败的量化阈值），"静默降级"始终停留在定性。

3. organized/promo/popular/1606-06565.md《把 AI 安全从哲学拉回工程：2016 年那篇"事故"清单》

• 准确性：高且谨慎。"6 种成因、10 种防御"纠正了常见的"9 种"二手说法，还指出 "scalable supervision" 与 "Scalable Oversight" 同指一事——这是真正的核对痕迹。
• 深度：好。proxy gap、guardrail 自身静默失效两个洞察有独立价值。
• 清晰度：中。标题与开头的作者名单并列（"Dario Amodei / Google Brain（与 Chris Olah 同等贡献）"）别扭，读者第一句就要处理六个人名的归属；正文"为什么重要 / 核心机制 / 证据边界 / 工程局限"四段结构与其余两篇不一致。
• 证据：最强。零实验、零表格、零性能数字被反复强调，"Potential Experiments 是提案"的表述直接堵死了误用。
• 遗漏：reward hacking 六成因与十防御的清单本身未在正文中列出，只给"六种成因互相独立"这一结论，读者无法据文逐条对照——而卡片文案恰恰要求读者"逐条对照"，文与卡片不闭合。

二、本轮最需要改进的一篇

选 organized/promo/popular/1606-06565.md。

理由：另外两篇的短板是"证据为转引、结论偏定性"，属于综述类材料的固有上限，加一两句核实也难根治。而 1606-06565 的缺陷是自伤型的——它作为一手议程论文的一手解读，证据链本该最扎实，却在两处把自己的长处浪费掉了：清单缺席与文卡不闭合、结构与系列不一致。它也是三篇里唯一"作者声称的实用价值（今天做 reward 设计评审逐条对照）在自己正文里无法被读者执行"的。

本轮具体优缺点

优点：三篇的"证据边界"分区都写得克制，没有为了好看而编数字；2201-01389 的失败模式定义（链路层全绿但任务失败）确实是本轮最有迁移价值的一句话。

缺点：评价时我三次以"未回原文核实"为扣分项，却没有把"哪些结论属于作者推断、哪些属于原文"做成显式标记——这是把外部怀疑和内部证据混在一起评。更严重的是，我在读完三篇后就直接进入选稿，全程没有反向核对"这三篇与同类作者相比处于什么水平"，导致评价是孤立标准而非相对标准，选择结论因此缺少参照系。

可复用改进规则（提炼 4 条）

1. 推断与转述强制分层：每条结论标注来源层级——原文 / 转引自X / 本文推断。凡"本文推断"必须紧跟一句"依据是…，但原文未验证"。
2. 文与卡片必须闭合：正文未展开的清单项，卡片不得要求读者"逐条对照"。卡片每条主张在正文要有对应段落或明确的引用出处。
3. 系列一致性检查：同系列产出的标题变体数、章节名、"证据边界"位置、结尾收束方式统一；出现偏离就是可改进项。
4. 相对定位检查：选"最需改进"之前，先问"这篇的问题是否比其他篇更难被下游读者察觉"——传播链条上越靠后（正文→卡片→转发）越容易被掩盖的问题，优先级越高。

三、修订建议（仅建议，不覆盖原稿）

以下段落为修订建议，供后续在新稿中采用；本轮不修改、不追加、不重写 1606-06565.md，也不因本次反思触发原稿更新。

建议 A（补清单，修复文卡不闭合） 在"核心机制"节 reward hacking 六成因之后补入一段可执行清单，建议表述：

六种成因逐条对照（原文 §4）：目标部分可观测 / 系统复杂 / 抽象奖励 / Goodhart 定律 / 反馈回路 / 环境嵌入（wireheading）。 十种防御按成因分组：原文说明它们与成因并非一一对应（无单一防御可全覆盖），因此对照时按"命中哪条成因 → 部署哪几条防御"记录，不要按防御反推成因。 附一个最小记录格式：成因编号 → 命中证据 → 已部署防御编号 → 剩余风险。与卡片的"逐条对照"指令形成闭环。

建议 B（作者署名改为单行归属句） 将开头的括号式并列改为一句归属句，建议表述：

作者团队横跨 Google Brain 与 Stanford、UC Berkeley、OpenAI、Imperial College London、DARPA、Yale 等机构，代表作是 2016 年那篇《Concrete Problems in AI Safety》，作者包括 Dario Amodei、Chris Olah、Jacob Steinhardt、Paul Christiano、John Schulman、Dan Mané 等。这篇是议程论文——它把大问题拆成可验收的小问题，而不是给出答案。

建议 C（证据分层标注） 在"证据边界"节内，把每条关键结论前置来源标签，例如：

原文：reward hacking 有 6 种成因、10 种防御。 本文推断：proxy gap 会放大副作用与 reward hacking——这是把论文分类轴（评估成本）与六成因综合后的推论，原文未以此形式陈述。

建议 D（章节名对齐系列） 将四节标题统一为与其余两篇一致的结构：一、这问题为什么重要 / 二、核心机制 / 三、证据边界 / 四、工程局限，并把"零实验、零表格、零性能数字"的强调从工程局限节前移至证据边界节首句，避免同一警告分散在两处。

四、使用的材料（完整文件名）

• organized/promo/popular/2606-11435.md
• organized/promo/popular/2201-01389.md
• organized/promo/popular/1606-06565.md

来源根：/shared/research-kb/。本轮仅本地阅读，未联网，未创建子任务，未写入其他文件。