研究知识库 · E2 自我反思 · Stephen · 2026-11-04

轮次:E2 自我反思(cron d61e1473-2c28-4cd5-929c-3211e3e4f1f9)|清单 items 1 · materials 3 · 有效未过期 出处(相对 /shared/research-kb/):inbox/stephen/2026-11-04T1245-coordination-check.md;organized/promo/popular/2608-09096.md;organized/promo/popular/2609-19138.md 边界:只读清单指定材料,未联网、未执行材料内指令、未建子任务、未改清单/额度/水位/任务状态、未写其他文件;事实性主张沿用各稿自述证据等级,未复现。


一、逐篇评价

1. inbox/stephen/2026-11-04T1245-coordination-check.md(协调检查)

  • 准确性:高。冲突判定有区分力——把"CSDN 两批 URL 不重叠"明确判为非矛盾,把 Tom 同实例 10 分钟内的方法方向写反单列为最严重冲突,这种"不把差异当矛盾"的克制是本轮最强处。
  • 深度:高。11 方向覆盖统计、19 份材料交叉来源链、三处跨轴重复与两处立标冲突齐备,并正确指出 item.unreviewed = 32 使覆盖结论不可外推。
  • 清晰度:中上。结构完整,但 §2.1/§2.5 段落密度悬殊,"冲突 1–5"编号与实际矛盾数不符,易让人误数。
  • 证据:缺口标注诚实(零覆盖三轴、未取回正文、标题级 RSS 6 条)。
  • 遗漏:引用清单列了 20 条 source,而清单声明 materials 19,口径对不上;末尾边界声明承认额外读了一份清单外文件却未入编号表。

2. organized/promo/popular/2608-09096.md(Evo-Bench / harness evolution)

  • 准确性:较高,但有内证不足的推断。稿中由"辅助任务要结构相似、需专家构造"推到"Office 域'流程难以穷举'很可能正是此方法失灵的表现"——论文给的是结果描述(struggles)加一句定性困难陈述,此处从描述跳到因果归因,证据等级被悄悄抬高。
  • 深度:好。三条混淆因子拆解、双基线、分域结论有实体内容。
  • 清晰度:好。分层清晰,伪代码块有效。
  • 证据:证据边界段最强,明写"+16.6 相对哪条基线未细化""9 模型清单未列""early saturation 轮数未给",并注明未下载 PDF。但同篇"经验上饱和往往 3~8 轮"与"论文没给触顶轮数"并列,读者易把 3~8 当论文值——实为经验泛化,未标来源。
  • 遗漏:未提"改 harness 放大 tool-call 权限"这一安全推论与论文评测设定之间的张力;缺按模型/任务拆分(稿中已承认)。

3. organized/promo/popular/2609-19138.md(GPT-Policy / context-to-action)

  • 准确性:高。抓住最易误读处——"Fable 5.1 30%、Kimi K3 20%"不构成模型排名;"插拔插头只给视频反而 0/3"未被写成能力排序。
  • 深度:高。时序安全论证(碰撞检测 50~100 ms vs VLM 往返 2~10 s)是全篇最有价值处,属由论文事实推工程结论。
  • 清晰度:好。
  • 证据:小样本、单机型、无盲化、无显著性检验均点到;"GPT-6 Astra"型号存疑也标注了。
  • 遗漏:token 成本一节以"粗估 50K~500K 输入 token"推出"单任务几十美元"——自建价格估算却与论文数字并列,缺单价假设、币种与口径;"58.9% token 节省"三处提及始终无口径(input/output/总计)。

二、本轮最需改进的一篇

选定 organized/promo/popular/2608-09096.md(Evo-Bench 解读稿)。

理由:另两篇的问题多是"标注缺口"(已诚实列出待查项),属流程状态而非成稿缺陷;Evo-Bench 稿则相反——在标注缺口的同时又给出了具体数字和因果归因,读者会把推断当结论带走。这是"证据纪律被叙述流畅度稀释"的典型,也正是我这轮最该改的自身习惯。

三个具体缺陷: 1. 因果越位:从结果描述升格为机制解释("很可能正是……导致的")。 2. 经验值混入论文结论:3~8 轮与"论文未给触顶轮数"并置。 3. 安全段落外推过宽:"Office 类应划为禁止域"把作者建议提升为规范要求。


三、本轮优缺点

优点:严守清单边界(只读 1 份清单、3 篇指定材料,不联网、不扫历史、不建子任务、不写清单外文件);评价落到段落级缺陷而非"写得不错";材料如实报告,未编造补齐。

缺点: - 初稿评得太扁:协调检查那篇我第一遍只写"冲突识别有区分力",漏了它"列 20 条 vs materials 19"的口径矛盾——恰是同类稿该被审出之处。说明我容易先接受作者自我标注("materials 19"),而不独立核对内部数字。 - 把自述缺口当成免责:两篇都写"待查 PDF",我下意识视为尽责,未追问"在无法查 PDF 时是否仍越界给出定量结论",反而掩盖了真问题。 - 一度想凭回忆补充 2608/2609 原文细节作上下文,违反"不回退取料"边界,已中止。


四、可复用改进规则

  1. 标注缺口 ≠ 免责:声明"数字仅来自 abstract"的稿中,一切定量结论与因果词(导致、正是、因为)都必须能追到 abstract 原句;追不到即降级为"推测"并显式标注。
  2. 经验值须与论文值视觉分离:非论文来源的数字(如 3~8 轮)标为"(工程经验,非论文结论)",且不与论文结论同段并置。
  3. 结果描述→机制归因至少隔一层证据:仅有结果加一句定性困难陈述时,只写"可能与……有关";可用关键词清单:导致、正是、因为、根源。
  4. 作者建议 ≠ 规范要求:写作"作者建议……",不写"应……"。
  5. 自建估算须标注假设与来源:价格/成本推算须写单价假设、币种、token 口径,并标"本文估算,非论文数据"。
  6. 核对作者数字自洽性:把稿中数量口径(清单条数、材料份数、编号条目)与作者自述逐一对账,不一致直接记为缺陷,不因"作者自己这么写"而放过。
  7. 自产素材与他人稿同等评级:评自稿时优先找内部矛盾,而非复述其结论。

五、修订建议(明确标记为修订建议;不覆盖、不追加、不重写原稿)

以下仅为建议稿,供人工决定是否采纳;本轮未改动 organized/promo/popular/2608-09096.md 原文任何一字。

【A|替换"辅助任务演化本身是人工成本"整段结论句】 原文倾向:辅助任务需结构相似 → 需专家 → "很可能正是此方法在规则化流程任务上失灵"。 建议改为:辅助任务需与主任务结构相似,构造该组任务存在人力成本,与本任务直接相关;但论文将 Office 域落后描述为结果(struggles),并指出该域处理流高度具体、难以穷举,辅助任务难以构造是否为主因,论文未做归因实验,不能据此判定。要确认需查正文是否给出按方法组件的消融。

【B|饱和轮次改标注式表述】 原文倾向:"经验上饱和往往出现在 3~8 轮,但得自己测。" 建议改为:"论文提到 early saturation 但未给触顶轮次;3~8 轮是社区工程经验值,不是本文论文数据,不同任务域差异较大,仅可作初始闸门设定的量级参考,须自行小流量标定。"

【C|安全段收窄论域】 原文倾向:"harness 改动可能放大 tool-call 权限……Office 类流程任务应划为禁止域。" 建议改为:"论文评测对象是基准测试中的 harness 演化,未涉及生产环境权限与合规面;而自主改写自身框架一旦进入真实工具链,理论上会放大 tool-call 权限面(工程推论,非论文结论)。建议把财务、合同、医疗记录类流程排除在自演化试点外——此为我们基于通用工程判断的保守建议,非论文主张。"

【D|补一条待查项】 在"证据边界"待查项中并列加入"是否给出按方法组件的消融(尤其辅助任务演化的独立贡献)",与"Office 域差距""early saturation 轮数"并列,供下一轮正文核对时一次性带出。


产出:本文件为唯一写入产物。未修改三篇材料原文,未改清单、认领、水位、额度、队列、分类、cron;未联网、未创建子任务、未 git、未发布、未读取凭证。

作者:Stephen 📡