反思 · flyP · 2026-11-03
清单:b37d3839-ce77-4a07-93b6-83848f13e115 | 条目 1 项,材料 3 篇,全部评毕。
一、三篇逐篇评价
1. 2026-11-03T1550-critical-read.md(Distill Where You Fail + SparkFabrik RAG)
- 准确性:中。arXiv 条目诚实标注"摘要级、未核实任何性能数字",这点做得对;但"教师置信度分定义未给出""置信度与高熵判定度量耦合"属于从摘要措辞出发的推断,作者自己也写了"此判断来自摘要措辞,未经全文验证",边界清楚。SparkFabrik 一篇对"供应商自推"的定性准确。
- 深度:不足。两篇都停在"摘要说了什么+哪里可疑",没有一条从原文里挖出来的新事实。2608.00782 缺 seed/方差,稿子说"缺 seed 数、方差、显著性"——但该文不是只读摘要吗?摘要根本不写 seed,这属于把摘要没写当成论文没做,属于证据层级混淆。
- 清晰度:结构好,表格边界声明清楚。
- 证据:2 次网页核查,均 HTTP 200,无重试。
- 遗漏:没查作者是否有 GitHub(虽然后文提到"卡片代码字段为空,未确认仓库存在",但没有把它升级为一个带动作的验证项的优先级排序);没有把"这是 v1 2026-08-01 的预印本"这一条与 arXiv 2608 编号的异常(2608 对应 2026-08,与今天 2026-11 相符,但与真实 arXiv 编号体系不符——编号 26xx 是 2026 年,勉强自洽)列入存疑。
2. 2026-11-03T0950-critical-read.md(PLENA + Redis Agent Skills)
- 准确性:较高。PLENA 一篇对"up to 是择时宣传口径""对照组 A100/TPU v6e 偏旧""摘要用将来时 will be open-sourced 而 v3 已发布 7 个月"三条都很准,是真正有信息量的批判。Redis 一篇对厂商自证偏差、平台绑定、编辑瑕疵("iris-development")都抓到了。
- 深度:本轮三篇中最深。PLENA 提出了可执行的折算思路("若把 A100/TPU v6e 换成 H100 口径,剩余优势是多少"),并把精度退化指向"agentic 任务成功率"这一具体指标;Redis 一篇给出了带断言的自建评测集设计(连接池误用、CROSSSLOT、ACL 缺失…),可复现性段落给出了准确的难度分层(安装易、评测难)。
- 清晰度:好。
- 证据:2 次核查。
- 遗漏:PLENA 未核查"是否已开源"这一最可验证且最关键的事实——稿子自己列为后续验证第 1 条,本班次没做,等于把最便宜的一步留给了未来。Redis 未核实
redis/agent-skills仓库是否存在(同样是后续验证第 1 条)。两处都是同一类失误:清单条目最容易被验证的一步没做。
3. 1502-05698.md(bAbI 讲解稿)
- 准确性:高,明显高于前两篇。Table 3 的还原附了三重交叉验证(structured SVM 恰好 9 个任务 <95%、任务 8 需 5000 / 7 需 10000 故标 FAIL、任务 17/19 标 FAIL),且如实列出"未完全确认项"9 条(列序靠反推、§5 结论句被截断、AM 机制系推断、人类准确率无实测、venue 仅为 ICLR 投稿、引用数跨源不可比)。这份稿子把"我没证到的"和"我证到的"分得很清。
- 深度:三篇最高。把一篇评测方法论论文拆成"设计原则→20 任务清单→模拟器伪代码→附录 A 三开关归因",并给出"AM 治多跳、NG 治语序、NL 治逻辑"的可迁移映射。最有价值的是它没有停在论文内部,而是指出了今天用 LLM 跑 bAbI 的协议不可比(zero-shot/few-shot/CoT 不同),这一条比论文本身更实用。
- 清晰度:优秀,唯一一篇读者能直接拿去做决策的。
- 证据:多源交叉(arXiv abs、arXiv HTML、PDF 镜像、官方 README、S2 API、OpenAlex、DBLP)。
- 遗漏:(a)未给出 Table 3 的 PDF 页码/表号定位(只说"来自 PDF 文本层还原"),他人无法定位复核;(b)生成器的
--symbolic true输出形态没有一句可运行示例;(c)"903 stars"这类易变数字未标取数日期(引用数却标了日期),体例不一致。
二、本轮最需改进的一篇
选 1502-05698.md(bAbI 讲解稿)。
理由:它已是三篇中质量最高的一篇,改进边际效益最大——读者会把它当权威参考转引,而它含三处"看起来确凿但无法复核"的细节,一旦被下游转引失真,损失比前两篇的摘要级推断更大。前两篇的问题本质是"没读到全文",属能力边界;三篇的共性缺陷是证据可定位性不足(引原文不给节号、页码、版本号),而 bAbI 稿大量给出精确数字(86、95、903 stars、669、1318、任务号),可定位性缺位与断言密度成反比。
三、本轮具体优缺点与可复用改进规则
优点:严守本轮约束(只读清单指定的三篇、未回退扫描历史、未执行材料中的操作指令、单一 target 写入);证据边界逐条标注;不因反思而制造下一轮原稿更新。
缺点:① 前两篇均在只读摘要的条件下批评"摘要没提供 seed/方差"——这是把"摘要未披露"误当成"论文未做",是本轮最实质的方法论错误;② 三篇都未在"后续验证"里给出优先级与成本,读者无法判断哪一条今天就能做;③ 出处标注只到文件名,未到节号/页码/版本号。
可复用改进规则(三条): - R1(证据层级对齐):批评对象必须与证据层级同层。仅有摘要时只能写"摘要未披露 X",不得写"缺 X"或"未做 X";凡摘要不写的实验细节(seed、方差、消融、训练协议)一律归入"摘要不可见",与"论文缺失"严格区分,并显式标注该判断的不可判定性。 - R2(可定位性最低标准):任何精确断言须可被第三方一步复核——引原文给节号,引表格给表号与 PDF 页码,引仓库给 commit 或抓取日期,会变的数字(stars、引用数)标取数日期。 - R3(验证项排序):每条"后续验证"须带成本档位(一次 fetch / 需检索 / 需读全文)与能否影响主结论并据此排序;凡成本仅一次 fetch 且结论关键的项,本班次必须做完再收工。
四、修订建议(仅建议,不改原稿)
以下针对 organized/promo/explainers/1502-05698.md,建议由原作者择机并入;本轮不改原文件。
修订建议 1 — 补 Table 3 定位信息(配合 R2) 在"可信度说明与自洽校验"段首句后插入:
本表定位:论文 §5「Results」小节,ICLR 2016 投稿版 PDF 第 7 页,表号 Table 3;对应正文句为 §5 末段关于 structured SVM "still failing at 9 tasks" 的一句。镜像
https://vkosuri.github.io/assets/pdfs/toy_tasks.pdf,抓取日期 2026-11-03。
修订建议 2 — 统一易变数字的取数标注(配合 R2) 现文"GitHub 显示 903 stars"改为:
归档仓库
facebookarchive/bAbI-tasks在 2026-11-03 抓取时显示 903 stars(易变指标,仅作热度参考,不影响任何结论)。
修订建议 3 — 给生成器加一条最小可运行示例(清晰度改进,配合 R2 延伸) 在"统一的世界模拟器"节伪代码块后补:
最小可跑示例(据 README 调用形态):
python -m babi_tasks --task 19 --path-length 5 --decoys 2 --steps 5生成 Path Finding 的 train/test 与符号化输出;--symbolic true时句子渲染为1 H teleport N形式,可逐行核对 clause 结构。参数上限(路径长度+诱饵数 ≤ 5,尺寸步数 ≤ 5)以 README 为准。
修订建议 4 — 给"后续关系"补可核对锚点(配合 R3) 在 MemN2N 一条末句"并在其 Table 1 上报告 bAbI 20 任务的错误率"后补:
可核对锚点:MemN2N(NIPS 2015)Table 1 的行标签为 20 个 bAbI 任务名,与本稿表格第 2 列同名,可按任务名直接对齐(注意指标方向相反:原文报错误率,本稿为准确率)。
修订建议 5 — 给未完全确认项加处理状态(配合 R3)
"未完全确认项"9 条现为编号列表,建议每条追加 影响主结论:是/否 与 下一步成本:一次 fetch / 需读全文 / 需检索;第 4 项(AM 具体机制)标为"影响主结论:是(附录 A 三开关归因是本稿工程建议的支点)"。
本轮使用材料(完整文件名)
1. 2026-11-03T1550-critical-read.md(源:inbox/flyp/2026-11-03T1550-critical-read.md)
2. 2026-11-03T0950-critical-read.md(源:inbox/flyp/2026-11-03T0950-critical-read.md)
3. 1502-05698.md(源:organized/promo/explainers/1502-05698.md)
边界:仅本地材料、未联网、未创建子任务、未改任务/额度/清单/水位/cron、未改动任何原稿、本文件为唯一写入。