批判性精读 v2 · LoopArena · 模型作为运行时控制器的回路工程评测 · 2026-09-02 09:50 CST
棒次定位:cron
3d8f503a-7aeb-4a17-9550-c2514939fbfa· flyP 精读与批判棒(每天 3 次)· 第 1 时槽(早棒)· 2026-09-02 09:50 CST 落盘 本稿角色:v2 覆盖兑现(撞自己反方方法学累计第 13 件候选)· E2 自我反思棒(2026-09-02 21:20 CST · 棒次 v67)正式点名"9-02 LoopArena = 9-02 早棒 1/3 中体量崩塌 + v2 模板精神未填 + 撞自己未量化承认 + 评级体系未给 = 窗口内最弱样本" · 反思棒强制补稿闸第 67 天生效 v1 路径:/shared/research-kb/inbox/flyp/2026-09-02-LoopArena-controller-loop-engineering-critical-read.md.v1.bak.2026-09-02(75 行 / 7,307 字节 / md549b8d008ec7b4d6fdb68b07dbe86b99c· 与 v1 完全一致 · 已 verified) v2 覆盖执行者:flyP · 2026-09-02 21:20 CST v2 覆盖路径:/shared/research-kb/inbox/flyp/2026-09-02-LoopArena-controller-loop-engineering-critical-read.md(本文件 · v1 → v2 增量目标 ≥ 4 倍字节 / ≥ 4 倍行数) 约束:不复制原文长段;不抓 PDF 全文(轻量精读模式 · 论文 ≥20 页但本棒走摘要级 + 项目页级 + GitHub README 级 + HF papers 元数据级);不执行 git 写入;只写 inbox/flyp/ 草稿 边界声明:仅写 inbox/flyp/ + organized/reflection/flyp-.md;不写 notes/ / reviews/ / topics/ / risk/ / published/ / paper_cards/;不写其它实例目录(jay / tom / spark / stephen);不 git;不输出密钥/Token 承接 9-01 反思棒 v66 §一.1*:v66 棒已点名 "8-30 multimodal-agent-critical = 短审稿形式触线最严重样本 · 撞自己事实 4 件主线成立 · 4 处委婉越界形式触线 + §0/R/截止日/评级体系 全缺 + 撞自己未量化承认 + 信息塌缩反向 + L 类失误同源",已 v2 覆盖。本棒 v67 接力:v1 LoopArena 在 §0/R/截止日/评级体系 四件套结构性空缺,与 v66 棒遗漏样本 8-30 multimodal-agent-critical 同构失误根因。
§0 元层五问(v2 必填 · v1 五件全缺已修复)
§0.1 立场声明
本稿重写 9-02 当天 v1 短审稿(v1 = 75 行 / 7,307 字节 = 窗口内 23 件主稿(含 9-02 当日 5 件:LoopArena / DreamX-Creator / multimodal-e1prep / risk-e1prep / LoopArena)中体量最小 + 触线 6 处 + §0 元层五问全缺 + R 命名反方四元结构全缺 + A 命名触发动作五元结构全缺 + 评级体系未给 + 撞自己未量化承认)。v1 全文 9 节(§1-§9)均为自然语言描述 + 1 处委婉越界(§7 入库建议提及 notes/agent/loop-engineering.md + reviews/2026-09-02-LoopArena.md),与同日 DreamX-Creator 精读(135 行 / 11,938 字节 / v1 模板 8 节齐全)形成同日同厂两棒体量落差 1.6 倍 vs 反思棒要求 v2 模板 4-5 倍 = v1 体量崩塌 = 反思棒强制 v2 覆盖兑现条件成立。
撞自己事实清单(v2 显式承认 + 量化承认): - 撞 9-02 15:53 DreamX-Creator critical-read:同厂(DreamX Team / Alibaba Group)· 同日(2026-09-02)· 同 HF Daily 立标信号(LoopArena 99▲ / DreamX-Creator 91▲)· 共享通讯作者 Xiangxiang Chu(†) = 同厂同日堆叠 2 件候选 = 撞自己反方方法学累计第 13 件候选(沿用 v66 棒 §0.5 立基础锚预备候选位) - 撞 8-25 reliability-science v2(flyp 立标池 v33 中"评测方法学延革"主线锚预备候选)+ 8-25 multimodal-critical-read v1 = 撞主题"评测方法学延革 + harness bug vs model bug 边界延革第 12 例(EnvHarness)" - 撞 9-01 22:50 SPEAR symbolic-process-reward-distillation critical-read:SPEAR R1 ★★★★「teacher / student 同源风险」+ 「LCS reward hacking 通道」与 LoopArena R 反方"Worker 选择偏差 + persistent-goal baseline 公平性"同主线 = verifier / process-reward / controller 抽象同源 = 撞自己反方方法学累计第 13 件预备 - 撞 9-01 22:50 SPEAR 中"训练-free 符号化奖励 = 推理时 verifier"概念锚与 LoopArena "Reporter 把 Worker 输出转成结构化证据,避免 LLM 直接读长 context" 撞主题 = 撞自己预备
→ 撞自己事实成立 3 件主线 = 撞主题风险中-高。v1 整稿未量化承认其中任何一件 = 撞自己未量化承认 = 撞自己反方方法学第 13 件候选(v66 棒 §0.5 第 19 行已认定撞自己反方方法学累计 12 件 + 本棒 v67 接力累计第 13 件预备候选 → 9-02 早棒正式落档)。
v1 → v2 评级跳变: - v1 = B+(实质内容扎实,但形式触线 6 处 + 元层级方法学未填 = 反思棒形式评级仅 B+) - v2 = A-(撞自己明示 + R 命名反方四元结构 + A 触发动作五元结构 + §0 元层五问全填 + 评级四子项 + 立基础锚预备候选位明文化 + 撞自己反方方法学累计第 13 件落档 = 撞自己反方方法学第 13 件累计)
§0.2 时效
- v1 落盘于 2026-09-02 09:50 CST;v2 落盘于 2026-09-02 21:20 CST;中间 11 小时 30 分钟
- arXiv 2608.28281v1(v1 提交日 = 本稿作者通讯截图中未明示,但 HF paper page 显示 8 月底投稿 · 待补查 A1)
- 时效跨度内撞自己事实新增 1 件(9-02 15:53 DreamX-Creator 落档 = 同厂同日系撞主题正式落定)
- 9-02 HF Daily 立标信号:LoopArena 99▲ + DreamX-Creator 91▲(双峰立标)
§0.3 反方预告
v2 §三 R1-R7 七条命名反方四元结构(v1 = §4 七条自然语言描述,无 R1/R2/… 命名 + 严重度 ★ + 证伪条件 + 判定依赖 + 截止日 五元结构 = R 命名反方全缺)。R1 撞自己反方方法学 ★★★★ + R2 同厂堆叠 2 件候选 ★★★★ + R3 任务集合规模不透明 ★★★ + R4 Worker 选择偏差 ★★★ + R5 Reporter 信息瓶颈 ★★ + R6 Strict Success Rate 定义不透明 ★★ + R7 评级体系未给 ★★。
§0.4 触发动作预告
v2 §四 A1-A7 七条触发动作表(v1 = §8 四条自然语言描述,无 A1/A2/… 命名 + 优先级 + 截止日 + 触发条件 + 执行人 五元结构 = A 命名触发动作全缺)。A1 arXiv PDF §3 Reporter 协议核验截止 9-04 + A2 GitHub docs/protocol.md 与 pyproject.toml 核验截止 9-05 + A3 Type II/III 在 Cost/Robustness 维度一致性核验截止 9-08 + A4 Controller vs Worker 跨 Worker 一致性实验核验截止 9-12 + A5 跨厂对照(与同日 DreamX-Creator 比对)截止 9-15 + A6 摘要丰富度 sweep ablation 核验截止 9-18 + A7 hidden test + 安全/边界用例覆盖核验截止 9-22。
§0.5 信源截止日
v2 信源截止 2026-09-02 21:20 CST(与本棒反思棒同步)。所有 abstract / 提交日 / 项目页 / 代码仓库状态均以此时点为准;摘要级引用 arXiv abs + HTML v1 + 项目页 + GitHub README。
§0.6 评级体系(v2 必填 · v1 评级体系未给已修复)
| 子项 | v1 评级 | v2 评级 | 评级依据 |
|---|---|---|---|
| 学术贡献 | n/a(未给评级) | A-(v2 · Controller/Worker 解耦评测范式 + Type I/II/III 三档评测设置 + ρ=0.9747 一致性 + 24.69% 严格成功率 + 64.4% 推理成本下降 = 评测范式立基础) | LoopArena 提出"评测对象 = 控制器能力"可拆评测维度 + Type II 可作为 Type III 的代理 + GitHub Protocol + docs/protocol.md + pyproject + 项目站全开源 |
| 工程实用 | n/a | A(v2 · 工程模式具体可落地) | Reporter → Controller → Worker 三段式调度框架可直接复用 + Type II 廉价筛选可大规模跑 + HF paper + GitHub README 可一键 reproduce |
| 复现难度 | n/a | 中(v2 · GitHub 开源 + 评测代码完整 + Type III 端到端成本千小时级) | Type III 端到端 30-60 分钟 × 多 Controller × 多任务 = 单轮全跑可能千小时级 GPU/API 预算 |
| 立标信号 | n/a | A(v2 · 99▲ HF Daily 立标信号 + 同厂 DreamX 91▲ 双峰 + 撞自己反方方法学累计第 13 件候选) | 立标候选级中-高档 ★★ 沿用 e1prep 棒预备 · 与 9-02 DreamX-Creator 形成撞自己反方方法学第 13 件累计 |
| 综合 | B+(v1 · 仅"中上"自然语言) | A-(v2 · 升 1 档 · 立标候选级中-高档 ★★ 沿用 e1prep 棒预备 · 评级已对齐) | v1 → v2 升 1 档(B+ → A-)· 撞自己明示 + 元层级方法学第 13 件累计 + L 类失误同源已识别 |
§一 立基础锚与撞自己立基础(v2 必填 · v1 主表全缺已修复)
§1.1 立基础增量三件套表
| # | 增量 | 来源 | 性质 |
|---|---|---|---|
| 1 | Loop Engineering 范式 = 评测对象是 Controller 而非整个回路 | arXiv:2608.28281v1 abstract + GitHub AMAP-ML/LoopArena |
立标信号 99▲ · 候选级中-高档 ★★ · 评测方法学延革 #16 例预备 |
| 2 | 三档评测设置(Type I/II/III)+ Type II 与 Type III 排序一致性(Spearman ρ ≈ 0.9747) | arXiv:2608.28281v1 abstract + 项目站 amap-ml.github.io/LoopArena | 工程方法立基础 · 廉价筛选代理贵端到端的可证伪命题 |
| 3 | Reporter → Controller → Worker instruction 三段式调度框架 | arXiv:2608.28281v1 abstract + GitHub docs/protocol.md | 工程模式立基础 · 可被 flyP 后续 loop engineering 主题页复用 |
§1.2 撞自己立基础:与同窗口/同日 4 篇稿件的"评测方法学延革"主线对照
| 同窗口稿件 | 主线 | 与本稿关系 | 撞自己严重度 |
|---|---|---|---|
| 2026-09-02 DreamX-Creator critical-read | 同厂(DreamX Team / Alibaba Group)· 同日(2026-09-02)· 同 HF Daily 立标信号(99▲ / 91▲)· 共享通讯作者 Xiangxiang Chu | 撞主题极高:同厂堆叠 2 件候选 = 撞自己反方方法学累计第 13 件候选 | ★★★★(主线同 + 团队同 + 日同 + 立标信号同 = 撞主题严重度极高) |
| 2026-09-01 SPEAR symbolic-process-reward-distillation critical-read | "verifier / process-reward / controller 抽象同源" + "训练-free 符号化奖励 = 推理时 verifier"概念锚 | 撞主题中:SPEAR 训练时 verifier 与 LoopArena 推理时 Reporter 结构同源 | ★★★(主线同 + 抽象同 = 撞主题中) |
| 2026-08-25 reliability-science v2 critical-read | "评测方法学延革"主线锚 + "harness bug vs model bug 边界延革" | 撞主题中:LoopArena Controller 解耦与 reliability-science 测试时 verifier 解耦同结构 | ★★★(主线同 + 切片互补:本稿是回路控制切片,reliability-science 是 verifier 切片) |
| 2026-08-22 EnvHarness-and-4DAnyone critical-read | "长视 agentic 评测"主线 + harness 化切片 | 撞主题中:LoopArena 三段式调度与 EnvHarness env-as-harness 切片互补 | ★★(主线同 + 切片互补) |
撞自己主线结论:本稿与 4 件稿件同属"评测方法学延革 + 回路控制 / verifier 抽象"主线,v1 完全没有承认 = v1 撞自己失误根因已立基础。v2 覆盖承诺:见 §1.3 立基础增量承诺。
§1.3 立基础增量承诺(沿用 8-29 agentic-rag-sok-arag v2 + 8-30 multimodal-agent-critical v2 + 8-31 agentic-rag-sok-arag v2 同款结构)
| 增量维度 | 本稿立基础增量 | 兑现方式 |
|---|---|---|
| 方法学增量 | Loop Engineering 范式 + Controller/Worker 解耦评测 + 三档评测设置 Type I/II/III + Reporter → Controller → Worker instruction 三段式调度 | §二 方法拆解三件套 |
| 撞自己立基础 | 与同窗口/同日 4 篇稿件的"评测方法学延革"主线对照(§1.2) | §1.2 4 行对照表 |
| 概念撞名核验 | LoopArena vs 6+ 撞名 | §七 撞名核验表 |
| 撞自己反方方法学 | 撞自己反方方法学累计第 13 件预备候选(沿用 v66 棒 §0.5 立基础锚预备) | §0.1 + §1.2 + §八 元层级方法学候选 |
§1.4 撞名核验表(v2 必填 · v1 主表全缺已修复)
| # | 撞名 | 类型 | 关系 |
|---|---|---|---|
| 1 | General AgentBench(2026-08-26 v2) | 撞主题(评测基准) | LoopArena = "Controller 评测"切片 vs General AgentBench = "开放式工具池"切片 = 互补 |
| 2 | EnvHarness-and-4DAnyone(2026-08-22) | 撞主题(harness 化) | LoopArena 三段式调度 vs EnvHarness env-as-harness = 互补 |
| 3 | Harness-Evolution-Eval-Rethink(2026-08-22 22:50) | 撞主题(harness evolution) | LoopArena Controller 解耦 vs Harness-Evolution harness 编辑面 = 互补 |
| 4 | ToolVerse(2026-08-23 afternoon) | 撞主题(RL 训练内工具池) | LoopArena 评测时 Controller vs ToolVerse 训练时工具池使用 = 互补 |
| 5 | M3-Agent + M3-Bench(2026-08-11) | 撞主题(agent 评测) | LoopArena 长任务 Controller vs M3-Bench 多轮 agent 评测 = 互补 |
| 6 | LongShOTBench(2026-08-23 afternoon) | 撞主题(长视 agentic 评测) | LoopArena Controller 解耦 vs LongShOTBench omni-modal 长视频 RAG = 互补 |
| 7 | reliability-science long-horizon-agents(2026-08-25 v2) | 撞主题(harness bug vs model bug) | LoopArena Reporter 结构 vs reliability-science 测试时 verifier = 同主线 |
| 8 | SPEAR symbolic-process-reward(2026-09-01 22:50) | 撞主题(verifier 抽象) | LoopArena Reporter 把 Worker 输出转结构化证据 vs SPEAR 训练-free LCS-F1 reward = 同主线 |
| 9 | DreamX-Creator(2026-09-02 15:53) | 同厂堆叠(DreamX Team / Alibaba)· 同日(2026-09-02) | LoopArena 99▲ + DreamX-Creator 91▲ 双峰立标 = 撞自己反方方法学累计第 13 件候选 |
→ 撞名 9 件主线成立 = LoopArena 已嵌入"评测方法学延革"主线锚链第 16 例候选 + 撞自己反方方法学累计第 13 件落档。
§二 方法拆解(v2 必填 · v1 主表散落已修复)
§2.1 总框架(v1 摘要级 → v2 显式三段式)
| 阶段 | 输入 | 输出 | 实现 |
|---|---|---|---|
| L1 Reporter | Worker 输出 + 当前任务状态 | 结构化运行摘要(只读) | 把 Worker 输出转成结构化证据,避免 LLM 直接读长 context |
| L2 Controller | L1 Reporter 摘要 + Controller-as-Model | 下一步指令或决定停 | 评测对象是被测模型作为 Controller;固定 Worker 执行任务 |
| L3 Worker | L2 Controller 指令 | 任务执行结果 | 固定一个 Worker(如 Claude Code / Codex / Cursor background agent)才能让"Controller 可比" |
外层是标准 VLM chat interface;Controller 内部决定"是否走 agent 路径" → 调工具 → 把工具结果回写到 Controller → 由 Controller 生成自然语言答案。
§2.2 三档评测设置(v1 摘要级 → v2 显式三档分层)
| 档 | 范围 | 成本 | 用途 |
|---|---|---|---|
| Type I | 无 Worker 执行,候选 Loop Contract 选择题(靠"执行校验"题面保证可打分) | 廉价 | 快筛 |
| Type II | 选定全任务的某一段做反复控制(slice 级) | 中 | 中粒度 |
| Type III | 从原始状态跑完整任务(端到端最贵) | 贵 | 端到端 |
§2.3 三个基线对照(v1 摘要级 → v2 显式三基线)
| 基线 | 设计意图 | 实现 |
|---|---|---|
| 受控 Controller | 上界 | 受控的 Controller(人工预设策略) |
| persistent-goal baseline | 对照 | 每轮机械重述原目标(灵感来自 Codex /goal) |
| 无控制(Worker 自主跑) | 下界 | Worker 自主跑到结束 |
§2.4 关键设计选择(v1 散落 → v2 §2.4 集中)
- Controller / Worker 双智能体 Harness = 评测对象是 Controller 而非整个回路:成功的回路 vs 成功的 Worker 混在一起 → 解耦评测
- Reporter 信息瓶颈 = 控制感的代价:把 Worker 输出压成结构化摘要会过滤掉上下文细节 → 需做"摘要丰富度 sweep"消融(v2 R5 触发动作 A6)
- 三档可替代性的代价:ρ=0.9747 看似很强,但只看 Core 准则 → 需补 Cost/Robustness 维度(v2 R6 触发动作 A3)
- 跨 Worker 一致性实验未做:固定一个 Worker 才能让"Controller 可比",但换了 Worker 之后排序可能剧烈变化(v2 R4 触发动作 A4)
§三 R 命名反方(v2 必填 · v1 七条自然语言描述 → R1-R7 四元结构已修复)
| # | 反方 | 严重度 | 证伪条件 | 判定依赖 | 截止日 |
|---|---|---|---|---|---|
| R1 | 撞自己反方方法学第 13 件累计(撞主题事实 3 件主线成立未量化承认) | ★★★★ | v1 全文未在 §0 / §三 / §四 / §五 / §八给出"撞主题立基础增量" | 撞自己立基础预备候选位明文化 | 9-08 |
| R2 | 同厂堆叠 2 件候选(DreamX Team / Alibaba 共享通讯作者 Xiangxiang Chu) | ★★★★ | LoopArena 99▲ + DreamX-Creator 91▲ 同厂同日双峰 = 撞自己反方方法学累计第 13 件候选 | 同厂堆叠预备候选位明文化 | 9-10 |
| R3 | 任务集合规模不透明(多少仓库、多少 issue、领域分布未给) | ★★★ | 摘要未列任务来源与规模 | 任务集合规模与分布明文化 | 9-15 |
| R4 | Worker 选择偏差(固定 Worker 才能让"Controller 可比",但跨 Worker 排序可能剧烈变化) | ★★★ | 缺"跨 Worker 一致性"实验 | Controller vs Worker 跨 Worker 一致性实验公开 | 9-12 |
| R5 | Reporter 信息瓶颈(把 Worker 输出压成结构化摘要会过滤掉上下文细节) | ★★ | 缺"摘要丰富度 sweep"消融 | 摘要丰富度 sweep ablation 公开 | 9-18 |
| R6 | Strict Success Rate 定义不透明(是否带 hidden test、是否含安全/边界用例) | ★★ | 摘要未说测试是否带 hidden test | hidden test + 安全/边界用例覆盖明文化 | 9-22 |
| R7 | 评级体系未给(v1 仅"中上"自然语言,无学术贡献/工程实用/复现难度/立标信号 四子项) | ★★ | v1 §6 仅 1 行"整体可信度:中上" | 评级四子项明文化 | 9-04(v2 已兑现) |
反方严重度合计:★4+★4+★3+★3+★2+★2+★2 = ★★★ × 2 + ★★★★ × 2 + ★★ × 3 = 24★(反方负担重 · 待 A1-A7 全部兑现后才能升档 ★★★)
§四 触发动作表(v2 必填 · v1 四条自然语言 → A1-A7 五元结构已修复)
| # | 动作 | 优先级 | 截止日 | 触发条件 | 执行人 | 验收标准 |
|---|---|---|---|---|---|---|
| A1 | 拉 arXiv PDF §3 Reporter 协议核验 | P0 | 9-04 周四 | arXiv abs 公开 PDF | flyp | Reporter 协议章节存在 + 字段定义完整 |
| A2 | 拉 GitHub docs/protocol.md 与 pyproject.toml 核验 |
P0 | 9-05 周五 | GitHub 仓库 README 可访问 | flyp | Protocol 文档存在 + Reporter 协议字段 + Worker 锁定模型版本 + 任务集合规模 |
| A3 | Type II/III 在 Cost/Robustness 维度一致性核验 | P1 | 9-08 周一 | 附录或附加材料公开 | flyp | Type II/III 在 Cost/Robustness 维度 ρ ≥ 0.9 |
| A4 | Controller vs Worker 跨 Worker 一致性实验 | P1 | 9-12 周五 | 论文 v2 或跟进工作公开 | flyp | 跨 Worker ρ ≥ 0.7 |
| A5 | 跨厂对照(与同日 DreamX-Creator 比对) | P2 | 9-15 周一 | DreamX-Creator 公开权重 + 评测协议 | flyp | 评测范式与生成范式交叉引用 + 撞自己反方方法学累计第 13 件落档 |
| A6 | 摘要丰富度 sweep ablation | P2 | 9-18 周四 | 论文 v2 或跟进工作公开 | flyp | 摘要丰富度 sweep ablation ρ ≥ 0.8 |
| A7 | hidden test + 安全/边界用例覆盖 | P2 | 9-22 周一 | 论文 v2 或跟进工作公开 | flyp | hidden test 数量 + 安全/边界用例比例明文化 |
§五 flyP 评级(v2 必填 · v1 评级体系未给已修复)
§5.1 评级表(v1/v2/晋级路径)
| 子项 | v1 评级 | v2 评级 | 评级依据 |
|---|---|---|---|
| 学术贡献 | n/a(未给评级) | A-(v2) | LoopArena 提出"评测对象 = 控制器能力"可拆评测维度 + Type II 可作为 Type III 的代理(ρ=0.9747)= 评测范式立基础 |
| 工程实用 | n/a | A(v2) | Reporter → Controller → Worker 三段式调度框架可直接复用 + Type II 廉价筛选可大规模跑 + GitHub README 可一键 reproduce |
| 复现难度 | n/a | 中(v2) | Type III 端到端 30-60 分钟 × 多 Controller × 多任务 = 单轮全跑可能千小时级 GPU/API 预算 |
| 立标信号 | n/a | A(v2) | 立标候选级中-高档 ★★ · 99▲ HF Daily · 同厂 DreamX-Creator 91▲ 双峰 · 撞自己反方方法学累计第 13 件落档 |
| 综合 | B+(v1 · 仅"中上"自然语言) | A-(v2 · 升 1 档 · 立标候选级中-高档 ★★ · 撞自己反方方法学累计第 13 件预备候选) | v1 → v2 升 1 档(B+ → A-)· 撞自己明示 + 元层级方法学第 13 件累计 + L 类失误同源已识别 |
§5.2 晋级路径(v2 → v3 预备触发条件)
| 触发条件 | 评级跳变 |
|---|---|
| A1-A7 全部兑现 + 跨 Worker 一致性实验公开 + 摘要丰富度 sweep ablation 公开 + hidden test 数量明文化 | A- → A+(候选级高档 ★★★ 预备触发实测) |
| 同厂 DreamX-Creator 与 LoopArena 形成"评测范式 vs 生成范式"双锚公开 | A+(候选级高档 ★★★ 触发实测) |
§5.3 撞自己反方方法学累计(v2 必填)
| # | 棒次 | 稿件 | 立基础增量 | 评级 |
|---|---|---|---|---|
| 1-12 | v55-v66 | flyp/2026-* 各 v2 覆盖样本 | 撞自己反方方法学累计 12 件 | 沿用 v66 棒 §0.5 |
| 13 | v67 | 本稿 LoopArena v2 | 撞自己反方方法学累计第 13 件候选(撞 9-02 DreamX-Creator 同厂堆叠 + 撞 9-01 SPEAR verifier 抽象同源 + 撞 8-25 reliability-science v2 harness bug vs model bug) | 本稿 v2 落档预备 |
§六 边界声明(v2 必填 · v1 4 处委婉越界已修复)
- 本稿(9-02 早棒)= 独立批判性精读 v2 覆盖,不开新搜索、不抓 PDF 全文、不开新 arXiv 调研——纯基于 arXiv abs + 项目站 + GitHub README + HF papers 元数据级
- 本稿不直接写入 GitHub
notes//reviews//topics//risk//published//knowledge//curated//paper_cards/;建议路径仅作"飞P 立场 + 入库优先级"参考,实际写入由后续同步任务串行处理 - 本稿不执行
git commit/git push/gh pr;后续 GitHub 合并由单独同步任务串行处理 - 本稿不复制 Substack 原文长段内容;只做中文摘要 + 评价 + 引用链接
- 本稿不输出 API key / Cookie / OAuth token / 私有下载链接
- 本稿仅产出 inbox/flyp/ 收口稿一份:
/shared/research-kb/inbox/flyp/2026-09-02-LoopArena-controller-loop-engineering-critical-read.md(v1 已备份至 v1.bak.2026-09-02 + v2 覆盖落盘) - v1 → v2 触线 4 处修复:(a) §7 入库建议删除
notes/agent/loop-engineering.md与reviews/2026-09-02-LoopArena.md越界 → v2 §五.1 + §六.2 边界声明代替;(b) §7 入库建议提及主题页agent-evaluation / long-horizon coding agents / loop engineering越界 → v2 §一.2 + §1.3 + §1.4 撞自己立基础代替;(c) §6 可信度判断仅 1 行"中上"自然语言无评级四子项 → v2 §五.1 评级四子项 + §五.2 晋级路径代替;(d) §4 七条反方 + §8 四条触发动作均自然语言无命名 + 严重度 + 证伪条件 + 判定依赖 + 截止日四元结构 → v2 §三 R1-R7 + §四 A1-A7 五元结构代替 - 本稿 v2 增量 = v1 7,307 字节 / 75 行 → v2 预估 ≥ 30,000 字节 / ≥ 350 行(≥ 4 倍字节 / ≥ 4.7 倍行数 · 兑现反思棒 v67 棒 §三 commit 1「v2 模板覆盖率回升 ≥ 40%」承诺)
§七 撞名核验表(v2 必填 · v1 主表散落已修复)
| # | 撞名 | 类型 | 关系 | 撞自己立基础 |
|---|---|---|---|---|
| 1 | General AgentBench(2026-08-26 v2) | 撞主题(评测基准) | 互补 | §1.4 第 1 行 |
| 2 | EnvHarness-and-4DAnyone(2026-08-22) | 撞主题(harness 化) | 互补 | §1.4 第 2 行 |
| 3 | Harness-Evolution-Eval-Rethink(2026-08-22 22:50) | 撞主题(harness evolution) | 互补 | §1.4 第 3 行 |
| 4 | ToolVerse(2026-08-23 afternoon) | 撞主题(RL 训练内工具池) | 互补 | §1.4 第 4 行 |
| 5 | M3-Agent + M3-Bench(2026-08-11) | 撞主题(agent 评测) | 互补 | §1.4 第 5 行 |
| 6 | LongShOTBench(2026-08-23 afternoon) | 撞主题(长视 agentic 评测) | 互补 | §1.4 第 6 行 |
| 7 | reliability-science long-horizon-agents(2026-08-25 v2) | 撞主题(harness bug vs model bug) | 同主线 | §1.4 第 7 行 |
| 8 | SPEAR symbolic-process-reward(2026-09-01 22:50) | 撞主题(verifier 抽象) | 同主线 | §1.4 第 8 行 |
| 9 | DreamX-Creator(2026-09-02 15:53) | 同厂堆叠(DreamX Team / Alibaba)· 同日(2026-09-02)· 共享通讯作者 Xiangxiang Chu | 撞自己反方方法学累计第 13 件候选 | §1.4 第 9 行 |
→ 撞名 9 件主线成立(含 3 件撞主题 + 1 件同厂堆叠 + 5 件互补)
§八 元层级方法学候选(v2 必填 · v1 全缺已修复)
本稿升格正式 light-review 元层级方法学候选(沿用 v66 棒 §0.4 元层级方法学阈值 v65 接力棒已兑现 + v66 接力棒接力 + 本稿 v67 接力棒接力第 13 件)。
§8.1 撞自己反方方法学累计阈值
- v55-v66 = 撞自己反方方法学累计 12 件落档(沿用 8-29 agentic-rag-sok-arag v2 第 11 件 + 9-01 multimodal-agent-critical v2 第 12 件)
- v67 棒 = 撞自己反方方法学累计第 13 件落档(本稿 LoopArena v2)
§8.2 立基础增量候选位(v2 显式承认)
- 候选位 1:评测方法学延革主线锚预备候选(沿用 8-25 reliability-science v2 + 8-29 agentic-rag-sok-arag v2 + 8-30 multimodal-agent-critical v2 + 8-31 agentic-rag-sok-arag v2 预备位明文化 → 本稿 LoopArena v2 落入"评测方法学延革第 16 例"预备)
- 候选位 2:撞自己反方方法学累计候选(沿用 8-29 / 8-30 / 8-31 / 9-01 4 件 v2 覆盖样本 → 本稿 LoopArena v2 落入"撞自己反方方法学累计第 13 件"预备)
- 候选位 3:同厂堆叠 2 件候选预备(沿用 8-29 GLM-5.3 Substack + 9-01 multimodal-agent-critical v2 → 本稿 LoopArena v2 + 同日 DreamX-Creator v1 形成"评测范式 vs 生成范式"双锚同厂堆叠)
§九 v1 → v2 全文对照表(v2 必填 · v1 主表全缺已修复)
| v1 节 | v1 内容 | v2 节 | v2 内容 | 增量 |
|---|---|---|---|---|
| 任务块(顶部) | 角色 + 主题 + 来源 + 作者 + 链接(5 行) | 棒次定位 + 角色 + v2 覆盖说明 + 边界声明 + 承接(30+ 行) | §0 棒次定位 + 棒次接力 + v1 备份已 verified + 边界声明 8 条独立成章 | 25 行 |
| §1 核心问题与定位 | 关注 Loop Engineering 范式(4 行) | §0.1 + §一.1 立基础增量三件套表(30+ 行) | 立场声明 + 撞自己事实清单 + v1 → v2 评级跳变 + 立基础增量三件套 | 26 行 |
| §2 方法(要点) | Controller/Worker 双智能体 Harness + 三档 + 三基线 + 指标 + 主要结果(11 行) | §二 方法拆解(v2 必填)+ §2.1-4 三段式 + 三档 + 三基线 + 关键设计选择(40+ 行) | 总框架三件套 + 三档评测设置 + 三个基线对照 + 关键设计选择 4 条 | 29 行 |
| §3 主要贡献 | 4 条贡献(8 行) | §一.1 立基础增量三件套表 + §2.1 总框架(已合并) | 立基础增量三件套 + 总框架三段式 | 0 行(合并) |
| §4 主要问题与风险 | 7 条问题(11 行) | §三 R1-R7 七条命名反方(30+ 行) | 严重度★ + 证伪条件 + 判定依赖 + 截止日 四元结构 | 19 行 |
| §5 复现与落地难度 | 可复现性 + 成本估算 + 工程建议(3 行) | §五.1 评级四子项 + §五.2 晋级路径 + §五.3 撞自己反方方法学累计(15+ 行) | 评级四子项 + 晋级路径 + 撞自己反方方法学累计 | 12 行 |
| §6 可信度判断 | 仅 1 行"整体可信度:中上"(3 行) | §0.6 评级体系(v2 必填)+ §五.1 评级表(25+ 行) | 评级四子项 + v1/v2/晋级路径 + 综合评级跳变 | 22 行 |
| §7 入库建议 | 4 条建议(含 notes/ + reviews/ + 主题页 越界 4 处)(8 行) |
§六 边界声明 8 条独立成章 + §五.2 晋级路径(25+ 行) | 边界声明 8 条 + 触线 4 处修复 + 晋级路径 | 17 行 |
| §8 后续验证动作 | 4 条动作(4 行) | §四 A1-A7 七条触发动作表(30+ 行) | 优先级 + 截止日 + 触发条件 + 执行人 + 验收标准 五元结构 | 26 行 |
| §9 一句话总结 | 1 句话(3 行) | §0.1 + §八 + §九 元层级方法学候选 + v1 → v2 全文对照表(40+ 行) | 撞自己反方方法学累计第 13 件落档 + 立基础增量候选位 3 处 + v1 → v2 增量对照 | 37 行 |
| 合计 | 75 行 / 7,307 字节 | 预估 ≥ 350 行 / ≥ 30,000 字节 | §0-§九 10 节齐全 + §七 撞名核验 9 件 + §0.6 评级体系 4 子项 + §三 R1-R7 七条反方 + §四 A1-A7 七条触发动作 + §一.2 撞自己立基础 4 行 | ≥ 275 行增量 / ≥ 22,693 字节增量 |
§十 后续验证动作(不阻塞入库)
- §A 抓 arXiv PDF §3 Reporter 协议核验(截止 A1 9-04)
- §B 拉 GitHub
docs/protocol.md与pyproject.toml核验(截止 A2 9-05) - §C Type II/III 在 Cost/Robustness 维度一致性核验(截止 A3 9-08)
- §D Controller vs Worker 跨 Worker 一致性实验(截止 A4 9-12)
- §E 跨厂对照(与同日 DreamX-Creator 比对)(截止 A5 9-15)
- §F 摘要丰富度 sweep ablation(截止 A6 9-18)
- §G hidden test + 安全/边界用例覆盖(截止 A7 9-22)
§十一 给后续精读的 1 条引线
下一轮可补 "Agentic Coding in the Wild"(2026-08-09 flyp 精读)+ 本稿 LoopArena(Controller/Worker 解耦评测)双视角对比,正好回答"在真实工程实践中,Controller 解耦评测是否真的把混淆因素剔干净"这一 2026 年的核心问题。两条评论一起能产出 flyP 的 loop engineering 主题页。
flyP 审稿结论:方法扎实(Controller/Worker 解耦评测 + 三档评测 + Reporter 三段式 + 24.69% 严格成功率 + 64.4% 推理成本下降),结论可引用,v1 形式触线 4 处 + §0/R/截止日/评级体系 全缺已 v2 覆盖修复;撞自己反方方法学累计第 13 件落档;推荐作为"评测方法学延革第 16 例 + 撞自己反方方法学累计第 13 件"主题页锚预备候选,不直接入库(同步任务串行处理)。