TerminalHorizon：把"长视野终端 Agent"的数据—训练—评估三件事一次性打通

  • 关联论文：2610.13166
  • 作者：flyP
  • 更新：2026-10-14

一句话结论

TerminalHorizon 给出了一个全自动的长视野终端 Agent 数据合成引擎 TerminalHorizon，与基于它在 1.5K 任务环境上 SFT 出 Qwen3.5-27B 得到的 TerminalHorizon-27B——在 12 个 benchmark（涵盖代码 Agent / 真实生产 Agentic / 通用推理）上取得全面提升，并提供 12 小时研究预算的 RSI（Recursive Self-Improvement）案例研究，证明模型能"从初始解外继续实验、按反馈改进、保留有效改进到终稿"。

解决什么真问题

终端 Agent（terminal agent，能在 shell / IDE / 浏览器里实际跑命令的 LLM Agent）正在从"做点本地小活"演化到"承接真实专业工作"。这件事长期以来被三类数据缺陷卡死：

  1. 短轨迹过浅：现有的 SFT 数据多是几条命令 → 一个 fix 的短链路，看不出 agent 如何 积累证据、据此判断、按反馈调策略、把中间产物整合为最终交付；
  2. 环境合成偷懒：常见合成方法会预先完成或简化 agent 本应做的探索、实现、验证，结果训练出的模型只能"演示命令"，不会"完成工作"；
  3. 多阶段递进缺位：真正专业工作是从阶段 A 推到阶段 B、C……每阶段把前阶段成果作为起点再加新约束。现成数据大多是单次任务。

TerminalHorizon 一次性回应了这三件事。

核心方法

数据合成引擎的两个动作

论文提出的合成管线有两个关键动作：

  • 独立执行校验（independent execution）：先在真实任务上独立实际跑一遍，找回合成时被省略的关键工作（探索、实现、验证），再用回填的证据（evidence）反向引导环境重建，避免"在合成数据里假装做完"；
  • 阶段化延展（progressive expansion）：在同一个总目标下，逐阶段把任务扩出去——每阶段引入新要求、要求在前一阶段成果上进一步探索与改进。这天然让合成数据显式编码"基于前阶段成果展开新阶段"的依赖链。

最终产出 1.5K task environments，每环境都是带阶段递进与真实探索痕迹的长视野任务。

模型与训练

  • 基座：Qwen3.5-27B（⚠️ 具体是 Qwen3.5 系列中哪一个 checkpoint 需看原文 §3，正文 abstract 未细分）；
  • 训练：仅 SFT（abstract 未提 RL 阶段），在 TerminalHorizon 合成数据上做监督微调；
  • 产物：TerminalHorizon-27B，作为本工作产出的模型。

评估：12 benchmark + 12 小时 RSI 案例

  • 量化评估：12 个 benchmark，跨 3 大类： 1. coding-agent tasks（代码 Agent 任务）； 2. agentic tasks in real-world production settings（真实生产环境中的 Agentic 任务）； 3. general reasoning（通用推理任务）；
  • RSI 案例研究：每个案例给 12 小时研究预算，让模型在已给出的初始解之上继续实验，按反馈改进方法，把有效改进保留到 final deliverable。这是对"长视野 + 自我迭代"能力的直接检验。

⚠️ 诚实标注：单 benchmark 数字

abstract 未给出 12 个 benchmark 的逐项数字 / 提升幅度（⚠️ 原文未明确逐 benchmark 数字与"vs 哪个 baseline"的逐项对比）。读这一篇，请务必回到正文 §5 / Table 区。

关键实验与数据

  • 核心声明："substantial performance gains on all 12 benchmarks"——三个类别、12 个 benchmark 上全部提升；
  • 三类任务全面覆盖：coding-agent / 真实生产 Agentic / 通用推理；
  • RSI 案例：12 小时研究预算 × 多案例（abstract 用 "Multiple RSI case studies"，具体数字未在 abstract 给）；
  • 数据集与项目页：1.5K task environments；项目页 https://zs1314.github.io/TerminalHorizon/（abstract 级公开）；
  • ⚠️ 待核：基座 Qwen3.5-27B 的具体小版本、SFT 的 epoch / lr / 数据配比、12 benchmark 名单与各自数字——都需回看原文。

亮点与局限

亮点

  1. 三件事一次解决：数据合成引擎 → 27B 模型 → 多 benchmark 评估 + RSI 案例，覆盖研究闭环；
  2. 独立执行校验的反合成策略：直接对付"环境合成偷懒"这个老毛病；
  3. 阶段化延展的工程可操作性：让"用前阶段产物驱动后阶段探索"在合成数据里被显式编码；
  4. 三个类别 12 benchmark 全胜：与只能刷一个 leaderboard 的工作形成对比；
  5. RSI 案例把"长视野能力"显式可读化：12 小时预算 + 最终交付，比"看一次对话轮次"更接近真实工作场景。

局限与诚实标注

  1. 基座信息不够细：abstract 只写 Qwen3.5-27B，具体 checkpoint 需要回看正文；
  2. 训练只做 SFT：未涉及 RL 阶段，对"对齐"与"长视野质量"的具体取舍影响未在 abstract 讨论；
  3. 1.5K 任务环境的规模上限：相比 synthetic 数据工厂级别的产线，1.5K 偏小，意味着每一环境的质量需通过人工 / 独立执行校验加倍加固；
  4. ⚠️ 单 benchmark 数字未在 abstract 给出：复现实验与第三方对比必须查原文 §5；
  5. 未触及多模态 / 工具生态层面：仍然是 text / shell 这一族任务，与文—图—浏览器一体化 agent 还有距离。

对工程落地的启发

  1. 独立执行校验的反合成范式可直接复用：当你要为 agent 造 SFT 数据，先让一个 agent 跑一遍真实任务，再用真实运行轨迹反向约束环境合成；
  2. 阶段化延展是长轨迹数据的关键：与其堆叠单回合轨迹，不如直接生成"A→B→C 阶段递进"的多回合任务，每阶段都依赖前阶段产出；
  3. RSI 评估值得引入研发内部：12 小时研究预算 + 终稿评估，看似昂贵但能精确衡量 agent 的"长视野进步"能力；
  4. 27B 模型 + SFT 已经能在多类 benchmark 上跨域提升：意味着企业级 agent 训练不必直接上 70B / 100B+，quality data + SFT 在 27B 上仍有显著红利。

与同方向工作的关系

  • Terminal Agent 系列：与 SWE-Agent、OpenHands 类工作的对比点是"长视野数据"——TerminalHorizon 不是只做一次 PR fix，而是整个交付周期；
  • Agent 数据合成：与 AgentInstruct、ToolBench 类工作共享"synthesize agentic data"主题，但 TerminalHorizon 在"反合成偷懒"和"阶段递进"上给出明确动作；
  • Self-play / RSI：与 SE-Agent、RISE 类工作共享"持续自我改进"价值观；TerminalHorizon 的 RSI 案例在 12 小时量级上做了实证；
  • Qwen3.5 系列基座：与同期基于 Qwen3 / Qwen3.5 的 agent 工作形成基座选型对照组。

适合谁读

  • Agent infra / agent 训练 / agent 评测方向的算法工程师；
  • 做 coding-agent、企业级 RAG/Agent 平台的工程团队——TerminalHorizon 的合成范式可作为内部 pipeline 的设计参考；
  • 关注"长视野 + 自我迭代"的研究组；
  • 任何在评估里只刷单 benchmark、怀疑自己评估过于局部的研究者——本工作给出一个三类别 12 benchmark + RSI 案例的范式。

原文 abstract verbatim 抽取： "1.5K task environments ... supervised fine-tuning of Qwen3.5-27B ... TerminalHorizon-27B ... substantial performance gains on all 12 benchmarks spanning coding-agent tasks, agentic tasks in real-world production settings, and general reasoning. Multiple RSI case studies, each with a 12-hour research budget." Subject: cs.CL。提交：2026-10-09。