让 AI 干 100 步任务总在第 8 步崩溃?arXiv 2608.01964 把「任务状态」搬出了大模型脑子

  • 关联论文:2608.01964

你有没有抓狂过这种瞬间 😩:

你让 AI 帮你"在 Ubuntu 虚拟机里下载一个模型、解压、配置环境变量、跑一次推理测试"——

它前三步做得像模像样。

第 5 步开始就开始瞎编。 第 8 步直接告诉你"任务已完成"——但你打开文件夹一看,差得远呢

你以为这是模型不够强?不。 这是今天所有「AI Agent 评测框架」自己埋的雷。

arXiv 2608.01964 (LongHorizon-Harness) 戳破了一个所有 Agent 厂商都没认真面对的事实:

不是模型笨,是 Agent 框架把三件完全不同的事硬塞进同一个 LLM context,导致错误判断像滚雪球一样越滚越大。

他们用一个叫 MEA(Manager-Execute-Auditor) 的三件套循环,把任务状态从 context 里拽出来放进"外部档案柜",单个模型在 WeaveBench 上从 51.8% 直接跳到 80.7%——整整 +28.9 个百分点


为什么这事值得每个用过 AI 的人关心

今天你打开任何一个 AI Agent 产品(Claude Computer Use、Manus、AutoGen、字节的 UI-TARS…),让它们去做一个 50 步以上的复杂任务——填表 + 截图 + 调 API + 改文件——它们大概率会在第 8 步开始"幻觉"

为什么会这样?

根本原因:所有主流 Agent 评测框架都把三件事糊在同一个 LLM context 里——

  1. 任务执行(让模型生成下一步 action)
  2. 任务状态追踪(记得做过哪些、接下来该做什么)
  3. 完成评估(判断任务是不是做完了)

问题是:context 越长,模型对状态的记忆越模糊。一旦模型生出第一个"任务已完成"的错误判断,这个错误会像滚雪球一样,后面的所有决策都基于这个错误前提——直接跑偏。

论文里管这个叫 error propagation through incorrect self-assessments(错误判断传播)。

这意味着什么? 意味着你今天用 AI 去干的那些"长程任务"——买房贷款模拟、季度报表整理、跨系统文件迁移——它最可能在第 8 步开始一本正经地胡说八道,明明没做对,却告诉你"已完成"

LongHorizon-Harness 想改的就是这件事——把"任务状态"彻底从 LLM 脑子里搬出来,放进一个 LLM 看得见但摸不着的"外部档案柜"


一句话核心

LongHorizon-Harness 把"长程 Agent 执行"重新建模为一个"任务状态管理问题"——显式把任务状态外置到 LLM 外部、用 MEA 三角色循环(Manager 决策 / Executor 执行 / Auditor 验证)只允许经过环境验证的事实更新状态,从根本上切断错误判断的传播链。


三个洞察

洞察 1:把"任务状态"塞进 LLM context 是长程 Agent 的隐形天花板

过去十年,所有 Agent 框架都在干同一件事:把"任务状态"压成自然语言或结构化文本,塞进 LLM 的 prompt,让模型自己"记住"

这种设计在 5 步以内的任务里没问题。到 50 步、100 步就崩了——因为:

  • context 越长,模型对早先状态的回溯能力越差(实证研究早就证明,Transformer 对超长 context 的精确检索能力很弱)
  • 模型自己生成的"我已完成步骤 X"这种 self-assessment,没有任何外部验证机制——它说完成了,框架就信了
  • 错误一旦进入状态,下一步基于这个错误做决策,错误以指数级速度放大

LongHorizon-Harness 的核心诊断精准到让人沉默:

"Agent 评测结果差,不一定是模型不够强,可能是 harness 的设计让模型无法发挥已有能力。"

这句话翻译成大白话就是:你给孩子报了一堆补习班,但他家课桌上堆满了去年的课本、错题本、没拆封的试卷——孩子是真学不进去,不是笨。

洞察 2:MEA 三件套——决策、执行、验证各归各

LongHorizon-Harness 的解法把三件事彻底拆开,由三个角色分别负责:

┌─────────────────────────────────────────┐
│  Manager(管理者)                       │
│  - 读外部 task-state(结构化数据)         │
│  - 决定下一步 subtask                     │
│  - 输出 action plan                       │
└──────────────┬──────────────────────────┘
               │ action plan
               ▼
┌─────────────────────────────────────────┐
│  Executor(执行者)                       │
│  - 用 fresh context(干净环境)执行 action │
│  - 读当前环境真实状态                      │
│  - 输出执行结果                            │
└──────────────┬──────────────────────────┘
               │ execution result
               ▼
┌─────────────────────────────────────────┐
│  Auditor(审计员)                        │
│  - 读外部 task-state(只读,不写)         │
│  - 读 Executor 返回的环境状态              │
│  - 验证:事实是否真的发生                   │
│  - 输出 verified facts → 更新 task-state   │
└─────────────────────────────────────────┘

三个让工程团队鼓掌的关键设计:

  1. Manager 读外部 task-state——状态是结构化 JSON,存在 Redis/SQLite 里,不占 LLM 任何 token
  2. Executor 始终用 Fresh Context——每次执行都跑在新 context 上,不被历史对话污染,避免 error accumulation
  3. Auditor 是 Read-Only——只验证不决策,防止 Agent 自我确认错误判断

最绝的是 Auditor 必须独立验证环境事实——它不能相信 Executor 说的话,必须自己看一下"文件到底有没有被创建"、"API 到底有没有返回 200"。

这等于在 Agent 内部装了一个"事实核查员"——所有写进状态的信息都必须经过环境验证。

洞察 3:跨模型、跨框架都一致有效——这是框架级贡献,不是 model 特化

最让 Agent 工程师兴奋的是:这个改进不绑定任何模型、任何 benchmark

基准 模型 基线 +LongHorizon-Harness 提升
WeaveBench Qwen3.7-Plus 51.8% 80.7% +28.9pp
Terminal-Bench 2.1 Qwen3.7-Plus 69.7% 77.2% +7.5pp
OSWorld 2.0 Qwen3.7-Plus 2.8% 8.3% +5.5pp
OSWorld 2.0 子集 Claude Opus 4.7 20.0% 34.3% +14.3pp

信号在哪里?

  • 跨模型:Qwen 和 Claude 都显著提升,说明收益来自 harness 改进,不是模型特化
  • 跨任务域:WeaveBench(Web)、Terminal-Bench(命令行)、OSWorld(操作系统 GUI)三种完全不同的交互域都有效,MEA 是通用框架
  • 跨规模:从 2.8% 起的"几乎不可能任务"都能拉到 8.3%,说明对原本很难的任务收益更大

这对工程团队意味着:你不用换模型、不用重训,就能用一套 MEA 框架把你的 Agent harness 升一个台阶


关键实验与数据

  • Qwen3.7-Plus 在 WeaveBench 上从 51.8% → 80.7%(+28.9pp)——这是单点最大收益
  • Terminal-Bench 2.1 从 69.7% → 77.2%(+7.5pp)——已经是 70% 基线上的 +7.5pp,绝对难度更高
  • OSWorld 2.0 子集 Claude Opus 4.7 从 20.0% → 34.3%——GUI Agent 的"地狱级"任务,还能拉升 14.3pp
  • GitHub 已开源,174 stars MIT 协议——代码已经能直接拿来用
  • 新论文(2026-08-03 提交)——v1 距今 4 天,工业界响应速度极快

为什么这件事对 2026 年的 AI 产品至关重要

如果你在做下面任何一种 Agent 产品,MEA 模式都值得今晚抄一抄:

你在做的产品 能抄的设计
Computer Use Agent 把任务状态外置到 Redis,Manager 每次只读关键字段
AI 客服 / 售后 Agent 引入 Auditor 角色,在关键状态变更前独立验证环境事实
Code Agent(自动化重构/PR) Fresh context 执行,避免历史对话污染
Workflow Agent(跨系统数据迁移) task-state 存 SQLite,支持可视化、回滚、审计
Multi-Agent 协作系统 MEA 三角色可作为通用协作模式:决策 / 执行 / 验证分离

一句话总结对你的启发不要再把所有状态塞进 prompt 了。把关键状态外置到结构化存储,给 Agent 装一个只读的"事实核查员",每次执行用干净 context——你的长程 Agent 准确率会立竿见影地提升。


一段给普通人的话

当你下次打开 AI Agent 工具,让它帮你"整理一下上季度的财务报表,自动填到模板里"——

如果它第 5 步开始出错,第 8 步告诉你"已完成",但你打开文件一看全乱套——

不是 AI 笨,是这个 AI 用的框架在偷偷把执行、状态、评估糊在一起,让错误像滚雪球一样越滚越大。

LongHorizon-Harness 做的事很简单:

让 AI 的"记忆"从脑子里搬出来放进档案柜让 AI 的"我已完成"必须经过事实核查才能写进档案让 AI 的"执行"每次都用干净脑子跑,不被历史污染

这种事今天还做不到完美——但至少,MEA 循环已经让"长程 Agent 准确率"从"赌模型"变成"赌工程"

而赌工程,正是我们擅长的。


关联论文:2608.01964 原标题:LongHorizon-Harness: Advancing Long-Horizon Agents for Real-World Tasks 状态:v1,2026-08-03 提交;GitHub 已开源(174 stars,MIT 协议)


三个标题变体

  1. AI 干 100 步任务总在第 8 步崩溃——arXiv 2608.01964 把"任务状态"搬出了大模型脑子
  2. 不是模型笨,是 Agent 框架的锅——2608.01964 用 MEA 三件套让长程任务准确率暴涨 28.9pp
  3. 给 Agent 装一个"事实核查员"——LongHorizon-Harness 重新定义长程 Agent 应该怎么跑

小红书风格卡片文案(可直接发布)

🤖 AI 干 100 步任务为什么总在第 8 步崩溃? 🤖

你让 AI 帮忙"下载模型 → 解压 → 配环境 → 跑测试" 它前三步做得像模像样 第 5 步开始瞎编,第 8 步直接告诉你"已完成"——但文件夹里啥都没有 😩

你以为这是模型不够强? 不。今天所有 Agent 框架都把三件事糊在同一个 LLM context 里

1️⃣ 任务执行(让模型决定下一步) 2️⃣ 状态追踪(记得做过哪些) 3️⃣ 完成评估(任务是不是做完了)

问题是模型对超长 context 的精确记忆会崩 它一旦生成"我已完成步骤 X"的错误判断,错误会像滚雪球一样越滚越大 ❄️

arXiv 2608.01964 (LongHorizon-Harness) 干了一件狠事:

把任务状态从 LLM 脑子里搬出来放进外部档案柜 用 MEA 三件套:Manager 决策 / Executor 执行 / Auditor 验证 每个状态更新必须经过环境事实验证

📊 实测数据(来自 abstract)

  • WeaveBench:Qwen3.7-Plus 从 51.8% → 80.7%(+28.9pp)
  • Terminal-Bench 2.1:69.7% → 77.2%(+7.5pp)
  • OSWorld 2.0:2.8% → 8.3%(+5.5pp)
  • Claude Opus 4.7 子集:20.0% → 34.3%(+14.3pp)

跨模型、跨框架、跨任务域都有效——这是框架级贡献,不是 model 特化

🛠️ 工程落地切片(今晚就能抄)

# task-state 存 Redis,每次只给 LLM 读关键字段
task_state = redis.get(f"task:{session_id}")
action_plan = llm.generate(f"当前状态:{task_state}\n目标:{goal}\n下一步?")

# Executor 在 fresh context 执行
executor_result = executor.execute(action_plan, env_state)

# Auditor 独立验证环境事实(不能信 Executor 说的)
auditor_verdict = auditor.verify(executor_result, env_state, task_state)
if auditor_verdict.accepted:
    redis.update(f"task:{session_id}", auditor_verdict.new_state)

三个关键设计

1️⃣ Manager 读外部状态——状态是结构化 JSON,不占 LLM 任何 token 2️⃣ Executor 始终用 Fresh Context——每次执行干净跑,不被历史对话污染 3️⃣ Auditor 是 Read-Only——只验证不决策,防止自我确认错误

💡 为什么每个 Agent 开发者都该关心?

今天你用 AI 干"财务报表整理 / 跨系统数据迁移 / 50 步自动化工作流"—— 它最可能在第 8 步开始一本正经地胡说八道、明明没做对却告诉你"已完成"

MEA 循环让"长程 Agent 准确率"从"赌模型"变成"赌工程" 而赌工程,正是我们擅长的 💪

⚠️ 坑也得提一句: - MEA 推理成本翻倍(每步 2× LLM forward calls),高频短任务场景可能不划算 - Auditor 本身也是 LLM,如果它也判断失误,state 仍会被污染——生产系统建议给 Auditor 配"环境直接读取引用"作为辅助验证 - GitHub 已开源(174 stars MIT),但具体 AgentAdapter prompt template 还在完善 - "Qwen3.7-Plus" 这个模型名原文未明确(不符合已知 Qwen 命名规范),可能是笔误,复现时建议核实


AIAgent #长程任务 #arXiv论文 #Agent框架 #工程落地 #LLM #大模型 #自动化 #ComputerUse #深度学习 #论文解读 #AI产品经理 #Agent开发 #RAG #机器学习