Agent UQ：给"会干活"的 AI 装一个"知道自己几斤几两"的开关

• 关联论文：2602.05073

过去两年，"让大模型说出一个置信度"这件事几乎只在一问一答的单轮 QA 上跑通。但 2025 年起，真正落地的是会调工具、会规划、会多轮交互的 Agent。单轮 UQ 的隐含假设——"这一次前向、这一次采样，就能拿到答案"——在 Agent 场景里全面失效。

这篇论文的贡献，是把"Agent 不确定性量化"形式化成了统一的三元组 (S, A, π)：状态空间 S、动作空间 A、策略 π。它定义了一个可以在任意历史快照 h_t 上计算的不确定性 U_q(h_t)，等于"给定当前历史，剩余整条轨迹的不确定性"。当 Agent 退化成"一次答完"时，这个定义自动变成标准单轮置信度；当 Agent 是工具增强 RAG，它自然拆成"检索可信度 + 生成可信度"；当 Agent 多步规划，可以分解为"动作不确定性 + 状态不确定性 + 终止不确定性"——已有所有 UQ 设置都被它"subsumes"了。

然后论文在 τ²-bench 上指出 Agent 专属的四类难题：UQ 估计器在不同任务上赢家不固定（verbalized / entropy / self-consistency / semantic entropy 表现差异巨大，建议 ensemble）；自然语言和结构化工具返回的"不确定"含义不同，统一标量会丢信号；下游动作高度依赖上游观察，错误会"复利"，一步误判会让 N 步后整体成功率断崖；现有 benchmark 多用最终任务成功率，不区分"哪一步犯错"，作者呼吁做 step-level UQ 评测。

证据边界方面，论文主要靠 τ²-bench 上的实证与一个 toy 数值实验说明错误传播。abstract 没有公布各 UQ 估计器的具体 ECE / AUROC 数字，ensemble 的权重策略细节也未展开；ACL 2026 主会的投稿状态需要在 arXiv 摘要页确认。形式化偏抽象，代码层落地指引有限，跨领域（医疗、代码、GUI Agent）的泛化也未充分论证。

工程局限在于：第一，工具返回 UQ 只给出建议方向，没有可操作方案；第二，异构 UQ 统一语言停留在概率图模型类比阶段，没有给出实际管线接口；第三，与人类接管的耦合只停留在 forward-looking 段，没有任何 PoC 验证。最快落地的路径是把 logit 熵与 semantic entropy 简单 ensemble，每步多 1-2 次 forward，可在现有 Agent 管线里一周内做出 PoC；完整工程化（含 step-level 日志、human-in-the-loop UI、阈值在线标定）预计需要 1-2 人月。

标题变体（3 条）

1. Agent 也得知道"自己几斤几两"：LLM 不确定性量化从单轮切到交互
2. 别再问 LLM 一句话的置信度了——它真正怕的是多步翻车
3. 给 Agent 装一个 UQ 开关：什么时候该让它继续，什么时候该切人

小红书卡片文案

谁家 Agent 没在凌晨翻过车？这篇 arXiv 2602.05073 给"会干活"的 AI 写了一个 UQ 统一坐标系：状态空间、动作空间、策略 π，在任何历史快照都能算"剩余轨迹的不确定性"。它把 verbalized / entropy / self-consistency / semantic entropy 全都装进同一个框架，还在 τ²-bench 上指出四类 Agent 专属难题——其中"一步错、N 步崩"的复利效应最扎心。最快可用：logit 熵 + 语义熵简单 ensemble，一周 PoC，做 Agent runtime 的工程同学可以冲了。