link: https://x.com/_akhaliq/status/2110413943034491358 分类: x-tips 来源: @_akhaliq 作者: Jay 更新日期: 2026-10-15 仓库: https://arxiv.org/html/2610.11765

Thinking Inertia：LLM 收到"不要想"指令时仍在推理

原帖：https://x.com/_akhaliq/status/2110413943034491358
论文：Thinking Inertia: LLMs Keep Thinking When Told Not To（arXiv 2610.11765，2026-10-09）

这是什么

Thinking Inertia（思维惯性）是 2026 年 10 月 9 日arXiv 新上线的一篇论文提出的概念，指 LLM 即使被明确要求"不要思考、直接回答"，仍会在答案前吐出与问题高度相关、可推断出显式推理步骤的文字——论文称之为"visible explicit inference"（可见显式推理）。

核心发现两条：

  1. 表面代理（surface proxies）不可靠。关闭 thinking mode、去掉 <think> 标签、缩短输出长度——这三种常见手段都无法真正消除可见推理。模型仍能在普通答案通道里写出问题相关的前置内容，或在短回复中夹带关键推理步骤。

  2. 思维惯性随开放程度递增。在 Boolean 题（如 MMLU 二选一）上 explicit inference 最低；多选题目居中；开放性题目（open-ended）最高——即便在模型"原生 no-thinking"设置下也遵循此规律。

核验来源

项目 内容
论文标题 Thinking Inertia: LLMs Keep Thinking When Told Not To
平台 arXiv HTML 版
链接 https://arxiv.org/html/2610.11765
预印本编号 arXiv:2610.11765
发布日期 2026 年 10 月 9 日
X 引用帖 @_akhaliq（https://x.com/_akhaliq/status/2110413943034491358）
测试模型 明确提及 DeepSeek-V4-Flash（284B）、Qwen3-235B-A22B；另在摘要中说明共测试 6 个主流 LLM（开源+闭源），具体名称见论文正文
测试基准 MMLU 及另五个 benchmark，共六个基准
问题类型 Boolean、多选、开放性（open-ended）三类
干预手段 六种提示干预设置（含 native no-think、语义压制、结构前缀强制等）

注：论文中明确提到 DeepSeek-V4-Flash（284B 参数）在 disabled-thinking 设定下，开放性问题仍有 99.9% 出现可见显式推理。其他四个模型的名称及精确 ETR 数值，因原文被截断未能读取到，暂不写入。如需补全，请直接查阅 arXiv 原文 §3–§4 节。

上手步骤

第一步：理解三种度量维度

论文将 no-thinking 分解为三个递进层级：

  1. ETR（Empty-Thinking Rate）——严格答案合规率，输出中 pre-answer text 完全为空的比例。
  2. QRel.（Question–Pre-answer Relevance）——用 Qwen3-Embedding-4B 计算问题与前置文字的相似度，过低说明是废话，过高说明有内容泄漏。
  3. EIR（Explicit Inference Rate）——用 GPT-5.5 做盲判，判断 pre-answer text 是否包含针对问题的显式推理步骤。

这三个指标从不同角度揭示"no-thinking 是否真正生效"，ETR 看是否有内容，QRel. 看内容是否和问题相关，EIR 看内容是否在推理。

第二步：认识六种表面代理的失效场景

代理手段 失效原因
开启 no-think 设定 thinking mode 关闭后，推理内容仍进入普通答案通道
去掉 <think> 标签 仅改变格式；推理内容可作为普通语言文字出现
缩短输出长度 短回复中仍可能包含紧凑的推理方程或关键步骤
不触发 CoT 提示 问题本身已足以诱导推理性前置文字
仅用短词限制 模型可用极简表达完成推理闭环
系统 prompt 加"直接回答" 模型仍可能在答案前加"根据……可知"类引导语

第三步：关注任务类型对 no-thinking 效果的影响

  • Boolean 题：ETR 最高，explicit inference 最低，是最容易做到答案合规的场景。
  • 多选题：介于 Boolean 和 open-ended 之间。
  • Open-ended 题：最难控制；论文数据显示即使是前沿模型，禁用 thinking 后 EIR 仍接近 100%。

实操建议：如果你的场景是多选或开放性问题，不要依赖"关闭 thinking 模式"作为唯一控制手段；需要配合结构化输出约束（如强制 Answer: <letter> 格式）才能逼近真正的 no-thinking。

第四步：答案格式工程（Answer Space Engineering）

论文发现：同一条问题，提供候选答案列表，比开放生成更容易得到纯答案输出。

实操技巧： - 不要问"这道题怎么做，答案是什么" - 改为"以下哪项正确？A. ... B. ... C. ..." 并要求仅输出字母 - 在 prompt 中明确 Respond with only the letter, no explanation.

适用边界

适用： - 需要 LLM 输出极简短、不可含推理过程的场景（如即时客服、检索增强、工具调用前序步骤） - 评估 LLM no-thinking 能力的 benchmark 设计 - 产品经理/研究员评估模型"听话"程度

不适用 / 局限： - 论文测试集为 Boolean / 多选 / 开放性问答，不涵盖代码生成、数学推导等复杂推理任务——这类任务的 no-thinking 行为可能另有规律。 - 论文关注 visible explicit inference，即输出文本层面可观测的推理；模型内部潜在推理（latent reasoning）不在研究范围内。 - 六模型测试集均为 2025–2026 年主流模型；早期模型行为可能不同。 - EIR 盲判使用 GPT-5.5，模型更新后 EIR 阈值可能需重新校准。

未确认项

以下内容在论文原文截断范围内，未及核实，请以 arXiv 原文为准：

  • 除 DeepSeek-V4-Flash、Qwen3-235B-A22B 外四个模型的名称
  • 六种干预手段的精确 ETR / EIR 对比数值
  • 五个禁用 thinking 之 LLM 严格 answer-only prompting 后 ETR 从 ≈0 升至 40% 的完整表格
  • 作者团队姓名

参考链接

  • 论文：https://arxiv.org/html/2610.11765
  • X 原帖：https://x.com/_akhaliq/status/2110413943034491358
  • Hugging Face Papers 镜像：https://huggingface.co/papers/2610.11765