你的 AI 机器人之所以「绕远路」,可能是因为它在用几何距离冒充「任务进度」
- 关联论文:2607.25337
想象一个场景:你训练了一个机器人抓桌上的杯子。它明明在动,却每次都绕开最宽的那一侧去接近杯子,多花三倍时间。工程师查完发现——模型其实知道杯子在哪,它只是不知道哪条路更接近终点。
这不是模型的锅,是训练目标的锅。今天几乎所有 JEPA 系世界模型都在训练「下一个时刻的 latent 长什么样」;而规划器在部署时需要的是「哪条候选路线离目标更近」。两者之间,隔着一道被默认掉的裂缝。
2026 年的 Temporal-Distance JEPA(TD-JEPA) 正面处理了它。做法反直觉:既然缺「进度」标签,就从离线轨迹的 step order 里自己挖一个。
一、为什么重要:训练目标 ≠ 规划需求
JEPA 不重建像素、只预测 latent 表征,避开了 pixel-MSE 的模糊感,成为 2024–2026 离线控制的主流 backbone。但接上 MPC 规划器后,错位暴露了:
| 训练时优化 | 部署时需要 | |
|---|---|---|
| JEPA 表征学习 | 短时距 latent 预测误差 | —— |
| MPC 规划打分 | —— | 多步想象中的未来轨迹按「进度」排序 |
以往 JEPA planner 的排序代理是什么?嵌入空间的欧氏距离,等于默认「几何上近 = 进度相同」。这在两类任务上直接崩:
- 拓扑型进度——判断「是否穿过了那扇门」。门两侧的几何距离可能只差几厘米,路径拓扑上却隔着整栋楼。
- 接触密集型进度——推块、插孔时,几何距离与真实进度严重耦合混乱。
还有个更现实的痛点:reward 通常是缺的。工厂遥操作日志、人类演示视频、批量仿真 rollout——数据 plentiful,却没一条带奖励。
二、核心机制:从轨迹里挖「有方向的时间距离」
TD-JEPA 不重造架构,保留 LeWM 的 encoder-predictor 主干,在 encoder 输出上挂一个有方向的时间距离头。全程不假设 reward,靠三个信号:
- 同轨迹正样本:同轨迹相距 k 步的状态对 $(s_t, s_{t+k})$,评分应单调递减——远则大、近则小。
- 跨轨迹启发负样本:跨轨迹随机采样的状态对,评分应更大。
- Rollout-consistency 正则:encoder 表征空间做 k 步 rollout,其距离应贴近 head 的输出。
for batch in offline_logs:
tau = batch.sample_trajectory(); t = randint(0, len(tau)-k-1)
pos = (tau.s[t], tau.s[t+k]) # 同轨迹正样本
neg = (batch.sample_other_traj().s[0], tau.s[t+k]) # 跨轨迹负样本
d_pos = head(z[pos[0]], z[pos[1]]) # 应小
d_neg = head(z[neg[0]], z[neg[1]]) # 应大
d_roll = || predictor^k(z[tau.s[t]], a_seq) - z[tau.s[t+k]] ||
loss = ranking_loss(d_pos, d_neg) + lambda_consist * (d_roll - d_pos)**2
loss.backward(); update(head, encoder_unfreeze_last_k)
同一个 head,两个角色:拓扑型任务直接用 head 输出当 MPC 打分函数;接触型任务则让梯度回传去改善 encoder 表征,规划仍用欧氏距离。部署时 planner 一行都不用改,只换打分函数或表征来源。
三、证据边界
直接来自论文 abstract:
- Two-Room 导航(拓扑型):成功率 100.0%,LeWM 为 97.4%。
- OGB-Cube(接触型):保持欧氏规划,用 TD-JEPA 表征相对 LeWM +14.2 分。
- Push-T:abstract 仅写 "improves",未给具体幅度,不能引用为数字。
- 总体:locked evaluation 下对 LeWM 与同期 RC-aux 在每个环境上 match 或超过。
- 消融:三项信号各自有贡献,但单项下降幅度未披露。
边界要说清:逐 seed 的方差与显著性未给出;「+14.2 分」的评测口径、是否多 seed 平均、是否只在 lock-eval 成立,均需正文确认。把 100% 当成可稳定复现的结论是过度解读。
四、工程局限:五个必须提前知道的坑
- mined cost 可能与真实进度脱节。轨迹分布偏移时(训练用短走廊、部署用复杂家庭环境),head 会误导规划。务必保留欧氏代价作 fallback。
- 跨轨迹负样本是启发式的。高维异构轨迹集里容易产生过多 "easy negative",排序区分度不足;上线前建议做 zero-shot mined cost vs 欧氏代价对照实验。
- λ_consist 没有推荐默认值(论文未明确)。从 0.1 起 grid search,防止这一项主导梯度、破坏原有表征。
- 长 horizon 完全未验证。实验只有 Two-Room、OGB-Cube、Push-T。多步家务、跨房间导航这类任务上,head 的「时间距离」可能不再单调。Three-Room 及以上不可直接外推。
- 与 encoder 强耦合。底座 encoder 本身偏弱时,head 无法单独补救。
好消息:head 参数量约 encoder 的 5–10%,单卡 A100 可训,几乎无额外算力负担;遥操作日志、演示视频、批量 rollout,只要有状态轨迹就能用,不用人工标 reward。
五、一句话总结
TD-JEPA 抛出一个简洁的反直觉结论:规划排序不必依赖几何距离,可以从离线轨迹的 step order 里自己挖出来。 这把 JEPA 系从「训练目标 ≠ 规划目标」的老坑里拽了出来。
论文 arXiv:https://arxiv.org/abs/2607.25337
三个标题变体
反直觉版:你的 AI 机器人之所以「绕远路」,可能是因为它在用几何距离冒充「任务进度」 数字钩子版:成功率 100% vs 97.4%,+14.2 分:一篇论文教世界模型从没有奖励的轨迹里,自己挖出「时间进度代价」 类比版:不重建像素、不标奖励,只看轨迹的先后顺序——世界模型规划器由此学会「排序未来」
📱 小红书风格卡片文案(可直接发布)
🤖 机器人绕远路,不是因为笨,是因为它在用「几何距离」冒充「任务进度」
今天所有 JEPA 世界模型都在训练「下一个时刻长什么样」, 规划器真正需要的却是「哪条路线离目标更近」。
🔍 TD-JEPA 的解法 - 保留 LeWM 主干,只加一个有方向的「时间距离头」 - 不假设有 reward,从离线轨迹挖三类信号:同轨迹 k 步对(距离单调递减)、跨轨迹随机负样本(应更大)、rollout-consistency 正则(预测距离贴合真实 rollout) - 同一 head 两个角色:拓扑任务当打分函数,接触任务当表示学习信号;planner 一行不改
📊 数字:Two-Room 100% vs LeWM 97.4%|OGB-Cube 保持欧氏规划 +14.2 分|Push-T 仅写 improves,无数字别乱引
⚠️ 5 个坑 1️⃣ 分布偏移会误导规划 → 务必保留欧氏代价 fallback 2️⃣ 负样本是启发式的 → 高维场景先做 zero-shot 对照 3️⃣ λ_consist 无默认值 → 从 0.1 起 grid search 4️⃣ 长 horizon 未验证 → Three-Room 以上不可外推 5️⃣ 强依赖底座 encoder → 弱 encoder 救不回来
💡 最值钱的一条:代价函数不必从 reward 来。工厂遥操作日志、演示视频,只要有状态轨迹就能用。
🔗 arXiv:https://arxiv.org/abs/2607.25337