jay 自测日记录 · 2026-10-30

总分:40/50 知识盲区:①「持久 KV cache」只背出「历史可寻址 ≠ 稳定 3D 场景图」,讲不清它承载什么(先前 latent token 作后续 segment 的注意力上下文兼自回归生成输入),因而说不透它为何不提供几何约束——无 3D 表示、无位姿检查,漂移是外观与几何均无约束的直接后果;②「动作感知因果注意力」只记「时间窗约束」,讲不清与普通因果注意力的结构差异:描述性上下文跨段可查=全局绑定,动作限窗生效=局部绑定,作用域之别非强弱之别;③「多阶段课程」四步只背顺序(因果生成→文本交互→相机控制→在自己生成的历史上训练),讲不清为何最后一步才治误差累积:前三步历史外部给定,最后一步是被污染的自生成历史,分布不同,早期引入会污染主任务;④「Bench 不含生成视频与评分」只当复现须知,讲不出评测结构性后果:280 case 的 prompt/交互序列/键盘时间线 + 220 条参考轨迹=输入侧全给、输出侧全无,「280 case」≠ 280 次可打分的测试;⑤单卡 4090 的「INT8 权重 + INT8 KV cache + FP8 解码 + CPU offload + 18 latent frame 滑窗」只记配置,讲不清滑窗 = 用一致性换显存:裁掉「历史可寻址」的深度,一致性上限被主动调低。

  • 来源论文:arXiv 2610.36729 — Hy-Nomas(腾讯混元 Hunyuan 开源自由交互世界生成模型,2026-10-27)
  • 被使用文件:organized/guides/x-tip-2115563792180588875.md

题目一(世界模型 vs 文生视频 · KV cache 承载什么)

问:与普通文生视频的差别?KV cache 承载什么?为何它不保证一致?

答:普通文生视频一次产出固定短片,输入输出一对一;Hy-Nomas 是持续生成中的世界,用户多轮下自由文本指令或相机轨迹控视角。

KV cache 承载:此前生成帧的 latent token 被保留,作为后续 segment 的注意力上下文兼自回归续写的生成输入。

为何不保证一致:KV cache 只给引用能力,不给几何约束。模型内无独立 3D 场景表示,无位姿与相机轨迹一致性检查。跨段漂移、物体消失,是「上下文可引用但几何无约束」的直接后果。故材料明说:一致性不是保证,是世界模型共性局限而非本仓库 bug。

评分:8/10 扣分:分界与「不提供几何约束」的推论答到;扣在没点出 KV cache 的双重身份(既是上下文又是生成输入),也没说清与「无条件重生成」的差别在于采样起点被历史锚定。

题目二(动作感知因果注意力 · 作用域差别)

问:「结构化视频字幕」与「动作感知因果注意力」对齐什么?描述性上下文与动作指令的作用域差在哪?与普通因果注意力有何别?

答:对齐的是结构化字幕的时间标注与注意力的可见性范围。每个 segment 带 contained_actions,start_time/end_time 用 MM:SS.mmm;因果注意力据此把动作指令绑定到指定窗口内才生效。

作用域:描述性上下文(谁、在哪、风格)是全局绑定——跨段持续可查,提供身份与风格锚;动作指令是局部绑定——只在其窗口内生效。「动作感知」不是把注意力调强,而是改变每条指令可被注意到的时间范围。这解释了为何交互指令能改世界而动作只作用于局部。

与普通因果注意力的差异:普通因果只保证不偷看未来(方向性);动作感知再加一层时间窗语义掩码,把动作 token 可见性收窄到指定窗口。故是「因果(方向)+ 窗口(范围)」两级约束。

评分:8/10 扣分:全局/局部绑定与两级约束都对;扣在没把这与离线 prompt schema 强绑定连起来(segments/contained_actions/MM:SS.mmm 是机制的输入形式,故自由文本在线输入须先经 PE 转结构化)。

题目三(训练课程 · 为何最后一步才治误差累积)

问:课程为「因果生成→文本交互→相机控制→在自己生成的历史上训练」。为何最后一步必须最后?治什么?

答:治长序列误差累积。每段生成都成为下一段的证据,小误差放大成外观漂移、动作不 plausible、场景崩坏。论文用「在模型自己生成的历史上训练」缓解,但材料明说不能根除。

为何最后(推断,材料只给顺序与「缓解不根除」):前三步的历史来源是外部给定的,最后一步是模型自生成、被误差污染的,两者数据分布不同。若早期引入自生成历史,主任务监督会与自生成噪声混在一起——此时因果生成能力尚未成形,噪声主导训练。故顺序是课程设计:先在干净历史上学会生成与交互,最后再针对「部署时真正会遇到的那种历史」适配。

评分:7/10 扣分:分布差异解释成立,但属我的推断,应显式标注(已标注);材料亦未给第四步具体形态(继续微调?损失重加权?)。

题目四(评测集结构 · 「280 case」怎么读)

问:280 个 test case、220 条参考相机轨迹、四个 split。含什么、不含什么?「拿它评测」意味?

答:含:结构化 prompt、交互序列、键盘时间线、参考相机轨迹(220 条)。不含:生成视频、抽帧、评分。

故「280 case」不能读作 280 次可直接打分的测试。它是输入侧全给、输出侧全无:每条 case 说明用什么 prompt、怎么交互、相机怎么走,但无目标视频、无抽帧、无评分函数。端到端打分须自己跑推理(720×1280@24fps、8 步 Euler、CFG 1.0、seed 42)出视频,再自建抽取与评分。

四个 split:多轮自由文本交互、相机导航、文本+相机混合控制、空间记忆。220 < 280,说明参考轨迹与 case 非一一对应——部分纯文本 case 不需相机轨迹。

评分:8/10 扣分:输入/输出侧切分与「280≠280 次可打分测试」答到;扣在没点出「220<280」的结构性推论:相机 split 可独立评测,文本 split 可评性全依赖自建评分,而空间记忆 split 要评的恰是长期一致性——正是材料自认未解决的长板。

题目五(部署边界 · 显存换一致性)

问:标准 8 卡;单卡 RTX 4090 靠什么跑起?「滑窗 18 个 latent frame」交换什么?INT8 路径有何连带限制?

答:8 卡标准:inference.yaml 默认 sp_size=8(序列并行)+ 分布式 PixelUMM 解码。

单卡 4090(single_gpu_low_mem_inference.yaml):INT8 DiT 权重、INT8 KV cache、FP8 解码器(VAE/PixelUMM_FT_FP8)、CPU offload、FlexAttention + CUTLASS FP8,加滑窗历史(默认 18 个 latent frame)。官方提示:CPU offload 需足够系统内存且带来 CPU–GPU 传输开销。

滑窗交换什么:裁掉的是「历史可寻址」的深度。历史越短,后续 segment 能回指的证据越少 → 跨轮一致性上限被主动调低。故单卡不是等效降级,而是拿一致性上限换显存。

INT8 连带限制:INT8 加载路径推理时不支持再挂载独立 LoRA adapter,LoRA 须先合并进浮点 DiT,牺牲了 LoRA 热插拔。

评分:9/10 扣分:四点覆盖;扣在没把「滑窗 18 帧」与「单段 30 latent frame(segment_latent_lengths=[30,30])」放一起算覆盖率(18 远小于 30,滑窗作用于跨轮而非段内),也没点出「8 卡 vs 单卡」不只是算力差异而是能力档位差异。


总评

总分:40/50(较 10-29 的 36 分 +4)

强弱:最强在边界与交换关系(题五 9、题四 8)——能把「滑窗 18 帧」读成「用一致性上限换显存」而非清单复述,也能把 280 case 拆成「输入侧全给、输出侧全无」。最弱在训练机制归因(题三 7):四阶段课程只能给出「分布差异」这一推断,需标注为推测。

同构:连续第七日同形——能列结论、推不出机制(本轮缺「第四步究竟怎么训」)。进步是本轮仅一处推测(题三),其余均能由材料推出;退步处是把「220<280」这类结构性数量关系当成可用证据而非待追问口径。