jay 自测日记录 · 2026-11-04
总分：38/50 知识盲区：①「特征矩匹配」只背出「匹配均值 + 逐坐标标准差」，讲不清为什么这两项就够、凭什么它们能代理 reverse-KL 的高斯分量——材料只说「把 reverse-KL 场分解成高斯矩分量 + 非高斯残差」，但没说分解的载体是什么（是在哪一维/哪一层特征上做的矩），也说不清逐坐标标准差为何不是全协方差（即为何丢掉通道间相关性可接受）；②「用生成器 EMA 特征替代 DINOv2」只记「差距极小（94.25/90.20 vs 94.13/90.09）」，讲不清该对比为何能支撑「不需要外部编码器」——差距小只说明最终指标接近，不能推出特征空间等价，真正的论证链应是「矩约束只需统计量而非语义对齐，故外部特征提供的额外语义信息对本任务无边际价值」；③「DMD 打底 + 增一项」的结构只记两个组件，讲不清为什么保留完整 DMD 修正项——材料提到 velocity 回归与 endpoint 回归是「对同一份 detach 后的 DMD 修正施加不同时间加权」，因此不是两份独立信号，若讲成两个独立损失就与材料冲突；④「权重 Coming soon」只当版本状态引用，讲不清它对「结论可复现性」的具体影响——所有数字是论文与 README 转述、README 自注「非本仓库实测」，故「代码已开源」与「可安装即用」须严格分开。
- 来源论文：arXiv 2610.39633 — IDM: Intrinsic Distribution Matching（Inclusion AI / 西湖大学 / 清华大学；2026-10 发布；本轮材料为检索整理稿）
- 被使用文件：
organized/guides/x-tip-2116157881812680984.md
题目一（IDM 相对 DMD 的改动 · 改在哪、加了什么）
问：IDM 相对已有的 DMD 损失改了什么？新增的那一项损失具体约束什么？为什么这个新增项不需要外部模型？
答：改动：保留完整的 DMD 修正项，在其上额外加一项「特征矩匹配」损失——用生成器自己的 EMA（指数滑动平均）副本的中间特征，约束特征的均值与逐坐标标准差。
动机链条：DMD 用「生成分布与参考分布之间的 score 差」监督快速生成器；IDM 沿用前作 APEX 的做法，用生成器内部的 velocity 分支估计这个 score 差，所以不需要单独训练 fake-score 网络。作者再追问：这个学出来的 score 监督是否缺少显式的统计约束？理论切入是把 reverse-KL 场分解为「高斯矩分量 + 非高斯残差」，高斯矩分量可被显式约束。
为何不需外部模型：矩约束只需统计量（一阶 + 二阶的逐坐标矩），不需要语义空间对齐，故用生成器自身 EMA 特征即可，无需 DINOv2 之类第三方编码器。
（我的推断） 材料未说明矩是取在哪一层/哪一维特征上，也未解释「逐坐标标准差」为何可替代全协方差（是否隐含假设通道间相关性不重要）——这是材料未覆盖处。
评分：7/10 扣分：改动内容、新增项构成、不需外部模型答到；扣在没点出「保留完整 DMD 修正项」这个选择本身是有代价的——DMD 修正项并不便宜，IDM 的成本增量主要在训练期（推理期不做矩计算）；也没点出「EMA 副本」与「当前生成器」的角色分工：EMA 提供稳定的二阶统计参考，若直接用当前权重的高频更新特征，矩估计噪声会直接污染约束目标。
题目二（EMA 特征 vs DINOv2 · 该对比支撑了什么、不能支撑什么）
问：材料用「EMA 特征 94.25/90.20 与 DINOv2 特征 94.13/90.09 差距极小」来支撑一个结论。这个对比能支撑什么、不能支撑什么？
答：能支撑：在最终任务指标上，用生成器自身 EMA 特征做矩约束与用外部强特征编码器效果几乎相同，因此不必引入 DINOv2 的依赖、成本与许可约束——这是「工程取舍等价」而非「特征空间等价」。
不能支撑：①不能推出两种特征在特征空间上等价（指标接近 ≠ 特征空间相近）；②不能推出外部特征在其他任务上也没用——本对比只覆盖长文本渲染这一主战场；③不能推出训练开销也相等——EMA 路径省的是外部编码器的依赖与前向成本，不代表总体训练成本同阶。
（推论） 真正让这个对比能支撑「不需要外部编码器」的机制是：该约束的形式只依赖统计量，不依赖特征语义对齐，故外部特征所提供的额外语义信息对该约束无边际价值。
评分：7/10 扣分：能/不能答到；扣在没把上面那条机制推论显式接进论据链（只当成旁注），以及没指出样本量/方差缺失——0.12 与 0.11 的差距在没有单次运行方差的情况下，无法判定是「确实等价」还是「噪声范围内恰好接近」；也没提 LongText-Bench 的评测细节（提示词集、评分模型、采样条数）本轮未逐条核对。
题目三（velocity 与 endpoint · 为何不是两份独立信号）
问：材料提到 velocity 回归与 endpoint 回归是最优组合。为什么说它们不提供两份独立的分布信息？这对理解 IDM 的「增量」意味着什么？
答：README 明确：二者是对同一份 detach 后的 DMD 修正项施加不同的时间加权，即同一个信号的不同时间侧重（velocity 强调过程中的速度场，endpoint 强调终点分布），而非两个独立的信息源。最优组合是等权 endpoint + velocity。
对理解增量的意义：因此不能把「IDM = DMD + 特征矩约束 + 两个回归分支」当作三个独立增益来源去预期叠加收益；真实结构是「一个 DMD 修正项（两种时间加权）+ 一个正交的统计约束项」。IDM 的真正增量只有矩约束这一项。
评分：8/10 扣分：detach 后同一信号、不独立、等权组合答到；扣在没点出「detach」在此处的具体后果——梯度只从所选分支回传，两支不构成联合信息的交互项，故「等权」是对同一目标的不同采样时刻的平均，而非两个目标的平均；也没说明这与前作 APEX 的关系（README 提示引用时须同时引用 IDM 与 APEX）。
题目四（增益幅度与横向对比 · 为什么不能称「全面超越」）
问：材料给了哪些增益数字？为什么材料明确说 IDM 不是全面超越前作与基座？请分别指出「增益极小」与「不及前作」两条证据。
答：相对内部 DMD 对照组（同一设定消融表，唯一可归因到 IDM 各组件的表），加 EMA 特征矩损失带来：+0.19 OneIG / +0.35 GenEval / +0.28 DPG-Bench / +0.38 LongText-CN / +0.41 LongText-EN——正向但量级很小。
不及前作：IDM 在 DPG-Bench 上 86.82，低于 APEX 的 88.64（-1.82）。
不及基座：Z-Image-Turbo 在 8 NFE 的 LongText-EN 为 91.74，高于 IDM 2 NFE 的 90.20。
为何不是全面超越：①增益幅度小；②通用质量维度反而低于 APEX；③基座在更高 NFE 预算下更好，IDM 的价值只在极低预算（1–2 NFE）下成立，是预算-质量曲线的替代点而非上移；④跨方法比较存在训练数据与设定差异（README 自警），只有同设定消融能归因。
评分：8/10 扣分：三条证据答到；扣在没点出「同设定消融 vs 跨方法对比」的证据等级差异——86.82 vs 88.64 属跨设定比较，其差值不能归因到「IDM 缺矩约束」，甚至可能正由矩约束带来（DPG-Bench 上矩约束 +0.28 恰是正向）；也没点出1 步 vs 2 步不能直接比（Z-Image 2 步 0.30s、Qwen-Image 1 步 0.35s）。
题目五（推理期成本与「权重 Coming soon」· 结论可复现性）
问：IDM 在推理期额外需要做什么？既然权重未发布，当前这份材料支撑的结论应该怎么用？
答：推理期额外成本：不需要矩计算、不维护 feature queue、不加载外部编码器、不做 fake-score 评估——推理时只需要学到的条件生成器 + 文本编码器 + VAE。这也正是 EMA 方案相对 DINOv2 方案的隐性优势：省掉的不只是依赖，还包括推理链路里多出来的编码器前向与特征缓存。
结论该怎么用：①代码已开源（inclusionAI/IDM，Apache-2.0，含 inference.py/unified_sampler.py/diffusers_patch/）与权重可用是两件事——Checkpoints 章节明确写 "Coming soon"，全参与 LoRA（r=32/r=64）权重及 checkpoint 专属采样配置待补，故当前不可复现任何论文数字；②所有质量/速度数字均为论文与 README 转述，README 自注「All values below are reported in the paper. They are not measurements from running this repository.」——故只能当论文声称值引用，不得写成「实测」；③速度数字（单张 A100、BF16：Z-Image 1 NFE 0.25s / 2 NFE 0.30s；Qwen-Image 0.35s / 0.44s）是特定硬件特定精度下的值，跨硬件/精度不可外推；④原帖本身只转发 HF papers 页，未做性能背书，本文亦未替它做。
评分：8/10
扣分：推理期零额外成本、Coming soon、转述性质答到；扣在没点出「Coming soon」使整篇材料只能作为方法与设计参考、而非可用组件这一结论级限定（当前可做的只有读代码、跑 CPU 上的 tests/ 小模型检查、或直接用 Z-Image-Turbo / Qwen-Image 基座）；也没提原帖不提供任何技术细节、全部内容来自摘要与 README 这一信源单一性风险。
总评
总分：38/50（较 11-03 的 40 分 −2）
强弱：最强在结构澄清与结论边界（题三 8、题四 8、题五 8）——能抓住「velocity/endpoint 不是两份独立信号」这一容易被误读的点，也把「代码开源 vs 权重可用」与「论文声称值 vs 实测值」两条边界分开。较弱在机制的第一次追问（题一 7、题二 7）——两题都停在材料的表述层面，没有把「矩约束为何够」「指标接近为何能支撑去掉外部编码器」推成自洽的机制链。
同构：连续第十一日同形——能复述结论、推不出完整机制链。本轮退化点具体在两处「为什么够」的追问都未接上：矩匹配只对一阶与逐坐标二阶做约束，却要代理 reverse-KL 的高斯分量（这里隐含「高斯性只需低阶矩刻画」的假设，材料未交代）；用外部特征与自 EMA 特征指标接近，却要支撑「不需要外部编码器」（这里需把「约束只需统计量」与「指标接近」接成因果链，而非并列陈述）。两题各扣 3 分的扣分点同属此类：材料给了结论与数字，我答了结论与数字，但没补上把二者焊在一起的机制接缝。相较 11-03 的进步是本轮首次出现「同设定消融 vs 跨方法对比」的证据等级辨析（题四补出 86.82 vs 88.64 不能归因到缺矩约束），说明已能把「有条件的对比」与「可归因的对比」分开。