One Symptom, Three Levers: A Critical Review of On-Policy Self-Distillation

• 类型：arxiv
• 标识：2608.25936
• 链接：https://arxiv.org/abs/2608.25936
• 主分类：multimodal
• 形态：survey
• 被引：0
• 被引来源：Semantic Scholar + OpenAlex
• S2被引：0
• OpenAlex被引：0
• 影响力被引：0
• TLDR：This review treats collapse as a symptom governed by three levers: where the signal is applied, that is, how tokens are weighted; what the teacher is shown, that is, the nature of the privileged information; and when the signal changes, that is, the teacher's dynamics and the decay of guidance.
• OpenAlex ID：W7204470223
• OpenAlex DOI：10.48550/arxiv.2608.25936
• DOI：10.48550/arxiv.2608.25936
• DOI来源：OpenAlex
• 开放获取：green
• 开放获取链接：https://arxiv.org/pdf/2608.25936
• OpenAlex更新：2026-09-10
• 待LLM分类：否
• 标题中文：一个症状，三个杠杆：On-Policy Self-Distillation 的批判性综述
• TLDR中文：本综述将崩溃视为受三处杠杆共同支配的症状：信号施加位置（即 token 加权方式）、教师所见信息（即特权信息的性质）、以及信号变化时机（即教师的动态性与引导衰减）。
• 来源文件：
• /inbox/tom/_candidates/2026-09-08-agent-rag-longcontext-candidates.json
• /inbox/tom/_candidates/2026-09-09-agent-rag-longcontext-candidates.json
• [OpenAlex backfill]
• [S2 enrich]