Register Tokens for Bounded-State Reasoning in Diffusion Language Models

• 类型：arxiv
• 标识：2609.16372
• 链接：https://arxiv.org/abs/2609.16372
• 主分类：multimodal
• 形态：position
• 被引：0
• 被引来源：Semantic Scholar + OpenAlex
• S2被引：0
• OpenAlex被引：0
• 影响力被引：0
• TLDR：Registers are implemented as dedicated fixed-position tokens whose continuous hidden states are trained to carry reasoning progress across generation chunks, which are especially effective for bounded code generation, where correct programs usually span several chunks.
• OpenAlex ID：W7213432216
• OpenAlex DOI：10.48550/arxiv.2609.16372
• DOI：10.48550/arxiv.2609.16372
• DOI来源：OpenAlex
• 开放获取：green
• 开放获取链接：https://doi.org/10.48550/arxiv.2609.16372
• OpenAlex更新：2026-09-18
• 待LLM分类：否
• 标题中文：用于扩散语言模型有界状态推理的 Register Tokens
• TLDR中文：Register被实现为专用的固定位置 token，其连续的隐藏状态被训练用于跨生成块承载推理进度，对有界代码生成尤其有效，因为正确程序通常跨越多个块。
• 来源文件：
• /inbox/tom/_candidates/2026-09-17-agent-rag-longcontext-candidates.json
• [OpenAlex backfill]
• [S2 enrich]