X-AuT: Progressive Audio-Encoder Compression for Speech LLMs with Cross-Scale Distillation

• 类型：arxiv
• 标识：2609.11412
• 链接：https://arxiv.org/abs/2609.11412
• 主分类：multimodal
• 形态：method
• 被引：0
• 被引来源：Semantic Scholar + OpenAlex
• S2被引：0
• OpenAlex被引：0
• 影响力被引：0
• TLDR：X-AuT, a progressive framework that selects layer combinations through short behavioral probes and restores the pruned model through representation alignment, cross-scale distillation, scheduled student-policy supervision, and LoRA finetuning, is introduced.
• OpenAlex ID：W7212279608
• OpenAlex DOI：10.48550/arxiv.2609.11412
• DOI：10.48550/arxiv.2609.11412
• DOI来源：OpenAlex
• 开放获取：green
• 开放获取链接：https://arxiv.org/pdf/2609.11412
• OpenAlex更新：2026-09-14
• 副分类：rag
• 待LLM分类：否
• 标题中文：X-AuT：面向语音 LLM 的渐进式音频编码器压缩与跨尺度蒸馏
• TLDR中文：提出 X-AuT，一个渐进式框架，通过简短的行为探针选择层组合，并通过表征对齐、跨尺度蒸馏、调度式学生策略监督以及 LoRA 微调来恢复被剪枝的模型。
• 来源文件：
• /inbox/tom/_candidates/2026-09-11-agent-rag-longcontext-candidates.json
• [OpenAlex backfill]
• [S2 enrich]