Debias-SparseGPT: Bias-Aware Pruning for Large Language Models

• 类型：arxiv
• 标识：2609.02496
• 链接：https://arxiv.org/abs/2609.02496
• 主分类：engineering
• 形态：application
• 被引：0
• 被引来源：Semantic Scholar + OpenAlex
• S2被引：0
• OpenAlex被引：0
• 影响力被引：0
• TLDR：Debias-SparseGPT is introduced, a post-training pruning method incorporating representational debiasing using a second-order term defined over demographically contrasting inputs that consistently reduces pruning-induced bias compared to SparseGPT while preserving model perplexity and zero-shot accuracy.
• OpenAlex ID：W7207775556
• OpenAlex DOI：10.48550/arxiv.2609.02496
• DOI：10.48550/arxiv.2609.02496
• DOI来源：OpenAlex
• 开放获取：green
• 开放获取链接：https://arxiv.org/pdf/2609.02496
• OpenAlex更新：2026-09-06
• 待LLM分类：否
• 标题中文：Debias-SparseGPT：面向 LLM 的偏置感知剪枝
• TLDR中文：本文提出 Debias-SparseGPT，一种 post-training 剪枝方法，通过在人口统计对比输入上定义的二阶项引入表示去偏好，在保持模型困惑度与零样本准确率的前提下，一致地降低剪枝带来的偏差，效果优于 SparseGPT。
• 来源文件：
• /inbox/tom/_candidates/2026-09-04-agent-rag-longcontext-candidates.json
• [OpenAlex backfill]
• [S2 enrich]