一篇 59 页的技术报告，为什么今天比它的模型分数更值钱？

关联论文：2309.16609
作者：flyP
更新：2026-10-23

为什么重要

2023 年 9 月的通义千问首代技术报告，模型能力在当时只是"同尺寸开源里的 SOTA，仍落后 GPT-3.5 和 GPT-4"——论文摘要里自己写着专用模型"slightly fall behind the proprietary models"，没有假装赢了 GPT-4。但它留下来了另一样东西：一个中文为主、7B/14B 规模、完整走完 SFT→RLHF→工具使用路线的配方，几乎全盘公开。词表多大、架构改哪几处、每个超参多少、PPO 前为什么要先单独训 50 步 value——全都写在纸上，还附上了自评的短板。今天想复现一个中文对话模型，这份文件仍是最高性价比的起点。

核心机制：三个决定性投入

第一笔投在 tokenizer。 从 tiktoken 的 cl100k 起步，增补中文高频词、数字拆成单个 digit，词表做到约 152K。实测多数语言压缩效率高于 LLaMA、XLM-R、Baichuan、InternLM。工程含义很直白：token 更少就是推理更便宜，而且是整个生命周期反复省。报告还专门做了对照实验，确认扩词表不会损害下游性能——所以这笔投入基本是净收益。

第二笔投在数据清洗流水线。 33 万亿 token 走四步：HTML 抽正文加语种识别 → 归一化后精确去重 + MinHash/LSH 模糊去重 → 语言模型、文本质量模型、冒犯内容识别模型三类打分加人工抽样 → 高质量来源定向扩采样。外加照搬 GPT-3 的防污染：剔除与任何测试集有 13-gram 重叠的指令样本。

第三笔投在对齐数据的结构化。 先在海量偏好数据上做 PMP 预训练，再到高质量数据上微调；配套一套约 6600 个细粒度标签的分类体系和平衡采样算法，保证 prompt 多样又复杂。响应由不同规模的 Qwen 加不同采样策略生成，以降低标注难度。

证据边界

这里有一张容易被读错的表。 奖励模型在自家 Qwen Helpful-base 上从 62.68 涨到 74.78（+12.1），看着很漂亮；但在 Anthropic Helpful-base 上从 76.52 跌到 73.98，在 Helpful-online 上从 65.43 跌到 64.57，SHP 和 PRM800K 基本持平。官方解释是"PMP 泛化性好、RM 在自家数据提升大"——但更诚实的读法是：这是分布内过拟合，而且 2023 年就明明白白摆在表里。

还有几处不能当事实源用。base 模型的对比只有"12 个数据集上显著超过同尺寸前 SOTA，但仍落后 GPT-3.5 和 GPT-4"这一句聚合表述，没有完整分数表；Agent 与工具使用一节（code interpreter、tool-use、planning）没有成体系的评测表，能力主张主要靠文字描述；Table 1 只给了 token 数，没有 GPU 数、训练时长、算力总量。

另外，结论句比它自己的表宽松：原文称 Qwen-14B-Chat"在全部数据集上超过除 ChatGPT 和 Llama 2-Chat-70B 之外的所有模型"，但表里 MMLU 上 14B 的 64.6/66.5 其实高于 70B 的 -/63.8。引结论句可以，但别拿它当逐项落后的证据。

工程局限

最刺眼的是对齐数据规模完全没披露：6600 个标签体系听起来很完整，但标注总量、标注者数量、一致率全部缺席。对照同期那篇摘要 RLHF 论文把"标注者—研究者一致率 77% ± 2%"直接写进正文——这是区分"真做了对齐"和"跑了个 PPO"的唯一硬指标，这一份恰恰没给。

其次，数据配方关键参数未公开：语种配比、上采样比例、去重阈值、打分模型数量与判据都没有数字，33T 这个总数无法被外部复现或审计。防污染只做到尽力而为——作者自认不可能对所有下游任务重复过滤，非指令格式的评测泄漏风险未排除。

最后，这是 2023 年 9 月 28 日的 v1 定稿，此后未更新。全文检索 "Rejection" / "RFT" / "Consistency" 均无命中——Qwen 后续版本引入的 RFT 等路线不在本报告范围内。想解释今天的 Qwen，得另找后续报告。

值得直接抄的三件事：数据去重四步法、PPO 前冻结 policy 只训 value 50 步、以及作者对 alignment tax 那个"太小只是边际减税、太大又严重阻碍对齐"的定性边界——不给最优值，只给两侧的坑，这在技术报告里很罕见。

标题变体（备选）

Qwen 首代技术报告：模型输给了 GPT-4，但这 59 页配方成了行业抄作业范本
奖励模型在自己数据集上 +12.1，在别人数据集上 −2.5：这份开源报告藏着一堂过拟合课
7B 模型打赢 70B 的中文知识基准，功劳其实记在 tokenizer 上

小红书卡片文案

一篇 2023 年的技术报告，模型分数已经过时了，为什么大家还在抄？

因为它把一整套配方摊开了：词表多大、架构改了哪五处、每个超参多少、PPO 前为什么要先单独训 50 步 value。

📌 tokenizer 是最容易被忽略的一笔投入 从 cl100k 起步、专补中文高频词、词表做到 152K，多数语言压缩效率超过 LLaMA。token 更少 = 推理更便宜，而且是全生命周期反复省。论文还专门验证了扩词表不会掉下游性能。

📌 Table 4 藏着一堂过拟合课 奖励模型在自家数据上 62.68 → 74.78（+12.1），在 Anthropic Helpful-base 上却 76.52 → 73.98（−2.5）。内部评测涨、外部退化，这种错位最难定位。

📌 中文能力的代差很直观 Qwen-14B 在 C-Eval 上 69.8/71.7，而 Llama 2-Chat-70B 只有 -/44.3。

⚠️ 三处不能当事实源用：base 模型只有聚合结论没有分数表；Agent/工具使用章节没有量化评测表；Table 1 只有 token 数、没有算力和时长。

🔑 最刺眼的缺口：对齐数据的标注总量、标注者数量、一致率全部没披露。这是唯一能区分"真做了对齐"和"跑了个 PPO"的硬指标。

⚠️ 这份是 v1 定稿，后续 RFT 等路线都不在里面。