GPT-4 报告最狠的一课：花几百万美元之前，先在小模型上把答案算出来

  • 关联论文：2303.08774

想象一下你要花掉几百万美元、动用上千块显卡、烧掉几个月的电力，去跑一次不能重来的训练。跑完之后才发现：模型没达到预期能力，或者安全行为失控了。除了从头再来，你没有任何选项。

2023 年 OpenAI 的 GPT-4 技术报告，核心贡献不是某个新模块，而是把这个"赌博"变成一场可审计的工程决策。方法是：用小模型的 scaling law 去外推大模型的最终表现，在训练开始前就把预测登记在案，训练结束后再和实测对比。

它到底解决了什么

大模型训练有个结构性尴尬：在超大模型上做超参数搜索的成本，和重训一次是同一个量级。所以"先在小模型上扫参数、再放大"的老办法在 scaling 阶段直接失效。GPT-4 的命题是：造一套在小规模到大规模之间行为可预测的基础设施，让"跑之前就知道跑完会怎样"成为可能。

做法有两条数据线：

第一条，预测 loss。 用算力最多只有 GPT-4 十分之一的小模型拟合 L(C) = a·C^b + c 这条带不可约项的幂律曲线（c 是理论下界），在训练刚开始不久、不使用任何部分结果的前提下外推 GPT-4 的最终 loss。图 1 显示预测命中了实测值。选 loss 而不是准确率是有道理的——loss 在不同算力下噪声更小，是能外推的连续、单调指标。

第二条，预测能力。 用算力不到 GPT-4 千分之一的模型外推 HumanEval 通过率，关系式是 E_P[log(pass_rate)] = α·C^{-k}。取对数是关键技术选择——低通过率区间的 pass_rate 本身方差极大，对数化后不同难度才可比。他们还把"太难估计"的题目剔出去，只保留"每个问题至少被每个模型解出一次"的样本。

证据边界：哪些数字别当真

这份报告的价值恰恰在于它诚实地暴露了边界：

  • 污染。HumanEval 有约 25% 的内容出现在预训练数据里。剔除后分数只从 67.0% 掉到 65.58%（-2.12pp）。方向上"有水分"没错，但幅度远小于污染率本身。DROP 的污染率约 21%。
  • 考试分 ≠ 实战能力。同一张表里，GPT-4 的美国律师资格考试到了人类前 10%，Codeforces 编程竞赛评级却在后 5% 以下。这两个数字并列，比任何单一指标都更能说明鸿沟。
  • 对齐不涨能力。base model 全考试平均 73.7%，RLHF 后 74.0%——几乎没变。能力来自预训练，对齐是另一条正交的轴。
  • 校准被破坏。预训练模型的置信度与实际正确率高度吻合；后训练之后校准度显著下降。为了让模型更守规矩，牺牲了"知道自己什么时候会错"的能力。这条反直觉，且工程代价极高。
  • 外推有盲区。GPT-4 在 HumanEval 最容易的那一桶上低于预测值——本该最可靠的地方反而失手；饱和区与高通过率区恰好是 scaling law 的盲区。
  • 有些百分位是外推的。AMC 10/12 的人类百分位官方明确标注为外推值，不确定性很大，不该当实测值引用。

工程局限：能抄流程，抄不了配方

参数量、层数、训练算力、数据配比、训练方法全部保密。对绝大多数从业者，这份报告不可执行，只能被阅读。

但流程可以抄：小规模拟合 → 训练前登记预测 → 训练 → 对比 → 披露。哪怕规模小到几千步也值得，因为最大价值不是预测本身，而是让"预测失败"变成可积累的资产。

几个可直接落地的动作：外推时选 loss、log(pass_rate) 这类低噪声指标；把 post-training 与 capability 当两条独立轴评测；不要相信后训练模型的置信度，需要就自己在 base model 上取 logprob；每个评测集上线前跑一次污染检查并公开披露——这项成本低、收益高。

安全侧还有一个值得抄的设计：RBRM（基于规则的奖励模型）把拒答拆成风格正确性、是否含禁内容、是否是安全的非拒答等独立维度分别打分，因此能双向调控——有害提问奖励拒答，安全可答的提问奖励不拒答。只优化拒答率，训出的必然是动辄拒答的废模型。

最后一句提醒：这份报告里最值得记住的不是 GPT-4 有多强，而是它在哪些地方不成立被写得多清楚。

标题变体

  1. GPT-4 报告最狠的一课：花几百万美元之前，先在小模型上把答案算出来
  2. 律师考试前 10%，编程竞赛后 5%：GPT-4 报告里最反直觉的三个数字
  3. 为什么 GPT-4 报告值得当成"预训练决策规范"来读，而不是当成产品说明书

小红书卡片文案

正文卡（约 300 字）

GPT-4 技术报告真正的遗产，不是它有多强，而是它诚实。

🔥 三个最扎心的数字： ① 律师资格考试人类前 10%，Codeforces 编程竞赛后 5% 以下——同一张表 ② RLHF 几乎不涨能力（base 73.7% vs 74.0%），能力来自预训练，对齐是另一条轴 ③ 后训练显著破坏校准——模型变守规矩了，却不再知道自己什么时候会错

💡 它的方法论很反常识：花几百万美元之前，先用 1/10000 算力的小模型拟合 scaling law，把最终 loss 和 HumanEval 通过率外推出来，训练还没开始就把预测登记在案，训完再对比。

这就是"可预测扩展"——把不可逆的赌博，变成可审计的工程决策。

⚠️ 但别忘了边界：参数、算力、数据配比全部保密，抄不了配方，只能抄流程。

你最想抄哪一段？评论区蹲一个长上下文 or 数据清洗的深度拆解。

配图建议：9:16 三栏——① 顶栏"GPT-4 报告最狠的一课"；② 中栏三组对比数字卡片（Bar vs Codeforces / 73.7→74.0 / 校准下降）；③ 底栏"流程可抄，配方抄不了"。

标签：#大模型 #GPT4 #AIPaper #AI技术科普 #预训练 #ScalingLaw #大模型训练 #论文解读 #机器学习 #AI编程

备选标题： - 「花几百万美元之前，先在小模型上把答案算出来」 - 「律师考试前 10%，编程竞赛后 5%——GPT-4 报告最反直觉的三组数字」

发布时间建议：工作日 20:30–21:30