title: "OCRia-1 技术报告解读：37 页里的数据、训练与推理栈（表格/图表/格式保真怎么做到的）" 分类: x-tips 来源 X 账号: jerryjliu0（Jerry Liu，LlamaIndex CEO） 作者: Jay 更新日期: 2026-10-26 原帖 URL: https://x.com/jerryjliu0/status/2114404538652217370 官方报告 PDF: https://www.llamaindex.ai/ocria/ocria-1-technical-report.pdf 官方博客: https://www.llamaindex.ai/blog/parse-ocria-1 仓库: 无公开主仓库。报告正文明确写"We plan to make a version of OCRia-1 available"，HuggingFace 上以 OCRia / runllama 检索均无官方权重条目；目前唯一官方入口是托管在 LlamaParse 上的服务（博客页尾 "Try LlamaParse" → https://cloud.llamaindex.ai/ ）与这份 PDF。

OCRia-1 技术报告解读：37 页里的数据、训练与推理栈

这是什么

Jerry Liu 在 2026-10-25（北京时间 10-26 凌晨）发推宣布：LlamaIndex 把 OCRia-1 的 37 页技术报告公开了。原帖强调四点：包含对主流开源权重 OCR 模型（Infinity-Parser、LightOnOCR 3、Chandra 2、dots.mocr 等）在 ParseBench、olmOCR-bench、PulseBench-Tab、fr-bench-pdf2md 四个基准上的对比；公开数据与训练流水线的细节；解码速度比最新开源权重模型快 2x-4x+；以及 24 页附录记录了从训练到评测的实验发现。

一句话定位：OCRia-1 是 LlamaIndex 的 4B 文档解析专用 VLM，底座是 Qwen3.5-4B，把页面转写成 Markdown（表格写 HTML、图表写数据表、公式写 LaTeX）。它不是通用多模态聊天模型，原帖和报告都没这么定位它。

这篇报告的价值在于它是"论文 + 生产栈"合订本：既公开了刷分方法（SFT → RLVR + 维度化奖励），也公开了把推理打到 4,700 tok/s 的工程路径（块扩散投机解码 + NVFP4/FP8 量化 + 自研 CUDA kernel + 定制 vLLM）。

报告作者署名：Aman Rangapur、Antonio Jimeno Yepes（通讯）、Daniel Bustamante、Nutchapol Dendumrongsup、Sebastián G. Acosta、Pierre-Loïc Doulcet、Simon Suo，邮箱域为 @runllama.ai。

核验来源

• 原帖：https://x.com/jerryjliu0/status/2114404538652217370 （证据文件记录经 twitter_oembed 验证，发布时间 2026-10-25 17:11 UTC）
• 帖内短链 https://t.co/jdO4Cif6jc → 官方报告 PDF：https://www.llamaindex.ai/ocria/ocria-1-technical-report.pdf
• 帖内另一链接 → 官方博客：https://www.llamaindex.ai/blog/parse-ocria-1
• 本文中所有分数、速度、并发数、量化格式、附录结构均取自上述 PDF 与博客；原帖正文只有四条要点，无额外数字，故未从原帖嫁接任何数据。

核心数字（全部出自报告与博客）

分数是"官方自评"，比较对象同为官方在同页渲染下的对比结果：

两个必须记住的前提：报告里 olmOCR-bench 的分数是统一到 1,288px 渲染后再比的调整值，不是各模型默认渲染下的原生分；ParseBench 图表维度要求"数值出现在正确的行列表头下"才给分。

PulseBench-Tab 的细节最能说明工程量：OCRia-1 的中位表格分 0.95（次优 0.93），1,820 张表里 99.1% 能解析成可解析表格（次优 97.7%），485 张完全正确（次优 431 张）。

报告里最值得抄的三件事

1）数据：10 万+ 页，混合真实与合成。 合成页面覆盖 5k-12k token 的超长表、跨行表头、带图标单元格、28 种图表类型、表单与勾选框、以及带修订痕迹（tracked changes）的文档；生成器直接给出精确 ground truth。真实页面走多阶段转写流水线，用 PDF 内嵌文本层做交叉校验再人工抽查。报告的立场很明确：性能主要来自数据质量与多样性，而非数量。

2）训练：SFT → RLVR。 SFT 让 Qwen3.5-4B 学会按输出格式转写页面；RLVR 专门修 SFT 残留错误，奖励函数按维度分别打分（表格单元格、图表数值、格式标记），并惩罚重复退化输出；最后做 checkpoint averaging。另有一个独立的 draft 模型专门用于加速推理。

3）推理栈：这是 4,700 tok/s 的来源。 混合同步：NVFP4 + FP8 量化（视觉编码器保留 BF16），块扩散投机解码（DFlash2 draft，31 draft tokens），定制 vLLM，移植 ReplaySSM（复用已接受 token 的循环状态，省掉每个 draft 位置的 state snapshot），自写 CUDA kernel，并复用共享 prompt 前缀。官方给出的表格（报告 Table 20，一台 B200，AIPerf，每项三次取均值）：

单请求解码 4,734 tok/s 是 AIPerf c=1 且不含 TTFT 的值；端到端（含首 token）中位请求约 3,000 tok/s，浏览器端观测区间 1,450-3,900。同一份模型在 bf16 + 原版 vLLM 上比基座模型快约 9 倍；与被测的五个快速开源解析系统相比，单请求解码速度分别为次快的 3.4×（c=1）和 2.0×（c=8）。64 并发时 p90 延迟 9.6 秒（把所有页面按 1,200 输出 token 重新缩放后为 11.78 秒），10.21 页/s 折算约单机每天 86 万页。

上手步骤

因为权重尚未公开，现在能做的路径有三条，按门槛从低到高：

1. 读报告：下载 PDF，重点看 §2（数据）、§3（SFT/RLVR）、§5.3（推理效率 + Table 20）、Appendix E（量化与 serving 实现）、Appendix D.2（失败案例）。附录 24 页是原帖特别强调的部分，多数实验细节只在附录里。
2. 用托管服务体验：官方博客写明 OCRia-1 "is powering LlamaParse today"，入口 https://cloud.llamaindex.ai/ 。要做延迟与成本评估，用自己业务的文档集实测，别直接采信"同样的价格"这类表述——官方没给每页成本和延迟的绝对数值。
3. 自建评测：想要可复现的对照，需要自备一份含复杂表格、多轴图表、带勾选框表单的测试文档集，按官方 ParseBench 的判定方式（图表需数值与正确行列表头对应）打分，再与 Infinity-Parser、LightOnOCR 3、Chandra 2、dots.mocr 等同条件对比。

适用边界

• 权重不可自持：报告写明"计划很快放出 OCRia-1 的一个版本"，报告发布时尚无公开权重；因此本文不给出任何 vllm serve / pip install 之类的部署命令——没有官方出处，本地复现路径暂不存在。
• 尚未解决的能力：官方自陈仍未发布"能预测 layout 的模型"，明确留作后续版本。
• 已知低分场景（报告 Appendix D.2）：老旧扫描件、阿拉伯语/希腊语/韩语表格、行数超出输出预算的超长表——这些恰恰是"表格/图表"主打方向里最难的尾部情况。
• 速度数字有前提：4,700 tok/s 与 10 页/s 都绑定一台 NVIDIA B200 与一整套自研 serving 栈（量化 + 投机解码 + 自研 kernel），不是"任意 GPU 上都能复现"的模型固有属性；换硬件或用原版 vLLM，差距会被显著放大。
• 榜单性质：ParseBench 由 LlamaIndex 主导，图表维度评分规则与其出题格式相关；olmOCR-bench 分数是统一渲染后的调整值。跨厂商对比时这些前提不能忽略。
• 尚未在 arXiv 上核到正式条目：报告 PDF 为官方发布形态；团队成员在 LinkedIn 上提到会同步上 arXiv，本次未做二次核验，此处不做断言。

相关条目（同一模型，不同原帖）：organized/guides/x-tip-2113291928292790725.md（2026-10-22 的发布推，讲 API 与成本口径）。