LLM 推理引擎与 GPU 竞争格局：4 条来源整理
作者：Jay | 2026-10-16
来源清单
| # | 标题 | URL | 摘要用途 | 证据缺口 | 分类 |
|---|---|---|---|---|---|
| 1 | vLLM vs SGLang vs TensorRT-LLM vs Dynamo | https://menuagentic.com/blogs/vllm-vs-sglang-vs-tensorrt-llm-vs-dynamo | 四大推理方案横向对比框架；Dynamo 是路由器而非引擎；多副本缓存命中率归属路由层；v0.31.0 / v0.5.21 / 1.3.0rc / v1.5.0 版本对照 | 搜索线索 · 已核查正文（部分截断，benchmark 数值仅引述框架，未见完整实测数据） | 高价值 · 原文已核 |
| 2 | If vLLM Already Solved LLM Serving, What Next? | https://neysa.ai/blog/if-vllm-already-solved-llm-serving-why-did-sglang-appear | vLLM 与 SGLang 各自解决了哪代问题；框架迭代逻辑 | 搜索线索 · 待核查 | 保留待查 |
| 3 | The Rebel Was Already Inside | https://solodkiy.substack.com/p/the-rebel-was-already-inside | NVIDIA Groq 3 LPU / Vera Rubin / Dynamo 1.0 发布时间节点；d-Matrix Raptor + NVLink Fusion 集成计划；基础设施 vs 专业构建者 vs 监管组织的能力边界讨论 | 搜索线索 · 待核查；2026年3月时间节点内容需与 Dynamo 1.0 发布信息交叉验证 | 保留待查 |
| 4 | An Interview with Nvidia's Ian Buck on Why GPUs Keep Winning | https://taekim.substack.com/p/an-interview-with-nvidias-ian-buck-975 | Ian Buck 访谈；GPU vs ASIC（Maia 300 / Trainium / Jalapeno）；Vera Rubin 初测 3X、72h 后 6X；Blackwell 较发布提升 4X；Dynamo 被描述为数据中心推理管理层操作系统；NCP / CoreWeave / NeMo 栈 | 搜索线索 · 已核查正文（部分截断，SemiAnalysis / MLPerf benchmark 引用仅作概述） | 高价值 · 原文已核 |
核心要点提炼
已核查来源
来源 1（menuagentic.com） — 原文已核：
- 四项目定位明确：vLLM、SGLang、TensorRT-LLM 为引擎，Dynamo 为路由/Serving 平台，非同类比较。
- Dynamo v1.5.0 pin 策略：锁定 SGLang v0.5.18 / TensorRT-LLM v1.3.0rc25 / vLLM v0.28.0，落后上游数个版本。选 Dynamo 意味着接受其引擎版本日历。
- 多副本场景：缓存命中率从引擎属性变为路由属性，Published benchmark 差距 29%–6.4× 的根源在于未披露共享前缀比例。
- TGI（现已被 Hugo 官方引向 vLLM/SGLang）于 2025 年 12 月进入维护模式，2026 年 3 月 21 日归档。
来源 4（taekim.substack.com） — 原文已核：
- Ian Buck 访谈，OCP Global Summit，关键词：GPU 持续胜出是因为软件栈深度（CUDA 20年积累 + PyTorch/JAX/Dynamo/vLLM/SGLang 生态）。
- Vera Rubin 初测 3X，72h 后 6X（对比 Blackwell）；Blackwell 自身自发布来提升 4X。
- Dynamo 定义升级：从分布式推理 Serving 方案演化为数据中心推理管理操作系统，调度 KV 在 worker 间移动与复制。
- 服务商（CoreWeave 等）用 NeMo 栈 + 自研工具帮企业落地。
待核查线索
来源 2（neysa.ai） — 搜索线索 · 待核查：
摘要指向 vLLM 解决了首代最大问题，SGLang 解决了下一代最大问题，两者均未让 Transformer 本身变快，只是更聪明地避免了冗余计算。需要全文验证其对"两框架 Benchmark 数字差异成因"的分析。
来源 3（solodkiy.substack.com） — 搜索线索 · 待核查：
2026年3–9月 NVIDIA 密集公告时间线（Groq 3 LPU / Vera Rubin / Dynamo 1.0 / d-Matrix Raptor + NVLink Fusion），与来源 4 的 Dynamo OS 描述可交叉印证。基础设施/专业构建者/监管组织的能力边界讨论亦为有价值延伸方向，但需全文核实具体立场。
未决问题
- Dynamo 多副本缓存机制：来源 1 指出缓存命中率在多副本下成为路由属性，但 Dynamo 文档/源码中具体如何实现跨 worker KV 复制尚未核实。
- vLLM vs SGLang Benchmark 差异根因：来源 2 预告有专项分析，需原文确认是否包含实测数据或仅为框架性讨论。
- TGI 归档影响：来源 1 提及 TGI 进入维护期，但其对开源社区推理生态的实际影响范围待评估。
- Vera Rubin 6X 数据来源：来源 4 引述 OpenAI Sachin Katti 所言 3X 初测 + 2X 自优化，需与 SemiAnalysis AgentX/InferenceX 或 MLPerf 官方数据对照验证。
- d-Matrix Raptor + NVLink Fusion 时间线：来源 3 提及 2026年9月公告，具体量产/集成节点待查。
报告路径：/shared/research-kb/inbox/jay/2026-10-16T1335-blogs-discovery.md
线索总数：4
已核查正文数：2（来源 1、4）
待核查线索数：2（来源 2、3）