AI Infra 周新闻摘要 · 2026-10-19 · Jay

说明：以下条目均来自 CSDN 高频检索线索，仅在有版本、环境、命令、源码、实测或排障证据时标注高价值。全文未经逐一复现，证据缺口已标注。

来源一：Modal 融资估值里程碑

• 来源标题：AINews · Modal's $1B ARR, $16B Series D
• URL：https://www.latent.space/p/ainews-modals-1b-arr-16b-series-d（原始来源）
• 备用URL：https://substack.com/app-link/post?post_id=220497286&publication_id=1084089
• 渠道来源线索：CSDN 高频检索抓取
• 摘要支持的用途：AI 基础设施公司估值/ARR规模参考，Modal 从独角兽晋级十角兽的融资节点
• 原文核查结果：✅ 已通过 latent.space 原文核查（2026-10-14发布），Modal 确认 $1B ARR + $750M Series D @ $15.75B，5个月内 usage/valuation 各 3x，1年内 15x
• 证据缺口：具体客户行业分布、竞品对比数据未覆盖
• 建议分类：AI Infra 行业动态 / 可信度高

来源二：Rubin 预览性能数据（NVL72 SGLang）

• 来源标题：AINews · Rubin preview performance
• URL：https://www.latent.space/p/ainews-modals-1b-arr-16b-series-d（同来源，搜索线索）
• 摘要支持的用途：GB300 NVL72 硬件性价比对比参考，Rubin vs GB300 NVL72 性能/美元指标
• 搜索线索 · 待核查：Rubin 声称 4.23x perf per dollar of GB300 NVL72 on SGLang，Qwen3.8 Flash Next 180B/6B-active，未见独立 Benchmark 复现
• 证据缺口：无独立 Benchmark，无版本号/驱动环境，无实测对比
• 建议分类：硬件选型参考 / 搜索线索 · 待核查

来源三：Wide Expert Parallelism（vLLM/Inferact/NVIDIA 合作）

• 来源标题：AINews · Wide expert parallelism
• URL：https://www.latent.space/p/ainews-modals-1b-arr-16b-series-d（同来源，搜索线索）
• 摘要支持的用途：GB300 NVL72 多 GPU 扩展方案，TCO 优化路径参考
• 搜索线索 · 待核查：Wide EP across 72-GPU copper scale-up domain，声称 7.2x better perf per TCO，来源为 Twitter thread + NVIDIA 联合报告，未见原文
• 证据缺口：无白皮书/代码仓库/测试环境说明
• 建议分类：GPU 扩展技术 / 搜索线索 · 待核查

来源四：vLLM Adaptive Verification 支持多 Drafters

• 来源标题：AINews · vLLM adaptive verification
• URL：https://www.latent.space/p/ainews-modals-1b-arr-16b-series-d（同来源，搜索线索）
• 摘要支持的用途：vLLM 新版本功能选型，确认哪些 speculative decoding drafters 已支持
• 搜索线索 · 待核查：支持 headless MTP、EAGLE、DFlash、DSpark drafters，无需 retraining；声称来自 vLLM 官方，未核验 Release Note
• 证据缺口：无 vLLM 版本号，PR/Commit 未溯源
• 建议分类：推理框架更新 / 搜索线索 · 待核查

来源五：Ant Ling-3.1-flash 开源模型

• 来源标题：AINews · Ant Ling-3.1-flash
• URL：https://www.latent.space/p/ainews-modals-1b-arr-16b-series-d（同来源，搜索线索）
• 摘要支持的用途：Ant 开源模型族新成员，560B total / 25B active / 1M context，vLLM day-0 支持
• 搜索线索 · 待核查：~560B total / ~25B active / up to 1M context，训练成本/人天未披露
• 证据缺口：HuggingFace 权重页未核查，vLLM day-0 集成细节未验证
• 建议分类：开源模型 / 搜索线索 · 待核查

来源六：Argon 优化 Gemma 4 E2E on vLLM

• 来源标题：AINews · Argon Gemma optimization
• URL：https://www.latent.space/p/ainews-modals-1b-arr-16b-series-d（同来源，搜索线索）
• 摘要支持的用途：Gemma 4 在 vLLM 上的优化收益，A100 单卡吞吐参考
• 搜索线索 · 待核查：Argon 优化 Gemma 4 E2E on vLLM >120K tok/s on single A100，~2.9x speedup，124K prefill / 111K end-to-end；来源为 @gabriberton Twitter，未见官方 Blog
• 证据缺口：无优化工具版本、vLLM 版本、A100 型号/显存说明
• 建议分类：模型优化 / 搜索线索 · 待核查

来源七：Neel Nanda · Argon Monitorability Assessment

• 来源标题：AINews · Argon monitorability assessment
• URL：https://www.latent.space/p/ainews-modals-1b-arr-16b-series-d（同来源，搜索线索）
• 摘要支持的用途：Argon 模型可观测性/可解释性风险评估，AI Safety 参考
• 搜索线索 · 待核查：Neel Nanda 评估 Argon "significantly less monitorable than past models"，来源为 Twitter thread + assessment 链接，未见原文报告
• 证据缺口：无评估标准说明、无具体指标
• 建议分类：AI Safety / 搜索线索 · 待核查

来源八：训练成本案例（$300K all-in, 5人）

• 来源标题：AINews · Training cost report
• URL：https://www.latent.space/p/ainews-modals-1b-arr-16b-series-d（同来源，搜索线索）
• 摘要支持的用途：小团队 LLM post-training 成本估算参考
• 搜索线索 · 待核查：据称 5人 post-training ~$300K all-in，未披露模型规模/数据量/硬件配置
• 证据缺口：无来源署名、无具体方法论
• 建议分类：LLM 训练成本 / 搜索线索 · 待核查

汇总

未决问题： 1. Rubin 4.23x perf/dollar 声明缺独立 Benchmark 复现 2. Wide EP 7.2x TCO 声明缺 NVIDIA 白皮书溯源 3. vLLM adaptive verification 缺 Release Note 版本号 4. Argon Gemma >120K tok/s 缺 vLLM/Gemma 版本及 A100 显存规格 5. Ant Ling-3.1-flash 缺 HuggingFace 权重核查 6. Neel Nanda Argon monitorability 评估标准未公开 7. $300K post-training 成本缺来源与模型规模说明