inference · E1 预消化简报(2026-09-30)

执行体：Tom · E1 日间预消化轮 · inference 主题 · 2026-09-30 22:20 CST 底本：inference.md v310（Sep 30 当前版）+ inbox/{jay,tom,flyp,spark,stephen} Sep 28-30 + paper_cards Sep 28-30 近卡 + work-queue Sep 30 诚实度声明：本轮增量密度为「中」——今日（Sep 30）inference 主轴以工程验证细节深化为主，未发现 Sep 29 轮完全未覆盖的新研究方向。以下条目为近 48-72h 内新增/升级认知的工程细节：vLLM 官方博客三篇系统性锚定（FP8 KV跨Hopper/Blackwell验证 / PD Disaggregation for Hybrid SSM / vLLM V1重心转向）、SGLang GLM-5.3-Flash 缓解方案工程落地（snapshot cap / PR #36513 Blackwell FP8 KV实测）、FlashInfer 可复现 benchmark 命令序列、Qwen3.8-27B 版本 Bug 三引擎对照表、MCP Stateless 新维度（_meta inline transport / 83% 包体积缩减 Manufact Cloud 实测）、VRLA Tech 2026 新维度（agent workflow +127%）。无硬凑字数。

一、检查过的来源清单

来源 关键文件 inference 相关度
inbox/jay 2026-09-30-llm-rag-vllm.md（14:00 · 164行 · vLLM官方博客三篇（PD Disaggregation / FP8 KV Hopper+Blackwell / Disagg Serving Hybrid SSM）+ vLLM V1重心转向PD分离） 极高 ⭐⭐⭐⭐⭐
inbox/jay 2026-09-30-llm-inference-vector-db.md（14:00 · NVIDIA Dynamo 1.0 GA完整数字 + Mooncake Transfer Engine进入TRT-LLM + SGLang EPD Disaggregation） 极高 ⭐⭐⭐⭐⭐
inbox/jay 2026-09-30T0935-jay-morning-briefing-inference-vecdb-mcp-stack2026.md（09:35 · 13KB · TGI 2026-03-21官方确认 + VRLA Tech 2026多轮对话+89%/Agent工作流+127% + py-kvcache arXiv 2609.11744五项关键技术） 极高 ⭐⭐⭐⭐⭐
inbox/jay 2026-09-30T1130-jay-engineering-filter-sep30.md（11:30 · 17KB · SGLang GLM-5.3-Flash生产故障HelixML缓解方案 + SGLang PR #36513 Blackwell FP8 KV实测 + Particula Tech并发扩展反直觉 + MCP 2026-07-28 Stateless三大变更深度解析） 极高 ⭐⭐⭐⭐⭐
inbox/jay 2026-09-30T1950-jay-engineering-filter-r3.md（19:50 · FlashInfer可复现benchmark命令序列（Spheron） + Qwen3.8-27B版本Bug三引擎对照表（Winder.ai） + HuggingFace Discussions Param2-17B错误日志 + 8 Agent Harness横向对比pass rate（Composio）） 极高 ⭐⭐⭐⭐⭐
inbox/jay 2026-09-30-daily-brief.md（08:21 · 17KB · vLLM v0.30.1rc1.dev80/v0.31 + Mamba/GDN元数据复用内存损坏bug + GLM-5.3 DFlash2草稿模型 + TGI 2026-09-05 README正式确认 + KV Cache Working Set arXiv 2609.27746） 极高 ⭐⭐⭐⭐
inbox/jay 2026-09-29T1505-jay-evening-briefing-inference-vecdb-stack2026.md（Sep 29锚定基线：2609.23130 / 2609.31415 / 2609.26333 / 2609.17863 / KV Cache五大家族） 基线
inbox/jay 2026-09-28T0935-jay-ai-engineering-inference-vecdb-mcp-trending.md（Sep 28锚定基线：vLLM/SGLang/LMDeploy benchmark / MCP 2026路线图） 基线
inbox/spark 2026-09-30-llm-infra-e1prep.md（18:40 · llm-infra主棒位 · 6主增量 + Nereus 2609.34645） 极高 ⭐⭐⭐⭐⭐
inbox/tom 2026-09-30-0900-hf-daily-2026-09-30.md（09:00 · Nereus 2609.34645（9▲）+ 飞行KV Cache视频扩散 2609.32540（20▲）） 高 ⭐⭐⭐⭐
inbox/spark 2026-09-29-llm-infra-e1prep.md（Sep 29锚定基线：7主增量含2609.23130完整解读承接） 基线
inbox/tom 2026-09-29-inference-e1prep.md（Sep 29锚定基线：7主增量含2609.31415/2609.26333/2609.28870/2609.22157） 基线
inbox/tom 2026-09-28-inference-e1prep.md（Sep 28锚定基线：3主增量含VeriCache/Burgei/Continnum） 基线
inbox/flyp 2026-09-29-risk-e1prep.md + 2026-09-29-coding-agents-e1prep.md（邻接inference安全内容） 邻接
inbox/stephen 2026-09-30-ai-industry-e1prep.md + 2026-09-30-llm-application-e1prep.md（邻接） 参考
paper_cards Sep 28-30 1565-2609-34645 Nereus · 主分类 engineering 中（邻接inference/llm-infra）
paper_cards Sep 28-30 1572-2609-35629 SANTA++ · 主分类 engineering 邻接
paper_cards Sep 28-30 1546-2609-31415 KV Cache Reuse Evaluation · paper_card 1546 ✓ 高（Sep 29已锚入）
paper_cards Sep 28-30 1554-2609-26333 Disagg Quantization · paper_card 1554 ✓ 高（Sep 29已锚入）
work-queue Sep 30 12:00 Top 15 / 共 4件：2609.34645 Nereus + 2609.35673 FlowTool + 2609.32049 EngramRAG + 2609.30904 QReason；1件 inference 邻接 = 2609.31415 KV Cache Reuse（Top 0.5） 参考

二、增量条目

增量 1：vLLM 官方博客三篇系统性锚定 + V1 重心转向 PD Disaggregation（⭐⭐⭐⭐⭐）

来源：inbox/jay/2026-09-30-llm-rag-vllm.md §线索1 vLLM官方博客三篇（2026年）+ inbox/jay/2026-09-30-llm-inference-vector-db.md §1.2

URL： - https://blog.vllm.ai/posts/prefill-decode-disaggregation（Next-Level Inference: Prefill-Decode Disaggregation，22 min） - https://blog.vllm.ai/posts/fp8-kv-cache（vLLM FP8 KV-cache validation across Hopper and Blackwell，21 min） - https://blog.vllm.ai/posts/disagg-ssm（Disaggregated Serving for Hybrid SSM Models，15 min）

要点：

vLLM 官方博客三篇（2026年）：

标题 时长 核心内容
Next-Level Inference: Prefill-Decode Disaggregation 22 min AMD MI300X 8-GPU节点上的PD分离 + KV Cache高效传输 + ITL稳定性优化
vLLM FP8 KV-cache validation across Hopper and Blackwell 21 min Attention量化 + Flash Attention 3修复 + 显存节省 + Decode加速
Disaggregated Serving for Hybrid SSM Models 15 min 扩展NIXL到Mamba混合SSM模型（与SGLang PR #36513 GLM-5.3-Flash 34层线性注意力形成「混合线性注意力模型推理系统」完整体系）

核心论点：vLLM V1重心从单节点优化转向Prefill-Decode Disaggregation（disaggregated serving）——这是2026年的核心工程方向；与Sep 29简报已锚定的arXiv 2609.23130 Inference Control Plane + arXiv 2609.26333 DQ + AMPD arXiv 2602.14516 + NVIDIA Dynamo 1.0 KVBM + Mooncake分布式KV持久化形成「解耦推理 + KV Cache first-class primitive + Control Plane」三栖完整体系。

FP8 KV Cache跨Hopper和Blackwell验证结论：FP8 KV Cache已在Hopper（H100）和Blackwell（GB200/B300）上通过生产验证；这对推理引擎选型有直接意义——启用FP8 KV是2026年Q4的生产可行选项而非实验性功能。

可信度：★★★★★ — vLLM官方博客 + AMD MI300X实测数据 + NVIDIA Blackwell官方支持

与活文档现有脉络的关系：inference.md v310已锚定Sep 29轮新增：2609.23130 Control Plane + 2609.26333 Disagg Quantization + NVIDIA Dynamo 1.0 GA + Mooncake PyTorch Ecosystem。本条是系统性深化：vLLM官方博客三篇将Sep 29锚定的PD Disaggregation从「概念层」扩展到「工程落地层」（AMD MI300X 8-GPU实测 + Blackwell支持），并通过Disaggregated Serving for Hybrid SSM Models与SGLang GLM-5.3-Flash线性注意力问题形成技术对话。

建议归入章节：§2.3 Prefill-Decode Disaggregation（扩增 · vLLM官方博客三篇系统锚定 · PD Disaggregation AMD MI300X 8-GPU实测 + FP8 KV跨Hopper/Blackwell生产验证 + 扩展NIXL到Mamba混合SSM模型）

增量 2：SGLang GLM-5.3-Flash生产故障缓解方案 + PR #36513 Blackwell FP8 KV实测（⭐⭐⭐⭐⭐）

来源：inbox/jay/2026-09-30T1130-jay-engineering-filter-sep30.md §条目1 SGLang混合注意力模型生产故障 + §条目4 SGLang PR #36513 + inbox/jay/2026-09-30-daily-brief.md §Inference Engine

URL：https://github.com/sgl-project/SGLang/pull/36513（commit c5b82b63e37b @ f13cb6f）

要点：

A. HelixML SGLang GLM-5.3-Flash生产故障缓解方案（2026-09-25，真实生产数据）

  • 背景：GLM-5.3-Flash的45层中有34层是线性注意力（Linear Attention），而非标准Transformer注意力
  • 生产故障实测（2026-09-25）：单个313,000-token的prompt在SGLang上产生了51个状态快照，占用了28个缓存槽，导致所有其他对话的缓存被逐出——此时token cache仅填充了72%
  • 根因：SGLang RadixAttention缓存机制原本为标准Transformer设计，对线性注意力层的state snapshot管理存在盲区
  • 缓解方案：对每个对话的快照数量加cap（snapshot per-conversation cap）——冷启动失败率从7.6%降至1.1%（HelixML 2026-09实测）
  • 部署架构：8×NVIDIA RTX PRO 6000 Blackwell GPU上同时运行vLLM（Qwen3.8-Flash-Next，4卡）和SGLang（GLM-5.3-Flash，2×双卡replica），Ramjet推理负载均衡器按模型类型路由请求
  • 关联生产配方repo：caiovicentino/glm-5.3-flash-sglang-4x-rtx-pro-6000（4×RTX PRO 6000 Blackwell SM120多用户生产配方）

B. SGLang GitHub PR #36513 · GLM-5.3-Flash FP8 KV + TRT-LLM Blackwell实测卡（2026-08-26合入）

  • 问题：GLM-5.3-Flash cookbook原版FP8 KV cache + TRT-LLM DSA选项在Blackwell上Benchmark卡片仅匹配硬件维度和模型维度，选择该选项后仍显示BF16 + TileLang数字，且该选项没有任何实际测量数据
  • 修复：补全实测数据，建立FP8 KV + TRT-LLM为Blackwell默认配置
  • 实测数据（commit c5b82b63e37b @ f13cb6f · 最终权重）：
配置 LL conc 16 (adaptive MTP 5/1/6) HT conc 16
BF16 + TileLang 1,821.97 tok/s 1,128.32 tok/s
FP8 KV + TRT-LLM 1,885.68 tok/s (+3.5%) 1,189.96 tok/s (+5.5%)
  • 关键收益：FP8 KV + TRT-LLM在Blackwell上实现约1.8× KV容量（同为FP8精度，KV量化 vs 权重量化），质量与BF16持平

核心论点：承接Sep 29简报GLM-5.3-Flash 51快照问题 + 完整承接缓解锚定配置 + Blackwell FP8 KV实测——Sep 29简报已锚定"25 Sep 2026 GLM-5.3-Flash 45层34层线性注意力"问题，本条补充：① HelixML 7.6%→1.1%缓解方案（snapshot per-conversation cap）是可操作的工程配置；② SGLang PR #36513 + 1,885.68 vs 1,821.97 tok/s +3.5% + ~1.8× KV容量是Blackwell上的量化选型依据；③ 与vLLM官方博客Disaggregated Serving for Hybrid SSM Models（扩展NIXL到Mamba混合SSM模型）形成「混合线性注意力模型推理系统双引擎完整图谱」

可信度：★★★★★ — HelixML真实生产数据（第一手）+ GitHub官方PR #36513 + 可验证commit SHA c5b82b63e37b @ f13cb6f

与活文档现有脉络的关系：inference.md v310 §1.1已锚定Sep 29简报GLM-5.3-Flash线性注意力生产故障；本条是工程化落地补充：snapshot per-conversation cap提供可操作的缓解配置，PR #36513提供Blackwell上FP8 KV的生产级性能数字，与§1.4（量化）形成 Blackwell FP8 KV生产可用性的直接证据。

建议归入章节：§1.1 框架格局（扩增 · HelixML GLM-5.3-Flash缓解方案：snapshot per-conversation cap，7.6%→1.1%冷启动失败率，8×RTX PRO 6000 Blackwell + Ramjet推理负载均衡器）+ §1.4 量化（扩增 · SGLang PR #36513 · FP8 KV + TRT-LLM Blackwell · 1,885.68 vs 1,821.97 tok/s +3.5% · HT conc 1,189.96 vs 1,128.32 +5.5% · ~1.8× KV容量 + 质量与BF16持平）

增量 3：FlashInfer可复现benchmark命令序列（Spheron blog，⭐⭐⭐）

来源：inbox/jay/2026-09-30T1950-jay-engineering-filter-r3.md §条目2 Spheron FlashInfer Deployment Guide

URL：https://spheron.network/blog/deploy-flashinfer-gpu-cloud-llm-inference-kernels

要点：

含完整4步可复现benchmark命令序列：

# Step 1: torch_sdpa baseline
docker run --gpus all --ipc=host -p 8000:8000 \
  vllm/vllm-openai:latest \
  --model meta-llama/Llama-3.1-70B-Instruct \
  --dtype bfloat16 \
  --attention-backend torch_sdpa \
  --gpu-memory-utilization 0.92 \
  --max-model-len 16384

# Step 2: benchmark
python -m vllm.benchmarks.benchmark_serving \
  --model meta-llama/Llama-3.1-70B-Instruct \
  --dataset-name random \
  --random-input-len 2048 \
  --random-output-len 512 \
  --num-prompts 200 --concurrency 32 \
  --host localhost --port 8000

# Step 3: switch to FlashInfer backend
  --attention-backend flashinfer

# Step 4: re-run benchmark

关键结论：FlashInfer适合需要频繁换模型的团队（无60-120分钟engine recompile）；TRT-LLM适合锁定模型追求极致吞吐。

核心价值：这是目前最完整的FlashInfer生产部署参考命令序列，可直接用于评估FlashInfer vs torch_sdpa vs TRT-LLM的attention backend选型。

可信度：★★★★ — 技术博客，有具体命令，可复现

与活文档现有脉络的关系：inference.md v310 §1.1已有vLLM vs SGLang框架对比；FlashInfer benchmark命令序列提供了attention backend选型的工程化评估工具，是对框架选型的底层补充。§6.1（推理引擎选型决策树）可新增FlashInfer作为attention backend层的第四选项。

建议归入章节：§6.1 推理引擎选型决策树（扩增 · FlashInfer可复现benchmark命令序列 · 适用场景：频繁换模型团队 vs 锁定模型追求极致吞吐）

增量 4：Qwen3.8-27B版本Bug三引擎对照表（Winder.ai，⭐⭐⭐⭐）

来源：inbox/jay/2026-09-30T1950-jay-engineering-filter-r3.md §条目3 Winder.ai vLLM vs Ollama vs SGLang

URL：https://winder.ai/vllm-vs-ollama-vs-sglang-llm-inference-comparison

要点：

Qwen3.8-27B版本Bug三引擎对照（2026-09，生产重要）：

引擎 版本 Bug描述
vLLM 0.30 Qwen3.8-27B在H100上拒绝启动，直到降低sequence limit
SGLang 0.5.20 Qwen3.8-27B上静默将并发限制在20，直到state cache扩大才恢复
TRT-LLM 1.2.1 无法加载Qwen3.8
TRT-LLM 1.3.0rc28 FP8 checkpoint启动失败（2026-09 open bug）

性能数据：Qwen3.8-27B @ H100 @ 50并发：SGLang 1,725 tok/s vs vLLM 1,610 tok/s（差距7%）

成本数据：SGLang自托管：$0.56/M output tokens（卡跑满时）；第三方API：$1.80/M（平衡点：每日1/3时间跑满）

核心价值：Qwen3.8系列已成为2026年事实标准模型，但三引擎对其支持状态各异——这是生产部署Qwen3.8时必须检查的兼容性清单，而非选配信息。

可信度：★★★★ — Winder.ai独立测试，数据可验证

与活文档现有脉络的关系：inference.md v310 §1.1已有vLLM v0.30.0/SGLang v0.5.20版本特性；Qwen3.8-27B版本Bug表是生产就绪性的关键补充，与§6.2（TCO与成本换算）共同构成Qwen3.8-27B部署的完整决策依据。

建议归入章节：§1.1 框架格局（扩增 · Qwen3.8-27B版本Bug三引擎对照表 · vLLM 0.30拒绝启动 / SGLang 0.5.20并发限制20 / TRT-LLM 1.2.1无法加载 / TRT-LLM 1.3.0rc28 FP8启动失败）+ §6.2 TCO与成本换算（扩增 · SGLang自托管$0.56/M vs 第三方API $1.80/M平衡点）

增量 5：MCP 2026-07-28 Stateless新维度——_meta inline transport + 包体积-83% Manufact Cloud实测（⭐⭐⭐）

来源：inbox/jay/2026-09-30T1130-jay-engineering-filter-sep30.md §条目2 MCP 2026-07-28 Stateless深度解析（多源：MCP官方博客 + Cloudflare + Google Developers Blog）+ inbox/jay/2026-09-30-llm-rag-vllm.md

URL：https://blog.modelcontextprotocol.io/posts/2026-07-28

要点：

Sep 29简报已覆盖：无状态化 + MRTR + HTTP+SSE deprecated + Streamable HTTP保留 + Linux Foundation AAIF治理 + 包体积减少

本轮新增具体维度：

  1. _meta字段内联传输：协议版本和客户端能力现在通过每个请求的_meta字段内联传输，不再依赖连接时握手——这意味着每个请求自包含所有必要上下文，服务器无需维护会话状态
  2. 包体积-83% + 速度+25%（Manufact Cloud实测）：这是首次出现的生产环境实测数字，而非理论估算
  3. server/discover新RPC：替代原来的initialize，每请求自包含；服务器响应可缓存（server/discover catalog）
  4. Breaking change范围确认：依赖session ID或长生命SSE stream的代码必须修改；SDK v2有client-server split架构，利好边缘部署

与Sep 29锚定内容的关系：Sep 29简报锚定了MCP无状态化公告和包体积减少概念；本条是工程化深化：_meta字段内联传输是实现无状态化的具体机制，包体积-83% + 速度+25%是生产收益的量化实证。

可信度：★★★★★ — MCP官方规范 + Cloudflare + Anthropic + AWS Bedrock AgentCore多源验证 + Manufact Cloud生产实测

建议归入章节：§1.4 MCP 2026-07-28规范（扩增 · _meta字段内联传输机制 + server/discover新RPC替代initialize + 包体积-83%/速度+25% Manufact Cloud生产实测）

增量 6：VRLA Tech 2026新增维度——Agent工作流+127%（⭐⭐⭐）

来源：inbox/jay/2026-09-30T0935-jay-morning-briefing-inference-vecdb-mcp-stack2026.md §vLLM vs SGLang性能对比实测（VRLA Tech 2026）

URL：https://vrlatech.com/llm-inference-engine-comparison-2026

要点：

Sep 29简报已覆盖：多轮对话（5轮）SGLang +89%；批吞吐（32并发）SGLang +14%

本轮新增数据：

指标 vLLM SGLang 差异
单请求延迟 45ms 48ms vLLM +6%
多轮对话（5轮） 180ms 95ms SGLang +89%
批吞吐（32并发） 1,847 tok/s 2,103 tok/s SGLang +14%
Agent工作流（10次调用） 420ms 185ms SGLang +127%

核心新增：Agent工作流（10次工具调用）场景下，SGLang比vLLM快127%——这是Sep 29简报未覆盖的维度，与Particula Tech并发扩展数据（100并发时优势仅2%）共同构成「并发越高SGLang优势越缩小，但在agentic工具调用场景优势仍然巨大」的双重画面。

可信度：★★★★ — VRLA Tech实测，与Sep 29 evening jay简报数据互为印证

建议归入章节：§1.1 框架格局（扩增 · VRLA Tech 2026 Agent工作流+127%新维度 · 10次工具调用场景SGLang vs vLLM · 与Particula Tech并发扩展反直觉（100并发+2%）形成双重画面）

增量 7：Nereus（arXiv 2609.34645）——LLM后训练自适应并行（paper_card 1565 ✓，邻接inference）

来源：inbox/tom/2026-09-30-0900-hf-daily-2026-09-30.md（9▲）+ inbox/spark/2026-09-30-llm-infra-e1prep.md §增量7 + paper_card 1565

URL：https://arxiv.org/abs/2609.34645

arXiv号：2609.34645

paper_card状态：paper_card 1565 ✓ 主分类 engineering · method · 2026-09入库

work-queue标识：Top 15（9-30 12:00）

要点：

  • 核心问题：LLM强化学习（RL）后训练在GPU集群上协调多个模型的生成、推理与训练。运行过程中资源可用性、序列长度、内存压力与阶段瓶颈等因素可能变化，使原本合适的执行计划随时间变慢甚至不可行
  • 核心方案：Nereus——面向LLM后训练的自适应并行框架，动态调整执行计划
  • 核心挑战：调整模型共享GPU作业面临三大挑战：①判断新计划是否值得迁移成本；②复用作业的分布式状态；③协调
  • 意义：与Sep 29简报已锚定的Inference Control Plane（2609.23130）4原则之「测量工作负载几何」形成技术共鸣——Nereus是RL训练场景对「工作负载动态性」的工程响应，而Control Plane是推理场景对「工作负载动态性」的工程响应

可信度：★★★★ — paper_card 1565已入库 · 主分类engineering · method · work-queue Top 15

与活文档现有脉络的关系：inference.md v310 §2.2（调度理论）已锚定Fluid-Guided + SAGA + MC-SF + Continnum；Nereus是RL后训练调度的新工作，与§2.2形成训练/推理调度正交维度。

建议归入章节：§2.2 调度理论（邻接扩增 · arXiv 2609.34645 · Nereus · LLM后训练自适应并行 · 动态调整执行计划 · 与Control Plane 4原则「测量工作负载几何」形成训练/推理双重响应）

三、值得警惕的矛盾或待核实说法

⚠️ C1（修订D198延续）：KV Cache Reuse精度数字方法学系统性低估（2609.31415）

问题：arXiv 2609.31415的核心结论是现有KV Cache复用技术报告的精度损失数字均存在系统性低估。Sep 29简报已标注此警示；Sep 30轮未发现新的实证补充，但此警示应在活文档中持续标注。 风险等级：中-高（影响多个已锚定结论） 处置建议：维持§3.5警示注记；PolyKV/Continnum等精度数字标注⚠⚠⚬

⚠️ C2（修订Sep29 C4）：SGLang GLM-5.3-Flash线性注意力生产故障——缓解方案适用范围

问题：HelixML缓解方案（snapshot per-conversation cap）仅针对GLM-5.3-Flash配置；Qwen3.8-Flash-Next等其他混合注意力模型的cap值如何确定未验证 风险等级：中 处置建议：在§1.1中标注此适用范围；部署其他混合注意力模型（MoE + 线性注意力）时需独立验证snapshot cap配置

⚠️ C3（新增）：vLLM v0.30.1rc1生产pin建议——v0.30.0已知bug

问题：AI Infrastructure Digest 2026-09-27建议生产pin到v0.30.1rc1，避免v0.30.0已知bug；v0.30.0已知bug涉及：GLM-5.3集成中的DFlash/DSpark内存损坏问题 + Mamba/GDN元数据在KV cache grouping下复用时的bug 风险等级：中（影响生产部署版本选择） 处置建议：在§1.1 vLLM v0.30.0条目下新增生产警示注记；建议生产环境pin v0.30.1rc1

⚠️ C4（新增）：Particula Tech并发扩展数据来源细节未对齐

问题：Particula Tech并发benchmark Llama 3.1 8B H100来源未注明SXM/PCIE型号；与VRLA Tech数据（H100条件未注明）以及winder.ai Qwen3.8-27B benchmark（均未注明H100型号）来源细节需统一标注 风险等级：低-中 处置建议：在§1.1并发benchmark数据旁标注「H100型号（SXM/PCIE）待核实」

⚠️ C5（修订Sep28 C2延续）：C2C "2026-09 release"承诺跳票

问题：Jay Sep 28 evening简报称"C2C计划于2026-09发布agent-managed KV-Cache实现及serving system"。今日已是2026-09-30，尚未观察到该release的广泛传播 风险等级：中 处置建议：C2C概念（ICLR 2026）作为KV Cache first-class primitive愿景保留；"2026-09 release"承诺降级为待观察

四、可引用的arXiv号列表

arXiv 主题 关联章节 可信度
2609.34645 Nereus · LLM后训练自适应并行 §2.2邻接 ★★★★
2609.31415 KV Cache Reuse评测方法学（Sep 29已锚入） §3.5 ★★★★★
2609.26333 Disaggregated Quantization（Sep 29已锚入） §2.3 ★★★★
2609.23130 Inference Control Plane 4原则（Sep 29已锚入） §1.1/§2.2 ★★★★
2609.17863 Pareto Atlas 54锚点实测（Sep 29已锚入） §1.1 ★★★
2511.02230 Continnum KV Cache TTL（Sep 28已锚入） §2.2/§5.1 ★★★★
2605.17613 VeriCache Lossy→Lossless（Sep 28已锚入） §3.3 ★★★★
2607.20468 InferenceBench Agent自动化推理（Sep 27已锚入） §1.5 ★★★★
2609.11744 py-kvcache工程综述（Sep 30承接延续） §3.3 ★★★★
2602.14516 AMPD Prefill-Decode Disaggregation §2.3 ★★★★
2609.27746 KV Cache Working Set容量规划 §3.3 ★★★★
2609.28870 Cache Replacement for LLM Prefix Reuse §3.3 ★★★
2609.22157 PAGE Partition-Aware Gated Eviction §3.3 ★★★

五、检查过的来源汇总（可审计）

inbox/jay/2026-09-30-llm-rag-vllm.md（14:00 · vLLM官方博客三篇 + vLLM V1重心转向PD分离）
inbox/jay/2026-09-30-llm-inference-vector-db.md（14:00 · NVIDIA Dynamo 1.0 GA完整数字 + Mooncake TRT-LLM + SGLang EPD）
inbox/jay/2026-09-30T0935-jay-morning-briefing-inference-vecdb-mcp-stack2026.md（09:35 · TGI 2026-03-21 + VRLA Tech + py-kvcache）
inbox/jay/2026-09-30T1130-jay-engineering-filter-sep30.md（11:30 · GLM-5.3-Flash HelixML + PR #36513 + Particula Tech + MCP Stateless深度）
inbox/jay/2026-09-30T1950-jay-engineering-filter-r3.md（19:50 · FlashInfer benchmark命令 + Qwen3.8-27B Bug + Harness对比）
inbox/jay/2026-09-30-daily-brief.md（08:21 · v0.30.1rc1 + Mamba/GDN bug + TGI README确认）
inbox/jay/2026-09-29T1505-jay-evening-briefing-inference-vecdb-stack2026.md（Sep 29锚定基线）
inbox/jay/2026-09-28T0935-jay-ai-engineering-inference-vecdb-mcp-trending.md（Sep 28锚定基线）
inbox/spark/2026-09-30-llm-infra-e1prep.md（18:40 · 6主增量 + Nereus）
inbox/tom/2026-09-30-0900-hf-daily-2026-09-30.md（09:00 · Nereus + KV Cache视频扩散）
inbox/spark/2026-09-29-llm-infra-e1prep.md（Sep 29锚定基线）
inbox/tom/2026-09-29-inference-e1prep.md（Sep 29锚定基线 · 7主增量）
inbox/tom/2026-09-28-inference-e1prep.md（Sep 28锚定基线 · 3主增量）
paper_cards/1565-2609-34645.md（Nereus · paper_card 1565 ✓）
paper_cards/1546-2609-31415.md（KV Cache Reuse · Sep 29已锚入）
paper_cards/1554-2609-26333.md（Disagg Quantization · Sep 29已锚入）
work-queue Sep 30 12:00（Top 15 · 2609.34645 Nereus）

六、本次变更摘要

2026-09-30 | Tom E1 晚间预消化

# 增量 arXiv 建议归入章节
1 vLLM官方博客三篇系统性锚定：PD Disaggregation AMD MI300X 8-GPU + FP8 KV跨Hopper/Blackwell生产验证 + Disagg Serving for Hybrid SSM（vLLM V1重心转向PD） — §2.3 PD Disaggregation
2 SGLang GLM-5.3-Flash缓解方案（snapshot cap 7.6%→1.1%）+ PR #36513 Blackwell FP8 KV实测（+3.5-5.5%，~1.8× KV容量） — §1.1 + §1.4
3 FlashInfer可复现benchmark命令序列（Spheron · 4步） — §6.1选型决策树
4 Qwen3.8-27B版本Bug三引擎对照表（vLLM 0.30拒绝启动 / SGLang 0.5.20并发限制20 / TRT-LLM 1.2.1无法加载） — §1.1 + §6.2
5 MCP 2026-07-28 Stateless新维度：_meta字段内联传输 + 包体积-83%/速度+25% Manufact Cloud实测 — §1.4 MCP规范
6 VRLA Tech 2026新维度：Agent工作流+127%（10次工具调用） — §1.1
7 Nereus 2609.34645：LLM后训练自适应并行（邻接inference） 2609.34645 §2.2邻接

警示5条：KV Cache Reuse精度方法学系统性低估（沿用Sep 29 C2）/ GLM-5.3-Flash缓解方案适用范围待核实 / v0.30.1rc1生产pin建议（v0.30.0已知bug）/ Particula Tech H100型号未注明 / C2C "2026-09 release"跳票（沿用Sep 28 C2）

涉及arXiv号：本次 NET-new 1个（2609.34645）；本轮承接 1个（2609.11744邻接延续）；续用锚定 50+个

Tom · inference E1 预消化 · 2026-09-30 22:20 CST · 增量7条（含NET-new 1条邻接）· 涉及arXiv：2609.34645