工程筛选报告 · Jay · 2026-08-15 晚间（第3轮）

筛选角色: Jay · 工程二次筛选 本轮覆盖: 今日已入库条目的第三次过滤，重点识别含真实命令/错误/配置/性能数据的条目 时间: 2026-08-15 19:50 (UTC+8)

筛选结论速览

一、保留条目（含理由）

✅ 条目 EV1｜vLLM Production Stack 2026 Roadmap — 路线图即规格书

来源: GitHub · vllm-project/production-stack · Issue #855 · 2026-08 工程价值: ⭐⭐⭐⭐⭐ | 复现价值: ⭐⭐⭐⭐

为何保留（真实 P0/P1/P2 工程优先级）: - P0 明确：vLLM Omni 部署支持、请求级故障转移（vLLM 实例崩溃时迁移）、PD Disaggregation CRD 支持 - P0 新增路由：KV-cache-aware routing、prefix-aware routing（hash trie）、KEDA 自动扩缩容 - P1 实际需求：LoRA helm 部署（已有 #563）、外部 provider 路由（OpenAI/Anthropic）、router-side 请求队列、PII 检测 - 新 PR 证据：#881 prefix-aware + kv-aware routing in CRD、#903 KEDA auto scaling in CRD、#841 PD Disaggregation CRD - 关键字段：benchmark_serving.py、PVC 配置（fast-ssd storageClass）、--max-model-len、--gpu-memory-utilization

保留决策: 精读 —— vLLM 生产部署路线图直接等于未来 6 个月工程优先级列表，是容量规划和团队 roadmapping 的基准

✅ 条目 EV2｜vLLM.ai Blog — V1 Engine 变更 + AMD MI300X PD Disaggregation

来源: vllm.ai/blog · 2026-08 工程价值: ⭐⭐⭐⭐⭐ | 复现价值: ⭐⭐⭐⭐

为何保留（具体变更 + 真实硬件配置）: - vLLM V1 五项核心变更: 简化 scheduler（减调度开销）、近零开销 prefix caching、cleaner tensor parallelism、multiprocessing API server、default optimizations for higher-throughput - AMD MI300X 8-GPU 单节点 PD disaggregation（via AMD MORI-IO）: - 分离 prefill 和 decode 阶段 - KV cache 高效传输 - ITL 稳定性提升 + goodput 改善 - 这是首个公开的 AMD 方案，与 NVIDIA PD Disaggregation 对应 - vLLM Korea Meetup 2026: 社区规模增长数据、生产 stack adoption 案例、vllm-playground 新功能

保留决策: 精读 —— AMD MI300X 用户（国内阿里云/腾讯云常见）的必读工程参考；V1 scheduler 变更影响所有用户

✅ 条目 EV3｜CNCF — AI Agent 生产可观测性工程实践

来源: CNCF Blog · "You can't debug what you can't see" · Sabith K Soopy (Principal Engineer, StackGen) · 2026-08-04 工程价值: ⭐⭐⭐⭐⭐ | 复现价值: ⭐⭐⭐⭐

为何保留（真实诊断命令 + 告警模式 + 5条硬教训）:

真实诊断命令架构:

doctor-style diagnostic command (类 brew doctor)
检查项: model connectivity / vector store reachability / 
        pending approvals / memory counts / 
        trace backend status / integration health

告警模式:

# 核心告警原则: cost is your canary
# 超过 rolling average cost N 倍时触发
# 捕获: hallucination spirals / model routing errors / 
#       unbounded context accumulation

5条生产教训（可操作）: 1. 成本即金丝雀：成本突增几乎总是 bug，优先告警成本 2. Traces 用于调试，metrics 用于告警，别混用 3. 审计日志 PII 脱敏必须做，否则 observability tool 本身成为漏洞 4. 建一个 diagnostic command：依赖全检 + pass/fail，省去 5 个 dashboard 5. 自动 trace 分析：人工无法每天审几百个 session，用 analyzer 标记异常

保留决策: 精读 —— 每条都可直接转化 Agent 生产 runbook；与 OWASP Agent Security 互补（一个防外，一个治内）

二、保留条目（架构参考级）

🟡 条目 EV4｜DevOpsBeast — vLLM vs SGLang 生产选型决策框架

来源: devopsbeast.com · 2026 工程价值: ⭐⭐⭐⭐ | 已有覆盖: 是（下午简报已收录 Spheron benchmark）

保留理由: - 决策框架完整：4 question framework，5 分钟定位正确答案 - 关键洞察：多引擎混合部署（vLLM 通用 + SGLang Agent/结构化输出）越来越常见 - 重要警告： - 结构化输出有约束解码开销（vLLM constrained decoding 明显慢于无约束） - 切换成本被低估：OpenAI API 兼容但运维工具（metrics/dashboards/autoscaling/deployment manifests）均引擎特定，需要一个季度而非一 sprint

保留决策: 参考 —— 与下午简报 Spheron benchmark 合并；不重复录入知识库，标记已有条目补充此维度即可

🟡 条目 EV5｜Simon Willison — sqlite-utils 4.2.1 崩溃 bug 修复

来源: simonwillison.net · 2026-08-13 工程价值: ⭐⭐⭐ | 复现价值: ⭐⭐⭐

保留理由: - 真实 bug：from typing_extensions import Self 在旧版 typing-extensions 导致崩溃 - 这类 bug 在引用 table.transform() 等复杂 API 时容易触发 - sqlite-utils 是 AI 工程常见依赖（数据管道、CSV 处理），影响面不小

保留决策: 参考 —— 归档为常见依赖兼容性问题案例；适合纳入 AI 工程踩坑案例集

三、降级条目

🔵 条目 EV6｜Spheron — SGLang Production Deployment Guide

来源: spheron.network · 2026-03（今天下午简报 15:05 已收录） 判断: 已有覆盖，本次搜索结果来自 Spheron 同一篇文章 有价值细节: curl | grep sglang_cache_hit_rate、GPU monitoring nvidia-smi dmon -s pum -d 5、NCCL NVLink 拓扑检查 行动: 标记到下午简报对应条目即可

🔵 条目 EV7｜LeetLLM — vLLM vs SGLang vs TensorRT-LLM vs Ollama 决策

来源: leetllm.com · 发布检查 2026-08-13 判断: 今天下午简报已收录 Spheron H100 Benchmark，LeetLLM 的 checkpoint recipes 和 latency/throughput 对比表与已有内容高度重叠 有价值补充: release inspection 日期对照表（vLLM v0.5.17 / SGLang v1.2.1 / TensorRT-LLM v1.3.0rc24）可作为版本现状参考

四、丢弃条目

❌ 条目 EV8｜DevOpsBeast — vLLM vs SGLang 2026（综合版）

来源: 同上 devopsbeast.com 丢弃理由: DevOpsBeast 这篇是上述 EV4 的延伸，4-question framework 和 single-engine fundamentalist 警告已在 EV4 覆盖；无独立新增命令或数据

五、本轮新增可执行行动

六、分类标签

推理引擎 vLLM-V1 PD-Disaggregation AMD-MI300X 生产-可观测性 CNCF Agent-Debugging OpenTelemetry KEDA MCP

七、建议写入路径

/shared/research-kb/inbox/jay/2026-08-15T1950-jay-engineering-filter-evening.md

本次写入 1 个文件，包含完整筛选报告。EV1～EV3 建议精读；EV4～EV5 建议参考；EV6～EV7 标记已覆盖即可。

Jay · 工程二次筛选 · 2026-08-15 19:50 UTC+8