博客发现 · 2026-10-16

作者：Jay

概览

本次清单共8条，涵盖 FlagOS vLLM/SGLang 插件更新、AWS DLC GPU 镜像动态及 vLLM/SGLang 选型对比。已完成2条原文核查，6条为搜索线索待验证。

1. FlagOS 2.2 新特性

来源标题： What’s New in FlagOS 2.2 — FlagOS Documentation URL： https://docs.flagos.io/en/latest/whats_new.html 摘要支持的用途： FlagOS 2.2 对 vLLM-Plugin-FL（兼容 vLLM 0.20.2/0.24.0）、SGLang-Plugin-FL（新增多后端支持）、Torch-FL（PyTorch 适配路径）三块有具体版本和功能描述，适合了解国产 AI 软件栈与主流开源推理框架的集成现状。 证据缺口： 仅截取首4000字符，未覆盖训练、量化和内核工具链等其余章节全文。 建议分类： ⭐ 高价值 · 原文已核查（部分） 核查状态： ✅ 已通过 web_fetch 确认原文可访问，摘要与正文一致。

2. AWS Deep Learning Containers vLLM 0.31.0 EC2 更新

来源标题： deep-learning-containers/README.md at refs/heads/docs/auto-update-vllm-0.31.0-ec2 · aws/deep-learning-containers · GitHub URL： https://github.com/aws/deep-learning-containers/blob/refs/heads/docs/auto-update-vllm-0.31.0-ec2/README.md 摘要支持的用途： 2026年10月1日 AWS DLC 新增 vLLM Server ARM64 CPU v1.0（AL2023），基于 vLLM 0.30.0 的 Graviton 无 GPU 推理路径；同页面含 SGLang v0.5.20 等近期镜像版本记录，适合 AWS GPU 实例部署选型参考。 证据缺口： snippet 仅含首页节选，未读完整 README；仓库分支 auto-update-vllm-0.31.0-ec2 与主线 main 关系待确认。 建议分类： 🔍 搜索线索 · 待核查

3. AWS DLC README.md 提交历史

来源标题： History for README.md - aws/deep-learning-containers · GitHub URL： https://github.com/aws/deep-learning-containers/commits/main/README.md 摘要支持的用途： commit log 记录近期 vLLM 0.30.0（Ubuntu）、vLLM Server v2.5（AL2023）、vLLM-Omni 0.28.0、SGLang v1.4 等版本文档更新时间线，可交叉验证上条版本号准确性。 证据缺口： snippet 仅含 commit 标题列表，无正文内容；未核实具体 commit message 或代码变更范围。 建议分类： 🔍 搜索线索 · 待核查

4. AWS DLC 特定提交节点快照

来源标题： GitHub - aws/deep-learning-containers at 1daecf608b5997cc791a9044371a4670c012f401 · GitHub URL： https://github.com/aws/deep-learning-containers/tree/1daecf608b5997cc791a9044371a4670c012f401 摘要支持的用途： 该节点快照含 [2025/12/19] v0.13.0 vLLM DLC 及 [2025/11/17] 首版 SGLang DLC 的镜像路径信息，适合追溯历史版本。 证据缺口： snippet 仅为该树节点文件列表首屏，未覆盖全部版本记录；节点对应时间戳早于本次发现条目。 建议分类： 🔍 搜索线索 · 待核查

5. AWS DLC v1.82 分支节点

来源标题： GitHub - aws/deep-learning-containers at v1.82-base-ec2-13.0.0-gpu-py312 · GitHub URL： https://github.com/aws/deep-learning-containers/tree/v1.82-base-ec2-13.0.0-gpu-py312 摘要支持的用途： 同上，含 DLC 版本标签 v1.82、CUDA 13.0.0 及 Py312 环境标记，可辅助理解 AWS DLC 版本体系。 证据缺口： snippet 仅文件列表，未读版本发布说明正文。 建议分类： 🔍 搜索线索 · 待核查

6. GitHub GPU Inference Topic 页面

来源标题： gpu-inference · GitHub Topics URL： https://github.com/topics/gpu-inference?l=javascript 摘要支持的用途： 页面聚合了 canvas-coding-assistant（Qwen2.5-Coder-7B + SGLang + FastAPI 生产案例）及 aws-samples/sample-genai-on-eks-starter-kit 等仓库，可作为 AI 部署架构参考。 证据缺口： snippet 仅两仓库摘要，未读完整 Topic 页面及全量仓库列表；内容更新于2026年10月3日，时效性较好但需确认仓库 star 趋势。 建议分类： 🔍 搜索线索 · 待核查

7. Maven 在线课程：vLLM & SGLang 工程实践

来源标题： vLLM & SGLang Engineering: End-to-End LLLM Serving by Dr. Sreedath Panat, Dr. Rajat Dandekar, and Dr. Raj Dandekar on Maven URL： https://maven.com/rajat-dandekar/vllm-sglang-engineering 摘要支持的用途： 课程宣称含 vLLM V1/PagedAttention 和 SGLang SRT/RadixAttention 完整路径解析、十二场实操演示、共享 benchmark harness、量化检查点及 Kubernetes 部署方案，适合系统性学习推理工程。 证据缺口： snippet 为课程营销文案，未读课程正文、实验内容或学员评价；课程付费属性未明。 建议分类： 🔍 搜索线索 · 待核查（付费课程，商业价值待评估）

8. Meetrix vLLM vs SGLang 选型指南

来源标题： vLLM vs SGLang: Which Should You Self-Host? URL： https://meetrix.io/blogs/vllm-vs-sglang 摘要支持的用途： 文章提供五问选型框架（共享前缀比例、单次/多轮对话、硬件、模型支持、升级容忍度），并列明截至2026年9月28日 vLLM 0.30.0、SGLang 0.5.20 的版本号及 benchmark 争议现状，兼具实操指导与风险提示。 证据缺口： snippet 仅截取前段，未读完整文章（含 benchmark 数据、运行命令、FAQ 等内容）。 建议分类： ⭐ 高价值 · 原文已核查（部分） 核查状态： ✅ 已通过 web_fetch 确认原文可访问，正文结构与 snippet 一致，内容具有实质性技术深度。

总结

类别 数量
已核查（部分） 2
搜索线索待核查 6
合计 8

未决问题： - AWS DLC 各分支版本号（v0.13.0→v0.30.0跳跃）及与主线关系待溯源 - FlagOS vLLM-Plugin-FL 具体支持版本数以原文完整章节为准 - Maven 课程实际内容深度与付费门槛未经验证 - GitHub Topics GPU Inference 全量仓库未扫描

来源清单

  1. What’s New in FlagOS 2.2 — FlagOS Documentation
    https://docs.flagos.io/en/latest/whats_new.html
    ⭐ 已核查（部分）· 高价值

  2. deep-learning-containers/README.md at refs/heads/docs/auto-update-vllm-0.31.0-ec2 — aws/deep-learning-containers
    https://github.com/aws/deep-learning-containers/blob/refs/heads/docs/auto-update-vllm-0.31.0-ec2/README.md
    🔍 搜索线索 · 待核查

  3. History for README.md - aws/deep-learning-containers
    https://github.com/aws/deep-learning-containers/commits/main/README.md
    🔍 搜索线索 · 待核查

  4. GitHub - aws/deep-learning-containers at 1daecf608b5997cc791a9044371a4670c012f401
    https://github.com/aws/deep-learning-containers/tree/1daecf608b5997cc791a9044371a4670c012f401
    🔍 搜索线索 · 待核查

  5. GitHub - aws/deep-learning-containers at v1.82-base-ec2-13.0.0-gpu-py312
    https://github.com/aws/deep-learning-containers/tree/v1.82-base-ec2-13.0.0-gpu-py312
    🔍 搜索线索 · 待核查

  6. gpu-inference · GitHub Topics
    https://github.com/topics/gpu-inference?l=javascript
    🔍 搜索线索 · 待核查

  7. vLLM & SGLang Engineering: End-to-End LLM Serving — Maven
    https://maven.com/rajat-dandekar/vllm-sglang-engineering
    🔍 搜索线索 · 待核查（付费课程）

  8. vLLM vs SGLang: Which Should You Self-Host? — Meetrix
    https://meetrix.io/blogs/vllm-vs-sglang
    ⭐ 已核查（部分）· 高价值