Jay · CSDN 高价值检索 · 2026-08-26
检索范围
- 平台:CSDN 博客(blog.csdn.net)
- 检索词:vLLM / SGLang / RAG / Agent / MCP / 多模态 / GraphRAG / 源码分析 / OOM / 排障
- 重点:源码分析、版本数据、实测数据、工程命令、复现步骤
高价值条目
1. vLLM v0.20.0 超深度系统级架构分析
- 链接:https://blog.csdn.net/zhonglinzhang/article/details/160307504
- 作者:zhonglinzhang(专注 vLLM 源码系列)
- 发布时间:2026-04-19,首次发布
- 更新时间:分析日期 2026-05-17
- 可信度:高。代码行数标注 233 C++/CUDA 文件 ≈ 87 万行,六层分层架构,有数据流图
- 核心内容:
- 六层分层:服务层 / 引擎层 / 调度核心层 / 执行器层 / 模型执行层 / 内核层
- 服务层:OpenAI/Anthropic 兼容 API + 嵌入 + 批处理
- 引擎层:LLMEngine + EngineCore,输入输出处理 + 调度执行流水线
- 调度核心层:FCFS + 连续 batching,KV Cache 分配管理
- 执行器层:单进程 / 多进程 / Ray 分布式三种模式
- 模型执行层:150+ 模型架构,多种量化后端
- 内核层:CUDA 高性能算子,PagedAttention
- 引擎层 v1 Executor 深度分析 Part3:Ray 执行器与工具函数
- v1 Speculative Decoding(spec_decode)超深度分析
- 工程价值:⭐⭐⭐⭐⭐ 源码级架构文档,含数据流图,适合推理引擎内核学习
- 建议写入:知识库
inference/vllm/architecture/,主题页更新
2. vLLM vs SGLang 实测对比:显存占用 / 吞吐 / KV 缓存管理
- 链接:https://blog.csdn.net/weixin_72849553/article/details/163733811
- 发布时间:2026-08-14(极新)
- 可信度:中高。基于真实 GPU 环境,6 维度深度对比
- 核心内容:
- 显存占用实测对比
- 吞吐性能数据
- 延迟表现数据
- KV 缓存管理机制差异
- 生态能力对比
- 场景适配建议
- 精准实测数据 + 避坑要点
- 工程价值:⭐⭐⭐⭐⭐ 生产选型必备,含实测数据
- 建议写入:
inference/vllm-sglang/benchmark/aug2026/
3. SGLang 源码剖析(环境搭建 + 快速上手)
- 链接:https://blog.csdn.net/weixin_43679037/article/details/163480632
- 发布时间:2026-08-04
- 可信度:中(注:文章现已 404,需注意链接有效期)
- 核心内容:SGLang 源码结构、环境搭建、快速上手
- 工程价值:⭐⭐⭐ 源码级,但链接已失效,建议仅作线索记录
- 备注:可能因审核被删,建议同步关注同作者后续发布
4. 企业级 RAG 系统工程化实战
- 链接:https://blog.csdn.net/m0_59235945/article/details/162014793
- 发布时间:2026-06-15,最新推荐 2026-08-25(持续加热)
- 收录:智能体开发者社区
- 可信度:中高。实战工程化视角,非泛泛而谈
- 核心内容:
- 检索质量 + 权限边界 + 索引生命周期 + 并发控制 + 成本治理 + 可观测与发布回滚
- Semaphore 并发控制代码示例(
acquire必须在finally中release,偶发卡根因) - 生产级 RAG 不是向量库 + Embedding + LLM 串联,而是系统工程
- admission_controller 限流设计
- 工程价值:⭐⭐⭐⭐⭐ RAG 落地必读,工程化清单完整
- 建议写入:
rag/production/engineering/
5. 基于知识图谱的多模态 GraphRAG 项目实战(附源码)
- 链接:https://blog.csdn.net/m0_59235245/article/details/160602216
- 发布时间:2026-04-28,最新推荐 2026-08-24(持续流量)
- 收录:智能体开发者社区
- 可信度:中高。附源码,有 Agent 推理过程示例
- 核心内容:
- MinerU 负责文档解析(PDF / 表格 / 图文混排)
- 知识图谱建关系
- Agentic-RAG 做多跳推理
- 工具调用示例:
search_entities→get_neighbors→get_entities_by_type→describe_graph - 实测每轮问答 4-6 次工具调用,延迟 8-15 秒
- 踩坑记录:部分模型无法生成有效 JSON,
model_supports_json=false仍无法解决,改用 mistral 模型后解决 - 工程价值:⭐⭐⭐⭐ 完整系统架构,有源码,适合多模态知识库落地参考
- 建议写入:
rag/graphrag/multimodal/
6. GraphRAG 后,多模态 RAG 实战:图片 / 表格 / PDF 完美解析
- 链接:https://blog.csdn.net/Trb201013/article/details/162014965
- 发布时间:2026-06-15,最新推荐 2026-08-25(持续流量)
- 可信度:中高。3 种方案深度解析
- 核心内容:
- CLIP 全局向量方案:精度 ~60% 根源分析(全局压缩丢细节)
- 方案一:Caption 生成 + 向量检索(成本痛点:GPT-4o 批量 1000 图约 $20-50)
- 方案二:ColPali(OCR-free 方案)代码示例
- 图片路径 → VLM 作答的端到端架构
- 成本分析: Caption 质量决定检索上限,低质量 Caption = 无效
- 工程价值:⭐⭐⭐⭐ 多模态 RAG 落地必读,成本 vs 精度权衡清晰
- 建议写入:
rag/multimodal/image-table-pdf/
7. 企业 AI Agent 工程化:RAG 精准检索 / 熔断机制 / MCP 可观测性
- 链接:https://blog.csdn.net/weixin_32678995/article/details/163940354
- 发布时间:2026-08-20(极新,6 天前)
- 可信度:中高。工程化视角
- 核心内容:
- RAG 检索精准对接
- 超时熔断的稳定性保障
- MCP 协议工具观测与集成
- 可观测性是排障生命线
- 工程价值:⭐⭐⭐⭐ Agent 生产落地必备,可观测性 + 熔断设计有参考价值
- 建议写入:
agent/production/observability-mcp/
8. 多 Agent 知识库 + 权限审核 + 上线排障清单
- 链接:https://blog.csdn.net/TateZhouiz/article/details/162421402
- 发布时间:2026-06-29
- 可信度:中。排障清单视角
- 核心内容:
- 上线后最常见的 9 个问题排障清单
- 优先检查 → 修复方向 → 闭环
- 只有确认上下游链路稳定后,模型替换才有比较意义
- 工程价值:⭐⭐⭐⭐ 运营 / 运维视角,企业知识库上线必读
- 建议写入:
rag/knowledge-base/production-checklist/
综合标签
[推理引擎] [vLLM] [SGLang] [RAG] [GraphRAG] [多模态] [MCP] [Agent] [源码分析] [生产环境] [OOM] [成本治理]
本次结论
本次检索高价值率:8/10 条进入候选,4 条高价值进入精选
最高价值条目:vLLM v0.20.0 源码架构分析(六层分层 + 数据流图 + 87万行代码分析);企业级 RAG 系统工程化实战(Semaphore 根因分析 + 生产必读)
建议优先写入知识库:
- inference/vllm/architecture/v0.20.0-deep-analysis.md
- rag/production/enterprise-rag-engineering.md
- rag/graphrag/multimodal/graphrag-project-practice.md
后续行动:
1. 跟踪 weixin_43679037 的 SGLang 源码系列,确认文章是否重新发布
2. 精读 vLLM Executor Part3 和 Speculative Decoding 源码分析
3. 关注 weixin_32678995 的 MCP 可观测性系列(极新,6 天前)