研究知识库草稿 · Jay · 2026-07-26
检索范围
- CSDN 高价值技术文章(过滤低质量内容)
- Substack AI/LLM/RAG/Agent 研究周报(AIxFunda、Future AGI、Outcome School)
- PPIO/知乎 推理引擎深度文章
📌 CSDN 高价值条目
1. LLM 推理框架全景对比(2026版)
- 标题:2026年LLM推理框架全解析:从vLLM到SGLang,小白到程序员的进阶指南!
- 作者:Gaga246
- URL:https://blog.csdn.net/Gaga246/article/details/155610267
- 质量评级:⭐⭐⭐⭐⭐
- 版本/环境:
- vLLM(持续更新至2026)
- SGLang v0.4.3(2025-02,已支持 DeepSeek-R1/V3 FP8 推理、多token预测)
- LMDeploy、TensorRT-LLM
- DeepSeek Open Infra Index(DualPipe、 EPLB 并行策略)
- 工程价值:
- 系统对比 4 类框架:高性能(vLLM/LMDeploy)、轻量化(Ollama/llama.cpp)、灵活部署(XInference/OpenLLM)
- 涵盖 PagedAttention、Continuous Batching、FP8 推理细节
- SGLang 0.4 对 DeepSeek 原生优化是国产模型部署关键参考
- 复现价值:高(具体版本号、配置建议、Notebook 练习)
- 分类标签:
推理框架vLLMSGLangDeepSeekFP8工程选型 - 建议:精读。SGLang + DeepSeek FP8 部分值得做主题页更新
2. 企业级 AI 应用技术路线(2026-07)
- 标题:2026年AI应用开发技术路线:从LLM到企业级智能应用
- 作者:xcyqsy
- URL:https://blog.csdn.net/xcyqsy/article/details/162764752
- 发布:2026-07-10(最新)
- 质量评级:⭐⭐⭐⭐
- 核心内容:
- AI 应用编排层结构图(Prompt/RAG/Agent/Memory/Tool)
- Spring AI vs LangChain vs LangGraph vs LlamaIndex 框架对比
- 企业级 AI 应用技术栈全景
- 工程价值:适合作为技术选型入门索引
- 分类标签:
AI应用企业级技术栈Spring AI框架选型
3. 多模态 RAG 系统解析
- 标题:一文读懂:从RAG到多模态RAG
- 作者:youmaob
- URL:https://blog.csdn.net/youmaob/article/details/143257106
- 质量评级:⭐⭐⭐⭐
- 版本:2024-10 原文,2026-07-19 被重新推荐
- 核心内容:
- 多模态 RAG 技术原理:多模态编码器 + 向量检索 + 多模态 LLM 综合
- 数据摄取 → 查询处理 → 生成响应三阶段
- 模态对齐与跨模态理解挑战
- 分类标签:
多模态RAGRAG技术原理
4. LangChain 生产级对话框架手把手实现
- 标题:爆款!从零手写 LangChain 生产级对话框架,兼容 GPT/DeepSeek,实现多轮记忆 + 上下文截断 + 钉钉 AI 客服
- 平台:DeepSeek 技术社区(CSDN 子站)
- URL:https://deepseek.csdn.net(对应文章在 DeepSeek 社区)
- 质量评级:⭐⭐⭐⭐
- 工程价值:有完整代码、可直接商用;修复了钉钉 43002 POST 报错
- 复现价值:高(有源码、有排障经验)
- 分类标签:
LangChain生产级对话框架DeepSeek企业落地
5. 推理引擎深度横评(知乎 → CSDN 转载)
- 标题:五大主流大模型推理引擎深度解析:llama.cpp、vLLM、SGLang、DeepSpeed、Unsloth
- 作者:qq_40999403
- URL:https://blog.csdn.net/qq_40999403/article/details/148424108
- 质量评级:⭐⭐⭐⭐
- 核心对比维度:性能、易用性、适用场景、硬件需求、部署方式、系统支持
- 表格对比:SGLang / Ollama / vLLM / LLaMA.cpp 四框架
- 工程价值:框架选型参考表,适合直接引用
📌 Substack 高价值条目
1. AIxFunda Weekly Updates(多个Week)
- 作者/专栏:Kalyan KS · AIxFunda
- 可信度:高(持续更新 6+ 个月,覆盖 AI/LLM/RAG/Agent 全领域)
- 本周重要条目(Feb-Apr Week 2026):
| 发布 | 模型/框架 | 关键信息 | 需核验 |
|---|---|---|---|
| Apr W1 2026 | Qwen3.5-Omni | 阿里原生多模态,实时交互,113语言,HuggingFace 有 demo | 核验 benchmark |
| Apr W1 2026 | llama.cpp | GitHub 100k stars,GGUF 生态成熟 | 核验最新量化支持 |
| Apr W1 2026 | LFM2.5-350M (LiquidAI) | 350M 参数,RL 训练,Tool Use 提升 44% | 核验原始论文 |
| Mar W4 2026 | GLM-5.1 (Z.ai) | Coding benchmark 45.3 vs Claude Opus 47.9 | 核验 benchmark 来源 |
| Mar W4 2026 | MolmoWeb (Ai2) | 开源视觉 Web Agent,4B/8B,基于截图导航浏览器 | 核验 demo |
| Mar W3 2026 | Mistral Small 4 | 统一 Magistral + Pixtral + Devstral,Apache 2.0 | 核验许可证 |
| Mar W2 2026 | Gemini Embedding 2 | 统一多模态向量空间(text/image/video/audio/PDF) | 核验 API 文档 |
| Mar W2 2026 | vLLM Hook v0 | 可编程 vLLM 内部钩子 | 核验 GitHub |
| Mar W1 2026 | Speculative Speculative Decoding | Together AI + 斯坦福,H100 上 2x 加速 Llama-3 70B | 核验原始论文 |
| Feb W1 2026 | OpenAI Responses API WebSocket | 减少 40% 开销,20+ tool calls 场景 | 核验 Vercel 集成报告 |
- 值得深入:vLLM Hook v0(内核可编程性)、Speculative Speculative Decoding(工程实现细节)
- 订阅源链接:
- https://aixfunda.substack.com/p/top-llm-rag-and-agent-updates-of(Feb W1)
- https://aixfunda.substack.com/p/top-llm-rag-and-agent-updates-of-c14(Mar W2)
- https://aixfunda.substack.com/p/top-llm-rag-and-agent-updates-of-222(Mar W4)
- https://aixfunda.substack.com/p/top-llm-rag-and-agent-updates-of-0d2(Apr W1)
2. Future AGI · LLM 评估工具完全指南(2026)
- 标题:The Complete Guide to LLM Evaluation Tools in 2026
- 作者:Future AGI · Substack
- URL:https://futureagi.substack.com/p/the-complete-guide-to-llm-evaluation
- 可信度:中高(详细评测 Future AGI、Galileo、Arize AI、MLflow)
- 核心评估框架对比:RAG 评估、LLM-as-Judge、多模态评估
- 后续行动:可考虑整合进 RAG/Agent 评估主题页
3. Outcome School · AI Agent 完整系列
- 标题:AI Agent, Memory, ReAct, RAG, Multi-Agent
- 作者:Outcome School · Substack
- URL:https://outcomeschool.substack.com/p/ai-agent-memory-react-rag-multi-agent
- 可信度:中(系统化讲解,ReAct 20行 Python 实现、Agentic RAG 详解)
- 核心内容:
- ReAct Agent = LLM + Tools + 循环(Think-Act-Observe)
- Agentic RAG = RAG + Agent 循环控制检索步骤(ReAct-Style / Self-RAG / CRAG)
- Multi-Agent 三大支柱:专门化 Agent + 通信方式 + 协调机制
- 后续行动:可作为 AI Agent 主题页结构参考
4. LightRAG + Multimodal RAG 实战
- 标题:LightRAG (Upgraded) + Multimodal RAG Just Revolutionized AI Forever
- 作者:gaodalie · Substack
- URL:https://gaodalie.substack.com/p/lightrag-upgraded-multimodal-rag
- 可信度:中(实战 demo,包含 RAG-Anything 系统架构)
- 核心技术:
- MinerU 2.0 文档结构化解析
- Image Modal Processor + Table Modal Processor
- 跨模态知识构建
- 后续行动:需要核验 RAG-Anything GitHub 仓库状态
📌 非 CSDN 高价值(可引用)
PPIO 推理引擎演进史
- 标题:大模型推理成本每年降低10倍的秘密——vLLM、SGLang等主流推理引擎深度解析
- 平台:PPIO 官方博客
- URL:https://ppio.com/blogs/post/da-mo-xing-tui-li-cheng-ben-mei-nian-jiang-di-10bei-de-mi-mi-yi-wen-liao-jie-vllm-sglangdeng-zhu-liu-tui-li-yin-qing
- 质量评级:⭐⭐⭐⭐⭐(工业界视角,脉络清晰)
- 核心价值:
- 推理引擎演进完整历史:Transformers → TGI → vLLM → TensorRT-LLM → llama.cpp
- PagedAttention 原理详解
- Continuous Batching 成为业界标配的过程
- DeepSeek 开源策略(贡献 vLLM/SGLang 而非自建生态)
- 分类标签:
推理引擎vLLMSGLangDeepSeek行业分析
阿里云 PAI · DeepSeek-R1 蒸馏模型微调
- 标题:一键微调 DeepSeek-R1 蒸馏模型
- 平台:阿里云官方文档
- URL:https://help.aliyun.com/zh/pai/use-cases/one-click-fine-tuning-of-deepseek-r1-distill-models
- 质量评级:⭐⭐⭐⭐⭐(官方文档,生产级)
- 版本信息:
- 支持 6 个蒸馏模型(Qwen 1.5B~70B)
- 最低配置:A10 24GB(1B/7B/8B 模型)
- 工程价值:超参说明详细(LoRA+/LoRA 对比、lorap_lr_ratio 说明)
- 精读建议:值得整合进 DeepSeek 微调主题页
📌 本次未收录说明
| 条目 | 原因 |
|---|---|
| CSDN 2026年大模型技术栈全解析帖子帖(CSDN每日值得看合集) | 内容为每日资讯摘录合集,非原创深度,无源码/无版本/无复现过程 |
| CSDN 爆款 LangChain 手写框架(需验证原帖链接) | 已在 DeepSeek 社区找到,但需确认是否为同一篇/作者是否一致 |
| 各"小白入门AI Agent"类路线文章 | 路线图性质,无具体技术深度,不符合 CSDN 高价值筛选标准 |
📋 建议写入路径
主题页建议:
- topics/inference-engines-vllm-sglang-2026.md — 推理引擎主题(更新 SGLang 0.4 + DeepSeek FP8 部分)
- topics/deepseek-finetuning-production.md — DeepSeek 微调主题(补充阿里云 PAI 官方文档超参细节)
精读优先级: 1. PPIO 推理引擎演进史(行业脉络) 2. vLLM/SGLang 对比指南(Gaga246,CSDN) 3. 阿里云 PAI DeepSeek-R1 微调(官方,生产级) 4. AIxFunda Mar W2(vLLM Hook、Speculative Decoding) 5. Outcome School Agent 系列(系统化理解)
审稿需求:无特别需要同行审稿的条目,均为公开资料整理
草稿生成时间:2026-07-26 08:20 (UTC) · Jay · 本次检索约 20 个来源,去重后有效条目 14 条