研究知识库草稿 · Jay · 2026-08-05
主题
CSDN 高价值 AI/LLM 技术分享 + Substack 工程技术洞察(第3次/每日)
一、CSDN 高价值条目(严格筛选)
1.1 LLM 微调(含 PEFT / LoRA / QLoRA / LLaMA-Factory)
推荐条目 A
- 标题:LLM大模型 | 指令微调、PEFT高效参数微调
- 来源:CSDN 博客 qq_35812205,2023-06(内容涵盖2025年最新)
- URL:https://blog.csdn.net/qq_35812205/article/details/130443994
- 工程价值:⭐⭐⭐⭐⭐
- 系统梳理预训练→SFT→对齐三阶段范式
- 覆盖 LoRA / QLoRA 原理讲解 + 基于 LLaMA-Factory 的实操指南
- 含环境配置、数据处理、模型训练完整流程
- "先小后大"验证原则实用
- 复现价值:高——有明确命令和环境说明
- 建议分类:Finetuning · PEFT · Engineering · 实操指南
- 可信度:较高(作者码龄较长,有原创内容结构)
推荐条目 B
- 标题:2025年大语言模型(LLM)微调方法最全总结
- 来源:CSDN dzysunshine,2025-02-07,浏览 1.1 万+
- URL:https://blog.csdn.net/dzysunshine/article/details/131590701
- 工程价值:⭐⭐⭐⭐
- RLHF → DPO → RAILF / ReST 方法演进清晰
- 构造排序数据集减少幻觉的启发性建议(用 6B/66B 构造坏样本)
- SFT 与 RLHF 对比分析有价值
- 建议分类:Finetuning · RLHF · DPO · 2025综述
1.2 RAG 检索增强生成(工程实战向)
推荐条目 A
- 标题:RAG 检索增强生成实战:从 Demo 到生产环境的五个关键优化
- 来源:CSDN 玖日大大,2026-07-04
- URL:https://blog.csdn.net/qq_56999332/article/details/161400644
- 工程价值:⭐⭐⭐⭐⭐
- 明确区分 Demo → 生产环境的五个关键阶段
- 涉及向量数据库选型(Milvus / pgvector)
- 嵌入模型配置、性能调优、故障排查
- 涵盖 AI 大模型语音 RAG 场景
- 复现价值:高——有 Python 代码示例
- 建议分类:RAG · Production · Engineering · 向量检索
- 审稿建议:建议交叉验证向量库选型部分与 2026 年新版工具兼容性
推荐条目 B
- 标题:Spring AI RAG 实战:RetrievalAugmentationAdvisor 和 RetrievalRerankAdvisor 双顾问模式
- 来源:CSDN weixin_42531925,2025-04-12
- URL:https://blog.csdn.net/alyenc/article/details/146947644
- 工程价值:⭐⭐⭐⭐
- Spring AI 框架下企业级 RAG 架构设计
- 双顾问模式(检索增强 + 重排序)的生产配置策略
- 预检索→检索→后处理→生成四大环节模块化解析
- 建议分类:RAG · Spring AI · Enterprise · Reranker
推荐条目 C
- 标题:RAG 从入门到精通:让大模型真正"懂业务"(含流程图+实战代码)
- 来源:智能体开发者社区(adg.csdn.net),作者胡玉洋
- URL:https://adg.csdn.net/69708438437a6b40336a8439.html
- 工程价值:⭐⭐⭐⭐
- 完整 RAG 流程图(文档→预处理→切分→向量化→检索→生成)
- 为什么需要切片、为什么用向量搜索而非 SQL/ES 的工程解释
- 含完整 Python 代码
- 建议分类:RAG · 入门教程 · Engineering · 向量检索
1.3 AI Agent / LangChain
推荐条目 A
- 标题:LangChain智能体开发(保姆级教程)从零玩转核心概念
- 来源:智能体开发者社区(adg.csdn.net)
- URL:https://adg.csdn.net/696f3918437a6b403369b1fc.html
- 工程价值:⭐⭐⭐⭐
- RunnableLambda 自定义组件的实操代码
- partial() 填充提示词占位符的用法解析
- RunnableGenerator vs RunnableLambda 的流式输出选择
- 代码注释丰富,适合 LangChain 1.0 前的版本学习
- 建议分类:LangChain · Agent · Engineering · 教程
- 审稿建议:注意确认与 LangChain 1.0 最新 API 差异
1.4 MLOps / 大模型部署(vLLM / Ollama / LMDeploy)
推荐条目 A
- 标题:2025大语言模型部署实战指南:从个人开发到企业落地全栈方案
- 来源:阿里云开发者社区(高权重来源)
- URL:https://developer.aliyun.com/article/1674528
- 工程价值:⭐⭐⭐⭐⭐
- Ollama / llama.cpp / vLLM / LM Studio 四方案横向对比
- vLLM Continuous Batching + PagedAttention 核心科技解析
- llama.cpp AVX2/NEON 指令集加速,GTX 1060 跑 13B 示例
- 混合部署实战案例(高峰期节省68%云计算成本)
- 趋势预警:边缘智能、RISC-V、IoT大模型化
- 建议分类:MLOps · Inference · vLLM · llama.cpp · Deployment
- 可信度:高(阿里云官方社区,内容系统完整)
推荐条目 B
- 标题:大模型实战:下载开源模型 + vLLM 部署 + Ollama 对比
- 来源:CSDN Wufjsjjx
- URL:https://blog.csdn.net/Wufjsjjx/article/details/156791762
- 工程价值:⭐⭐⭐⭐⭐(本轮最高工程价值条目)
- CPU 上 vLLM 部署的完整命令(vLLM 0.3.3 + 强制 CPU 模式)
- 解决 DeepSeek-R1-Distill-Qwen-1.5B CPU 不可用问题
- 详细环境变量配置:VLLM_DEVICE=cpu, CUDA_VISIBLE_DEVICES="", VLLM_ATTENTION_BACKEND=torch
- huggingface-cli download 模型完整命令
- 有 Open WebUI 接入步骤
- 建议分类:vLLM · CPU Inference · Deployment · Engineering
- 精读建议:✅ 必读,命令可复制验证
推荐条目 C
- 标题:对于企业私有大模型DeepSeek的部署,应该选择Ollama还是vLLM?
- 来源:腾讯云开发者社区
- URL:https://cloud.tencent.com/developer/article/2505492
- 工程价值:⭐⭐⭐⭐
- 企业级选型决策框架(开发测试用 Ollama,生产用 vLLM)
- 五维度横向对比:核心定位 / 技术特点 / 适用场景 / 性能 / 生态
- 吞吐量、延迟、资源占用的量化对比
- 建议分类:MLOps · Decision Framework · Ollama vs vLLM
1.5 多模态大模型
推荐条目 A
- 标题:【论文阅读】A Survey on Multimodal Large Language Models
- 来源:CSDN weixin_42475060
- URL:https://blog.csdn.net/weixin_42475060/article/details/147985504
- 工程价值:⭐⭐⭐
- MLLM 三阶段方法论(表示对齐→指令微调→多模态融合)
- 当前瓶颈:幻觉、长上下文解决思路梳理
- 综述性质,学术价值高于工程价值
- 建议分类:Multimodal · Survey · 学术综述
二、Substack 高价值条目
2.1 Agentic AI / Memory / Context Engineering
推荐条目 A
- 标题:The Untold Pains About Building AI Agents On Production
- 作者:Alejandro Aboy,The Pipe & The Line
- URL:https://thepipeandtheline.substack.com/p/the-untold-pains-about-building-ai
- 发布日期:2026-01(新鲜度高)
- 核心洞察:
1. 生产级 Agent 的五大痛点:RAG 过度设计、模型更新破坏 Agent、观测性实现、安全问题
2. Agno 框架 + PgVector + Aurora 的 RAG 实现方案
3. 模型版本更新对 Agent 行为的影响("模型更新会破坏你的 Agent")
4. Observability 在 AI Agent 领域的具体落地方式
- 可信度:高(作者有真实生产环境经验,非 Demo 级)
- 建议分类:Agent · Production · Engineering · MLOps
- 后续行动:建议核实 Agno 框架具体用法,查阅其 GitHub 仓库
2.2 Enterprise AI / Agentic RAG / LangChain Ecosystem
推荐条目 A
- 标题:The State of Enterprise AI Training 2025
- 作者:Jake Van Cleef(Clief Notes)
- URL:https://jakevanclief.substack.com/p/the-state-of-enterprise-ai-training
- 发布日期:2025-09
- 核心洞察:
1. Agentic RAG = 多源检索 + 动态查询重构 + 多跳推理 + 自修正
2. Agent Memory 四类:短时/长时/语义/情景记忆
3. LangChain/LangGraph 生态数据:1M+ 开发者,35% 财富500强
4. LlamaParse 处理 90+ 非结构化文件类型(含嵌套表格)
5. 评估工具链:LangSmith / Arize AI / Azure AI Foundry
- 可信度:较高(行业数据有来源,企业级视角)
- 建议分类:Enterprise AI · Agentic RAG · Ecosystem · Survey
- 后续行动:与 Jimmy Song LangChain 1.0 笔记交叉验证
2.3 LangChain 1.0 深度解析
推荐条目 A
- 标题:使用 LangChain 构建智能体
- 作者:Jimmy Song
- URL:https://jimmysong.io/zh/book/ai-handbook/agent/langchain
- 发布日期:2025(持续更新)
- 核心洞察:
1. LangChain 1.0 = LangChain 高层接口 + LangGraph 底层运行时融合
2. 四大设计目标:稳定性、标准化、高性能、易用性/灵活性兼顾
3. 35% 世界五百强使用,月下载 9000 万次
4. FastAPI 包装 LangChain Agent 的 /invoke 和 /stream 双端点实现
5. 异步生成器逐步推送(yield)实现流式输出
- 可信度:高(Jimmy Song 是知名云原生/Kubernetes 技术作者)
- 建议分类:LangChain · LangGraph · Agent · Engineering
- 后续行动:可与 CSDN LangChain 保姆级教程交叉对比 1.0 差异
2.4 AI Security / OWASP Top 10
推荐条目 A
- 标题:OWASP Top 10 Agents & AI Vulnerabilities (2026 Cheat Sheet)
- 作者:Alex Ewerlöf
- URL:https://open.substack.com/pub/alexewerlof/p/owasp-top-10-ai-llm-agents
- 发布日期:2026-01
- 核心洞察:
1. Charity Majors 观点:AI engineering = distributed systems engineering with unreliable component
2. LLM04 数据和模型投毒、LLM05 盲目执行输出(eval() 风险)
3. LLM06 Excessive Agency 的最小权限+JIT临时令牌缓解方案
4. LLM08 向量检索命名空间隔离的加密实施
- 建议分类:Security · OWASP · Agent · LLM
- 后续行动:可整合进 Agent 安全评测主题页
三、分类标签汇总
| 标签 | 条目数 | 代表条目 |
|---|---|---|
| RAG | 4 | 生产优化 / Spring AI / 入门实战 |
| LangChain | 2 | 1.0深度解析 / 保姆级教程 |
| Agent | 4 | 生产痛点 / Enterprise AI / OWASP |
| Finetuning | 2 | LLaMA-Factory / RLHF-DPO |
| MLOps | 3 | vLLM CPU命令 / Ollama选型 / 阿里云部署指南 |
| Multimodal | 1 | MLLM Survey |
| Security | 1 | OWASP Top 10 Agents |
| Inference | 2 | vLLM / llama.cpp |
| Vector-DB | 2 | Milvus/pgvector / LlamaParse |
四、建议写入路径
- 主要草稿:
/shared/research-kb/inbox/jay/2026-08-05-csdn-substack-llm-rag-agent-mlops-highvalue.md - 去重参考(检查过):
2026-06-10-llm-finetuning-rag.md2026-06-11-csdn-rag-sourcecode-mlops-substack.md2026-06-11-evening-vllm-sglang-quantization-moe.md2026-06-11-agent-eval-production-engineering.md
五、后续行动建议
-
精读(⭐⭐⭐⭐⭐ 工程价值): - CSDN vLLM CPU 部署命令条目(
Wufjsjjx)——可验证复现 - 阿里云部署指南——四框架横向对比 -
审稿(需核实最新版本): - CSDN LangChain 保姆级教程(确认与 LangChain 1.0 API 差异) - Reranker 双顾问模式(2025-04 文章,注意框架版本更新)
-
主题页更新建议: - 新增 "Agent 生产工程" 主题页,整合 Aboy 的生产痛点 + OWASP 安全清单 - 更新 "LLM 部署工具选型" 页面,纳入 CPU vLLM 场景
-
论文/代码核验: - Substack 提到的 Agno 框架 → 查 GitHub 仓库最新状态 - LlamaParse 90+ 文件格式 → 查官方文档最新支持列表