研究知识库草稿 · Jay · 2026-08-05

主题

CSDN 高价值 AI/LLM 技术分享 + Substack 工程技术洞察(第3次/每日)


一、CSDN 高价值条目(严格筛选)

1.1 LLM 微调(含 PEFT / LoRA / QLoRA / LLaMA-Factory)

推荐条目 A - 标题:LLM大模型 | 指令微调、PEFT高效参数微调 - 来源:CSDN 博客 qq_35812205,2023-06(内容涵盖2025年最新) - URLhttps://blog.csdn.net/qq_35812205/article/details/130443994 - 工程价值:⭐⭐⭐⭐⭐ - 系统梳理预训练→SFT→对齐三阶段范式 - 覆盖 LoRA / QLoRA 原理讲解 + 基于 LLaMA-Factory 的实操指南 - 含环境配置、数据处理、模型训练完整流程 - "先小后大"验证原则实用 - 复现价值:高——有明确命令和环境说明 - 建议分类:Finetuning · PEFT · Engineering · 实操指南 - 可信度:较高(作者码龄较长,有原创内容结构)


推荐条目 B - 标题:2025年大语言模型(LLM)微调方法最全总结 - 来源:CSDN dzysunshine,2025-02-07,浏览 1.1 万+ - URLhttps://blog.csdn.net/dzysunshine/article/details/131590701 - 工程价值:⭐⭐⭐⭐ - RLHF → DPO → RAILF / ReST 方法演进清晰 - 构造排序数据集减少幻觉的启发性建议(用 6B/66B 构造坏样本) - SFT 与 RLHF 对比分析有价值 - 建议分类:Finetuning · RLHF · DPO · 2025综述


1.2 RAG 检索增强生成(工程实战向)

推荐条目 A - 标题:RAG 检索增强生成实战:从 Demo 到生产环境的五个关键优化 - 来源:CSDN 玖日大大,2026-07-04 - URLhttps://blog.csdn.net/qq_56999332/article/details/161400644 - 工程价值:⭐⭐⭐⭐⭐ - 明确区分 Demo → 生产环境的五个关键阶段 - 涉及向量数据库选型(Milvus / pgvector) - 嵌入模型配置、性能调优、故障排查 - 涵盖 AI 大模型语音 RAG 场景 - 复现价值:高——有 Python 代码示例 - 建议分类:RAG · Production · Engineering · 向量检索 - 审稿建议:建议交叉验证向量库选型部分与 2026 年新版工具兼容性


推荐条目 B - 标题:Spring AI RAG 实战:RetrievalAugmentationAdvisor 和 RetrievalRerankAdvisor 双顾问模式 - 来源:CSDN weixin_42531925,2025-04-12 - URLhttps://blog.csdn.net/alyenc/article/details/146947644 - 工程价值:⭐⭐⭐⭐ - Spring AI 框架下企业级 RAG 架构设计 - 双顾问模式(检索增强 + 重排序)的生产配置策略 - 预检索→检索→后处理→生成四大环节模块化解析 - 建议分类:RAG · Spring AI · Enterprise · Reranker


推荐条目 C - 标题:RAG 从入门到精通:让大模型真正"懂业务"(含流程图+实战代码) - 来源:智能体开发者社区(adg.csdn.net),作者胡玉洋 - URLhttps://adg.csdn.net/69708438437a6b40336a8439.html - 工程价值:⭐⭐⭐⭐ - 完整 RAG 流程图(文档→预处理→切分→向量化→检索→生成) - 为什么需要切片、为什么用向量搜索而非 SQL/ES 的工程解释 - 含完整 Python 代码 - 建议分类:RAG · 入门教程 · Engineering · 向量检索


1.3 AI Agent / LangChain

推荐条目 A - 标题:LangChain智能体开发(保姆级教程)从零玩转核心概念 - 来源:智能体开发者社区(adg.csdn.net) - URLhttps://adg.csdn.net/696f3918437a6b403369b1fc.html - 工程价值:⭐⭐⭐⭐ - RunnableLambda 自定义组件的实操代码 - partial() 填充提示词占位符的用法解析 - RunnableGenerator vs RunnableLambda 的流式输出选择 - 代码注释丰富,适合 LangChain 1.0 前的版本学习 - 建议分类:LangChain · Agent · Engineering · 教程 - 审稿建议:注意确认与 LangChain 1.0 最新 API 差异


1.4 MLOps / 大模型部署(vLLM / Ollama / LMDeploy)

推荐条目 A - 标题:2025大语言模型部署实战指南:从个人开发到企业落地全栈方案 - 来源:阿里云开发者社区(高权重来源) - URLhttps://developer.aliyun.com/article/1674528 - 工程价值:⭐⭐⭐⭐⭐ - Ollama / llama.cpp / vLLM / LM Studio 四方案横向对比 - vLLM Continuous Batching + PagedAttention 核心科技解析 - llama.cpp AVX2/NEON 指令集加速,GTX 1060 跑 13B 示例 - 混合部署实战案例(高峰期节省68%云计算成本) - 趋势预警:边缘智能、RISC-V、IoT大模型化 - 建议分类:MLOps · Inference · vLLM · llama.cpp · Deployment - 可信度:高(阿里云官方社区,内容系统完整)


推荐条目 B - 标题:大模型实战:下载开源模型 + vLLM 部署 + Ollama 对比 - 来源:CSDN Wufjsjjx - URLhttps://blog.csdn.net/Wufjsjjx/article/details/156791762 - 工程价值:⭐⭐⭐⭐⭐(本轮最高工程价值条目) - CPU 上 vLLM 部署的完整命令(vLLM 0.3.3 + 强制 CPU 模式) - 解决 DeepSeek-R1-Distill-Qwen-1.5B CPU 不可用问题 - 详细环境变量配置:VLLM_DEVICE=cpu, CUDA_VISIBLE_DEVICES="", VLLM_ATTENTION_BACKEND=torch - huggingface-cli download 模型完整命令 - 有 Open WebUI 接入步骤 - 建议分类:vLLM · CPU Inference · Deployment · Engineering - 精读建议:✅ 必读,命令可复制验证


推荐条目 C - 标题:对于企业私有大模型DeepSeek的部署,应该选择Ollama还是vLLM? - 来源:腾讯云开发者社区 - URLhttps://cloud.tencent.com/developer/article/2505492 - 工程价值:⭐⭐⭐⭐ - 企业级选型决策框架(开发测试用 Ollama,生产用 vLLM) - 五维度横向对比:核心定位 / 技术特点 / 适用场景 / 性能 / 生态 - 吞吐量、延迟、资源占用的量化对比 - 建议分类:MLOps · Decision Framework · Ollama vs vLLM


1.5 多模态大模型

推荐条目 A - 标题:【论文阅读】A Survey on Multimodal Large Language Models - 来源:CSDN weixin_42475060 - URLhttps://blog.csdn.net/weixin_42475060/article/details/147985504 - 工程价值:⭐⭐⭐ - MLLM 三阶段方法论(表示对齐→指令微调→多模态融合) - 当前瓶颈:幻觉、长上下文解决思路梳理 - 综述性质,学术价值高于工程价值 - 建议分类:Multimodal · Survey · 学术综述


二、Substack 高价值条目

2.1 Agentic AI / Memory / Context Engineering

推荐条目 A - 标题:The Untold Pains About Building AI Agents On Production - 作者:Alejandro Aboy,The Pipe & The Line - URLhttps://thepipeandtheline.substack.com/p/the-untold-pains-about-building-ai - 发布日期:2026-01(新鲜度高) - 核心洞察: 1. 生产级 Agent 的五大痛点:RAG 过度设计、模型更新破坏 Agent、观测性实现、安全问题 2. Agno 框架 + PgVector + Aurora 的 RAG 实现方案 3. 模型版本更新对 Agent 行为的影响("模型更新会破坏你的 Agent") 4. Observability 在 AI Agent 领域的具体落地方式 - 可信度:高(作者有真实生产环境经验,非 Demo 级) - 建议分类:Agent · Production · Engineering · MLOps - 后续行动:建议核实 Agno 框架具体用法,查阅其 GitHub 仓库


2.2 Enterprise AI / Agentic RAG / LangChain Ecosystem

推荐条目 A - 标题:The State of Enterprise AI Training 2025 - 作者:Jake Van Cleef(Clief Notes) - URLhttps://jakevanclief.substack.com/p/the-state-of-enterprise-ai-training - 发布日期:2025-09 - 核心洞察: 1. Agentic RAG = 多源检索 + 动态查询重构 + 多跳推理 + 自修正 2. Agent Memory 四类:短时/长时/语义/情景记忆 3. LangChain/LangGraph 生态数据:1M+ 开发者,35% 财富500强 4. LlamaParse 处理 90+ 非结构化文件类型(含嵌套表格) 5. 评估工具链:LangSmith / Arize AI / Azure AI Foundry - 可信度:较高(行业数据有来源,企业级视角) - 建议分类:Enterprise AI · Agentic RAG · Ecosystem · Survey - 后续行动:与 Jimmy Song LangChain 1.0 笔记交叉验证


2.3 LangChain 1.0 深度解析

推荐条目 A - 标题:使用 LangChain 构建智能体 - 作者:Jimmy Song - URLhttps://jimmysong.io/zh/book/ai-handbook/agent/langchain - 发布日期:2025(持续更新) - 核心洞察: 1. LangChain 1.0 = LangChain 高层接口 + LangGraph 底层运行时融合 2. 四大设计目标:稳定性、标准化、高性能、易用性/灵活性兼顾 3. 35% 世界五百强使用,月下载 9000 万次 4. FastAPI 包装 LangChain Agent 的 /invoke 和 /stream 双端点实现 5. 异步生成器逐步推送(yield)实现流式输出 - 可信度:高(Jimmy Song 是知名云原生/Kubernetes 技术作者) - 建议分类:LangChain · LangGraph · Agent · Engineering - 后续行动:可与 CSDN LangChain 保姆级教程交叉对比 1.0 差异


2.4 AI Security / OWASP Top 10

推荐条目 A - 标题:OWASP Top 10 Agents & AI Vulnerabilities (2026 Cheat Sheet) - 作者:Alex Ewerlöf - URLhttps://open.substack.com/pub/alexewerlof/p/owasp-top-10-ai-llm-agents - 发布日期:2026-01 - 核心洞察: 1. Charity Majors 观点:AI engineering = distributed systems engineering with unreliable component 2. LLM04 数据和模型投毒、LLM05 盲目执行输出(eval() 风险) 3. LLM06 Excessive Agency 的最小权限+JIT临时令牌缓解方案 4. LLM08 向量检索命名空间隔离的加密实施 - 建议分类:Security · OWASP · Agent · LLM - 后续行动:可整合进 Agent 安全评测主题页


三、分类标签汇总

标签 条目数 代表条目
RAG 4 生产优化 / Spring AI / 入门实战
LangChain 2 1.0深度解析 / 保姆级教程
Agent 4 生产痛点 / Enterprise AI / OWASP
Finetuning 2 LLaMA-Factory / RLHF-DPO
MLOps 3 vLLM CPU命令 / Ollama选型 / 阿里云部署指南
Multimodal 1 MLLM Survey
Security 1 OWASP Top 10 Agents
Inference 2 vLLM / llama.cpp
Vector-DB 2 Milvus/pgvector / LlamaParse

四、建议写入路径

  • 主要草稿/shared/research-kb/inbox/jay/2026-08-05-csdn-substack-llm-rag-agent-mlops-highvalue.md
  • 去重参考(检查过):
  • 2026-06-10-llm-finetuning-rag.md
  • 2026-06-11-csdn-rag-sourcecode-mlops-substack.md
  • 2026-06-11-evening-vllm-sglang-quantization-moe.md
  • 2026-06-11-agent-eval-production-engineering.md

五、后续行动建议

  1. 精读(⭐⭐⭐⭐⭐ 工程价值): - CSDN vLLM CPU 部署命令条目(Wufjsjjx)——可验证复现 - 阿里云部署指南——四框架横向对比

  2. 审稿(需核实最新版本): - CSDN LangChain 保姆级教程(确认与 LangChain 1.0 API 差异) - Reranker 双顾问模式(2025-04 文章,注意框架版本更新)

  3. 主题页更新建议: - 新增 "Agent 生产工程" 主题页,整合 Aboy 的生产痛点 + OWASP 安全清单 - 更新 "LLM 部署工具选型" 页面,纳入 CPU vLLM 场景

  4. 论文/代码核验: - Substack 提到的 Agno 框架 → 查 GitHub 仓库最新状态 - LlamaParse 90+ 文件格式 → 查官方文档最新支持列表