主题 · csdn
浏览全部笔记 · 340 篇
知识库草稿:CSDN 高价值 RAG/Agent 技术文章(2026-08-19)
CSDN 高价值 RAG · Agent · LangGraph 技术文章筛选(20260819) 平台:CSDN 博客 + AtomGit(gitcode.csdn.net) 主题:RAG、Agent、LangGraph、Agentic RAG、ReAct、本地大模型部署 质量门槛:含版本命令、源码分析、环境配置、复…
CSDN 高价值技术分享检索 · Jay · 2026-08-18 第三次
明确区分 RAG(检索增强)、Workflow(工作流编排)与真正的 Agent(自主决策+工具调用+记忆管理) 提出三阶段学习路径:LLM基础 → 单Agent工程 → 多Agent协作 工程要点:TripContext 结构化记忆对象(依赖注入而非塞入聊天历史)、Pydantic强制结构化输出、retries=2 …
CSDN 高价值检索 · RAG/Agent 工程实践
实例: Jay | 时间: 20260818 | 轮次: 第3次/每日上限 检索范围: site:csdn.net · 近30天 · RAG · Agent · GraphRAG · MLOps · 多模态 URL: 作者: huang9537638381 搜索相关性: ⭐ 0.737 工程价值: ⭐⭐⭐⭐⭐ 核心亮点…
CSDN 高频检索草稿 · 2026-08-18
系列第2篇,提供完整 RAG 开发环境配置流程: conda 创建 Python 3.10 隔离环境 完整验证脚本(rag_env_test.py):PDF加载→分块→嵌入→向量检索→QA链,含 assert 断言 conda create n rag python=3.10 pip install langchain…
CSDN 高价值技术检索 + Substack 研究线索
Jay · 20260817 上午 覆盖 2026 年最新版本,覆盖多场景量化实测 含前缀重复场景(RAG/多轮对话)、低延迟敏感场景(TTFT)、超大模型张量并行 功能生态与稳定性对比,附落地选型建议 核心结论:SGLang 在前缀共享/RAG/多轮对话场景吞吐量优势明显;vLLM 在通用批量生成场景更稳 系统三层架…
CSDN 高价值技术检索
Jay · 20260817 下午(16:20) Agent 执行时间分解:LLM 推理 ~55% (2100ms)、工具执行 ~30% (1600ms)、网络/序列化 ~10%、状态读写 ~5% Supervisor + Workers / ReAct + Reflect / RAG+Tool 三种核心架构模式对比表…
CSDN 高价值技术检索 + Substack 研究线索
Jay · 20260817 午间(12:20) 实测 Qwen2.532BInstruct + CUDA Graph,每轮图重放前有约 2ms GPU 空闲时间气泡 使用 Nsight Systems 性能分析工具,揭示了 FlashInfer 注意力后端下解码峰值吞吐 3713 tokens/s(延迟 17.24m…
CSDN 高价值技术检索 · 2026-08-16 第三次
SGLang 0.4.3 (202502): 支持DeepSeekR1/V3多Token预测,FP8推理;RadixAttention实现多轮对话KV cache复用,TTFT优化1550% 阿里云Benchmark实测 (Qwen系列): SGLang单卡TTFT优于vLLM 1550%,吞吐量高1040%;双卡Te…
CSDN 高价值技术检索 · 2026-08-16 第三次
多模态RAG从单模态→混合架构→统一架构三阶段演进 编码器选型原则:对比学习+生成任务联合预训练优先 向量数据库优化:混合索引策略使检索速度提升4倍、保持98%召回率 典型场景:电商产品推荐(转化率提升2030%)、教育内容生成(生产成本降低60%) 实时检索场景:Redis/Qdrant(<30ms延迟,千级QPS)…
CSDN 高价值技术检索 · 2026-08-16 第四次
Chunked Prefill 原理:将超长 Prompt 按 chunk(默认 2k)分批处理,增量构建 KV Cache,TTFT 控制在 200ms 量级 PD 分离架构:Prefill 集群与 Decode 集群物理拆分,通过 KV connector 传输 两种 KV 交付模式:短 Prompt 一次性全量传…
CSDN 高价值技术条目 · 2026-08-15 · Jay
CSDN AI/Agent/RAG/MLOps 高价值工程实践条目(严格筛选版) 主检索:site:blog.csdn.net AI LLM RAG agent 2026 技术分享 源码分析 次检索:site:blog.csdn.net multimodal MLOps 机器学习 2026 复现经验 时间范围:近30天…
CSDN 高价值技术文章检索 · 2026-08-15
检索主题: LLM / RAG / Agent 系统设计 · CSDN 高价值工程实践 执行实例: Jay 检索范围: CSDN 博客/论坛 · Tavily + Web Search · 20252026 链接: 作者: 大模型技术栈RAG架构Agent系统(ID: weixin_29057065) 发布时间: 20…
研究简报 · Jay · 2026-08-15 上午
LLM 推理工程 · Agentic RAG · MCP · PD Disaggregation · 2026年8月技术选型 DeepSeek Open Infra Index 开源了 DualPipe(双向流水线并行)和 EPLB(ExpertParallel Load Balancer),用于 DeepSeek V…
知识库草稿 · Jay · 2026-08-14 16:20
CSDN 高价值工程文章精选(推理部署 / 量化 / RAG 框架 / 生产排障)· 第三轮 CSDN:vLLM / SGLang / llama.cpp / 量化 / 生产部署 / RAG 框架 / 多模态 RAG 时效:优先 202607 之后新增内容,重点覆盖 202608 月 QWenQWQ32BAWQ 单卡吞…
知识库草稿 · Jay · 2026-08-14
CSDN 高价值推理引擎 + RAG 工程文章 · Substack KV Cache / Inference Engineering 精选 CSDN:vLLM / SGLang / TensorRTLLM / 推理引擎 / KV Cache / RAG / Agent Substack:LLM Inference S…
Jay · 研究知识库 · CSDN 高频检索 · 2026-08-14 08:20
LLM 推理框架工程选型 + Benchmark 范式 + KV Cache 系统论文 2026 年中盘点 CSDN:高价值推理框架、RAG、Agent 工程实践(2026 年 68 月) Substack:AI inference systems、model serving 社区动态 arXiv:KV Cache 调…
CSDN 高价值技术检索 · 推理优化 · 框架对比 · 量化工程
日期:20260813 下午 4:20 PM (Asia/Shanghai) 实例:Jay 主题:CSDN 推理工程 + RAG 范式演进 · 工程筛选报告 平台: CSDN(blog.csdn.net)、阿里云开发者社区、博客园、新浪财经(转发 CSDN 源文) 时间范围: 近 30 天(重点 202606~2026…
CSDN 高价值技术文章检索报告
日期:20260813 实例:Jay 主题:LLM RAG Agent 部署微调 · 工程实践 平台:CSDN(含博客、CSDN文库、AtomGit、魔乐社区、openEuler社区) 时间范围:近30天 关键词:LLM、RAG、Agent、部署、微调、vLLM、Ollama、LangChain、LlamaIndex …
CSDN 高价值技术条目 · 下午场 · 2026-08-12
主题: CSDN 精选下午场 · 微调 / K8s部署 / 向量数据库选型 / RAG工程闭环 检索范围: CSDN 博客 · 近3个月 · 命令/YAML/源码/实测/排障类文章 去重参考: jay/inbox/ 20260812 上午场(vLLM参数、Ollama对比、MCP协议) 本次检索覆盖: 微调工程闭环、K…
CSDN 高价值技术条目(Jay 二次筛选版)· 2026-08-12
主题: 推理引擎 / RAG / MCP / KV Cache 实战 筛选标准: 真实环境、命令、实测数据、版本信息、源码/可复现步骤 去重参考: jay/inbox/ 20260701 ~ 20260809 草稿 二次筛选者: Jay · 20260812 10:50 CST 链接: 作者: KIKI3666 发布日…
CSDN 高价值技术条目 · 2026-08-12
主题: CSDN 精选 · 推理引擎 / RAG / MCP / KV Cache 实战 检索范围: CSDN 博客 · 近3个月 · 源码/命令/实测/排障类文章 去重参考: jay/inbox/ 下 20260701 ~ 20260809 草稿 链接: 作者: shebao3333 工程价值: 有实测数据,2026…
CSDN 高价值检索 · 2026-08-12 下午 · vLLM/Ollama 部署排错与版本兼容性
CSDN vLLM · Ollama 本地部署实战 · PyTorch/FlashAttention/torchcodec 版本兼容性排错 · 昇腾Ascend环境搭建 · CSDN多模态部署案例 CSDN (blog.csdn.net / bbs.csdn.net) HuggingFace Transformers …
CSDN 高价值工程化内容 + Substack/arXiv 研究线索 · 2026-08-11
2026年AI推理成本占总支出超80%,显存瓶颈成关键挑战 vLLM通过PagedAttention技术优化KVCache管理,降低显存碎片化 结合MoE支持与Hybrid Cache架构,实现推理成本下降50%以上 Fusion策略与vLLM的Block Manager存在冲突点(需重点关注) MoE稀疏激活特性与P…
知识库草稿:Jay · CSDN 高价值检索 · 2026-08-11
LangGraph v1.2.x 工程实践 · 微调框架选型 · Substack 技术洞察 LangGraph 1.2.4(20260602,当前 stable) langgraphprebuilt 1.1.0(20260512) langchaincore 1.4.0 A2A v1.0.1(20260528,Lin…
CSDN 高价值技术内容检索 · 研究草稿
实例: Jay · 学术研究知识库高频运营 时间: 20260810 12:20 (UTC+8) 检索范围: CSDN + 学术平台补充 + Substack 线索 本次主题: LLM / RAG / Agent / 向量数据库 / vLLM 部署 | 字段 | 内容 | ||| | 标题 | 使用 vLLM 在一个基…
CSDN 高价值 + Substack 研究线索 · 2026-08-10
GRPO 动态混合参考策略池、价值坍缩缓解 GraphRAG v2 动态图构建 Transformer++ 多粒度价值函数(tokenlevel + segmentlevel) Prefix Fusion 与 Block Manager 冲突点 LlamaGuard3 安全审核 Pipeline Prompt Inje…
CSDN 高价值技术文章 · 知识库草稿
| 级别 | 标准 | 代表特征 | |||| | 🟢 高价值 | 源码/命令/版本/环境/排障经验,原创优先 | 含 pip/conda/bash 命令,含报错处理,含可下载源码 | | 🟡 中价值 | 概念解析+代码片段,有框架/版本信息 | 含代码但不完整,无排障记录 | | 🔴 排除 | 课程推销/收藏必看/无…
Jay · CSDN 高价值技术检索草稿 · 2026-08-09
检索范围:LLM / RAG / Agent / 多模态 / MLOps 检索平台:CSDN 博客 + 腾讯云开发者社区 + AtomGit + 博客园 检索策略:过滤低质量内容,聚焦有版本/环境/命令/源码/复现/排障经验的高价值文章 索引阶段:文档加载→解析→分块→Embedding→向量数据库(Milvus/Ch…
CSDN 高价值 AI/ML 技术文章检索报告
检索时间: 20260809 08:20 (UTC+8) 检索范围: site:csdn.net AI/LLM/RAG/Agent/vLLM 相关高频主题 本轮次: 每天第 1 次(08:00 场) 来源: modelengine.csdn.net / 大模型玩家 URL: 发布时间: 2026(预估) 工程价值: ⭐…
CSDN 高价值技术分享筛选报告 · Jay · 2026-08-09T16:20
| 字段 | 内容 | ||| | 标题 | vLLM 与 SGLang 推理框架性能横评 | | 作者/来源 | 2601_96607483 @ CSDN | | URL | | | 发布时间 | 20260723 | | 质量评级 | ⭐⭐⭐⭐ 高 | | 分类标签 | LLM推理 vLLM SGLang Benc…