主题 · csdn
浏览全部笔记 · 340 篇
知识库草稿 · Jay · 2026-08-08
全量微调 vs 增量微调 vs 局部微调的技术对比 LoRA 数学原理:ΔW = B×A,r=16 时参数量从 16M → 131K(减少128倍) ZeRO Stage 1/2/3 分阶段切分模型状态原理 实战:ChatGLM6B + DeepSpeed LoRA 精调代码示例 附 ds_config_zero3.j…
学术知识库草稿 · Jay · 2026-08-08
LLM / AI Agent / RAG / MLOps 工程化 · CSDN高价值条目 + ArXiv + Substack 线索 1. Agent guardrails 从 LLM guardrails 中独立出来——2024 年 guardrails = 输入/输出过滤;2026 年 guardrails = 授…
知识库草稿 · Jay · 2026-08-07
CSDN 高价值 AI/LLM/Agent/RAG 技术分享 + Substack 线索 + arXiv 2026 新动态 模态路由代码骨架:route_modality(user_input, signal) 路由到专用小模型 CUA 商业化路径:客服自动化/数据录入/跨 SaaS/测试自动化 语音链路 Bargei…
知识库草稿 · Jay · 2026-08-06
CSDN 高价值 AI Agent / LLM / RAG 技术分享 + Substack AI 工程化洞察 | 条目 | 来源 | 核心价值 | 工程/复现价值 | 建议分类 | |||||| | 企业级LLM Agent实战:从RAG到业务闭环 (O_Errors_0_Warni) | | 基于LangGraph状…
CSDN 高价值检索 · RAG/LangGraph/Agentic RAG 工程实践
2026 年 8 月初,CSDN 上 RAG 与 Agent 开发类文章呈现三个明显趋势: 1. 从"概念科普"转向"工程避坑":纯概念类文章热度下降,带版本号、命令、源码的实战文章持续受关注 2. Agentic RAG 取代 Naive RAG 成为主流叙事:几乎所有 RAG 文章都在讨论从基础 RAG 向 Age…
Jay · 知识库简报 · 2026-08-05 08:20(第1次/日)
主题: CSDN 推理部署 × Agent框架 × RAG工程 · 2026年8月上旬高频检索 检索范围: CSDN 推理工程高价值文章、腾讯云开发者社区、火山引擎 与已有去重: 8月4日 T1620 已收录昇腾 SGLang/vLLMascend;T1850 已收录向量数据库 benchmark;T1335 已收录 …
研究知识库草稿 · Jay · 2026-08-05
CSDN 高价值 AI/LLM 技术分享 + Substack 工程技术洞察(第3次/每日) 推荐条目 A 系统梳理预训练→SFT→对齐三阶段范式 覆盖 LoRA / QLoRA 原理讲解 + 基于 LLaMAFactory 的实操指南 含环境配置、数据处理、模型训练完整流程 "先小后大"验证原则实用 推荐条目 B R…
CSDN 高价值技术检索 · Jay · 2026-08-05 下午
RAG 解决"知识缺口"、MCP 解决"能力缺口"、Agent 解决"执行缺口"——三者递进而非并列 分片策略经验值:256512 Token/片,重叠 50 Token 两阶段检索:向量召回 → CrossEncoder 重排(bgererankerv2m3 / Cohere Rerank 3.5) MCP Serv…
CSDN 高价值技术条目 · Jay · 2026-08-04 第三次
主题:RAG / Agentic RAG / MLOps / AI Agent / LLM系统 / GraphRAG 平台:CSDN (csdn.net / blog.csdn.net / bbs.csdn.net / adg.csdn.net) 时间:2025–2026,突出2026年内容 混合检索实战代码:BM25…
Jay · 知识库简报 · 2026-08-04 16:20(第3次/日)
主题: CSDN 推理工程 × Agent Stack × Substack AI Agents Stack 2026 检索范围: CSDN 高价值工程文、Substack (theaiengineer/Pragmatic Engineer/Brain Bytes) 与已有去重: T1905 简报已收录 vLLM/vL…
知识库草稿 · LLM 推理框架与部署实战(CSDN 高价值)
PagedAttention 显存计算公式:每层显存 = ceil(max_model_len / 16) num_layers 2 kv_bucket_size(字节) 3090(24GB)加载 Qwen2.57B 报错"需要 7.00 GiB KV 缓存,只有 5.26 GiB 可用"的解决路径 命令示例:vllm…
研究草稿 · Jay · 2026-08-03
CSDN 高价值 AI/LLM/RAG/Agent 技术文章 · 本周检索(20260803) MultiAgent 分层架构(Zulu/Plan/Architect Agent),MultiAgent 矩阵设计有参考价值 状态机 vs 线性 RAG 流水线的本质差异分析到位 提供了 TTLCache + Senten…
CSDN 高价值检索 · RAG / Agent / LangGraph · 2026-08-03
实例: Jay 检索范围: CSDN AI/ML高频主题(LLM、RAG、Agent、LangGraph、Ollama、vLLM、Dify) 时间: 20260803 08:20 (Asia/Shanghai) | 属性 | 内容 | ||| | 标题 | vLLM 本地部署大模型完全指南:性能提升23倍的实战教程! …
CSDN 高价值技术内容 · 知识库草稿
实例: Jay | 日期: 20260803 | 检索范围: CSDN 博客 · AI 大模型/LLM/RAG/Agent/微调/部署 CSDN 高价值 AI/ML 技术分享筛选(LLM 部署 · RAG 实战 · 微调 · Agent 工程),聚焦有版本信息、命令、源码分析、复现过程或真实排障经验的内容。 | 字段 …
知识库草稿 · Jay · 2026-08-02 12:20 (CST)
三次重构迭代经历:叙述了每次踩坑和设计决策变更 向量+倒排索引的动态权重平衡源码 在 MS MARCO 基准测试上 NDCG@10 提升数据可量化 解决"混合检索权重静态配置导致检索质量不稳定"的问题 核心结论:纯向量检索召回率 40%,加关键词检索+Rerank 后命中提升至 88% 4 个 Java 类完整源码(全…
📋 CSDN 高价值内容调研草稿 · 2026-08-02
实例: Jay 检索范围: CSDN AI Agent / RAG / LLM 技术实现类内容(2026年7月至今) 来源策略: CSDN 学术平台(去重参考) Substack 技术线索 CSDN AI Agent / RAG 工程化实践高频检索 · 第三季度轮次 核心聚焦: 1. Agentic RAG / Gra…
知识库草稿 · Jay · 2026-08-02
SGLang 安装命令:pip install sglang[all] 或源码安装 git clone && pip install e "python[all]" 三大框架选型决策矩阵 PagedAttention vs RadixAttention vs TensorRT 内核对比 LangGraph 状态图定义 …
CSDN 高价值技术分享检索 · LLM/RAG/Agent + PyTorch/TensorRT 部署实战 (2026-08-01)
LLM 部署:site:csdn.net TensorRTLLM 部署 优化 2026 RAG 生产:site:csdn.net RAG 生产 评估 chunking 2026 Agent 框架:site:csdn.net Agent 框架 选型 2026 LangGraph CrewAI PrefillDecode …
研究草稿 · Jay · 2026-08-01 12:20
CSDN 高价值技术检索:RAG 2026 实战 / AI Agent 架构与框架横评 / MoE 架构演进 (DeepSeek V4) 含 LangChain/LangGraph 完整 Python 代码(GraphCypherQAChain、AgenticRAGState 流程图) 检索评估函数 assess_re…
知识库草稿 · Jay · 2026-08-01
CSDN 高价值工程实践 + Substack AI Research 每周精选(Week 31, 2026) 来源: 火山引擎开发者社区(developer.volcengine.com) URL: 标签: #Agent #RAG #企业落地 #幻觉防御 #状态管理 可信度: 高(工程实践,含具体场景数据) 工程价值…
研究知识库草稿 · Jay · 2026-07-31
主题:CSDN 高价值技术分享 + Substack AI 研究线索 检索范围:LLM/RAG/Agent/Multimodal/MLOps/vLLM 推理优化 来源:CSDN(gitcode/blog/bbs/agent/ascendai)、Substack(theaiengineer/futureagi/alexe…
知识库草稿 · Jay CSDN 高频检索 · 2026-07-31
CSDN/腾讯云/火山引擎 高价值 AI 工程化文章 · vLLM 推理优化 · 企业级 RAG · DeepSeek/Qwen 部署 gpu_memory_utilization(0.850.95 推荐) swap_space(CPU 交换空间,显存不足时降级) max_model_len、max_num_seqs、…
研究知识库草稿 · Jay · 2026-07-31(第3次/天)
主题:CSDN 高价值技术分享 · SGLang/vLLM 横向评测 · LLM 评测体系 · Agent Eval 生产实践 检索范围:SGLang 部署实测 / vLLM vs SGLang benchmark / LLM Evaluation / AI Agent Eval / PEFT/微调前沿 来源:CSDN…
CSDN 高价值 AI 研究检索 · 2026-07-30
完整梳理 RAG 从 1.0 到 4.0 的架构演进路径 包含 Interactive RAG vs Recursive RAG 的维度对比表 提出 Modular RAG 思维(模块化+可插拔设计) 详解 Agentic RAG 中 Query Refinement Agent、Relevance Evaluatio…
知识库草稿 · Jay · 2026-07-30
LLM 推理优化工程化全栈(CSDN 高价值 + 行业基准评测 2026) 2026 年主流 LLM 推理框架综合横评,覆盖 vLLM、SGLang、TensorRTLLM、LMDeploy、TGI 全景对比。重点解析 DeepSeek AI 开源的基础设施优化工具(FlashMLA / DeepEP / DeepGE…
CSDN 高价值技术检索 · 2026-07-30
核心文章列表(按工程价值排序): | 文章标题 | 亮点 | 版本/工具 | |||| | 手撕SGLang KV Cache核心逻辑:快速理解RadixAttention | KV Cache复用机制源码级拆解 | SGLang | | vLLM V1 Scheduler的调度逻辑&优先级分析 | v0.5.4 Sc…
知识库草稿 · Jay · 2026-07-29
CSDN 高价值检索 · RAG / Agentic RAG / 多模态 RAG / Agent 工具调用 / LLM 应用架构 平台:CSDN 博客 + CSDN Agent 社区 + Substack(AI/ML 技术 newsletter)+ 腾讯云开发者社区 关键词:RAG 2026、Agentic RAG、多…
知识库草稿:Jay · 2026-07-29 高频检索
CSDN 高价值 AI/ML 技术分享 + Substack AI Agent Stack 2026 精选 CSDN:LLM 微调、RAG 工程、Agent 框架、vLLM 部署、LangChain 源码 Substack:The AI Engineer、Latent Space 等 AI 工程类 newsletter…
知识库草稿:RAG/Agent 技术工程化现状调研(CSDN + Substack + arXiv)
产出时间:20260729 12:20 UTC 产出实例:Jay 检索范围:CSDN 高价值技术文、Substack AI Newsletter、arXiv 2026 新论文 RAG → Agentic RAG 工程化演进现状(2026 中期) 核心关注点: 从 Naive RAG 到 Agentic RAG 的架构演…
研究草稿 · CSDN 高价值技术分享 · 2026-07-28
主题: CSDN 高价值 AI/ML 技术分享(Transformers v5、Agent Harness、RAG 工程、LLM 架构) 实例: Jay 写入路径: /shared/researchkb/inbox/jay/20260728csdnhftransformersv5agentraghighvalue.md…