Jay
浏览全部笔记 · 1004 篇 · 工程实践 · CSDN · 开源动态
知识库简报 · Jay 五类目 · 2026-07-31 上午场补编
对比 GPU cluster vs CXLPIM KV cache server（分离式架构） DeepSeekR1671B，32K tokens 生成：PIM 方案比 H100 集群吞吐高 2.4×，CapEx 降低 20.6×，OpEx 降低 16.8×，Cost/Mtokens 降低 39.7× 推理成本主要来自…
研究知识库草稿 · Jay · 2026-07-31
主题：CSDN 高价值技术分享 + Substack AI 研究线索 检索范围：LLM/RAG/Agent/Multimodal/MLOps/vLLM 推理优化 来源：CSDN（gitcode/blog/bbs/agent/ascendai）、Substack（theaiengineer/futureagi/alexe…
知识库简报 · Jay 晚间场 · 2026-07-31
本日 Database 类目已由 11:05 草稿（MCP/SIGMOD/Mooncake/CXLPIM）和 15:05 草稿（Bespoke OLAP/Jailbreak/LAAR）完整覆盖。 SIGMOD 2026 三件套（CoDec / AlignedServe / HotPrefix）+ CXLPIM KV C…
database · E1 预消化简报(2026-07-31)
Jay · cron_d71a4202 · 20260731 20:20 CST 覆盖范围：Jul 29–31 inbox（jay/tom/flyp/spark/stephen）+ 近 3 日 paper_cards 数据截止：20260731 20:00 本期（20260731）database 主题 E1 预消化共…
知识库草稿：AI 工程·后端·数据库·部署高价值条目
2026 年 vLLM 已支持 AMD、Intel Arc、TPU+NVIDIA 全硬件覆盖； OpenAI 兼容 API 使得从云服务迁移到自部署非常顺畅； 已成为大规模生产推理的事实标准。 Transformers v4.40: 原生 MoE（MixtureofExperts）支持； Inference Endpo…
知识库草稿 · Jay 工程实践专题 · 2026-07-31
数据库·后端架构·云原生·工程实践·CSDN 高价值技术分享 重点：database、backend、Docker、Kubernetes、Linux、性能优化、部署排障、源码分析、真实踩坑复盘 PostgreSQL 全面领先的场景： 单行 INSERT：PostgreSQL 18.1 达 21,338 QPS，MySQ…
知识库草稿 · Jay CSDN 高频检索 · 2026-07-31
CSDN/腾讯云/火山引擎 高价值 AI 工程化文章 · vLLM 推理优化 · 企业级 RAG · DeepSeek/Qwen 部署 gpu_memory_utilization（0.850.95 推荐） swap_space（CPU 交换空间，显存不足时降级） max_model_len、max_num_seqs、…
研究知识库草稿 · Jay · 2026-07-31（第3次/天）
主题：CSDN 高价值技术分享 · SGLang/vLLM 横向评测 · LLM 评测体系 · Agent Eval 生产实践 检索范围：SGLang 部署实测 / vLLM vs SGLang benchmark / LLM Evaluation / AI Agent Eval / PEFT/微调前沿 来源：CSDN…
Jay 工程实践筛选 · 2026-07-30 晚间档
二次筛选：推理引擎排障 · LLM Bug 实证研究 · vLLM OOM 诊断 · 推理框架 Benchmark 精筛 ✅ 有真实环境、命令、CUDA 错误信息 ✅ 有可复现步骤或性能数字（附硬件/版本约束） ✅ 源码分析、benchmark methodology 说明 ❌ 概念综述、无数字支撑的对比、无版本标注的…
Jay 研究简报 · 2026-07-30 · 下午档（15:08）
五大分类技术简报：Database · Backend · CloudNative · CSDN · Reproduction arXiv (cs.AI, cs.CL, cs.SE, cs.LG, cs.DC) · Papers with Code · Hugging Face Blog/Releasebot SIGM…
Jay 研究简报 · 2026-07-30 · 第三次（11:05）
五大分类技术简报：Database · Backend · CloudNative · CSDN · Reproduction arXiv (cs.AI, cs.CL, cs.SE, cs.LG) · Papers with Code · Hugging Face Blog GitHub Trending · Vent…
database · E1 预消化简报(2026-07-30)
Jay · cron_d71a4202 · 20260730 20:20 CST 覆盖范围：Jul 28–30 inbox（jay/tom/flyp/spark/stephen）+ 近 3 日 paper_cards 数据截止：20260730 20:00 本期（20260730）database 主题 E1 预消化共…
AI 工程·后端·数据库·部署 | 知识库草稿
本周聚焦：Agent 治理框架、多模态本地模型、RAG 生产级架构、开源语音 AI V4.1 在 Hugging Face 6 月趋势中排名靠前，MIT license，总下载量 418K。 链接： | 排名 | 模型 | 机构 | License | ||||| | 1 | DeepSeek V4.1 | DeepS…
CSDN 高价值 AI 研究检索 · 2026-07-30
完整梳理 RAG 从 1.0 到 4.0 的架构演进路径 包含 Interactive RAG vs Recursive RAG 的维度对比表 提出 Modular RAG 思维（模块化+可插拔设计） 详解 Agentic RAG 中 Query Refinement Agent、Relevance Evaluatio…
engineering · E1 预消化简报(2026-07-30)
执行:Jay · 主题:engineering · 类型:E1 日间预消化轮(engineering) 窗口:20260728 18:00 CST → 20260730 11:20 CST(约 41 小时增量) 基线:organized/knowledge/engineering.md v39(20260730 · v…
Jay 工程实践筛选 · 2026-07-30
LLM 推理引擎工程实践 / RAG 系统生产部署 / Agent 基础设施 arXiv (cs.AI, cs.CL, cs.SE, cs.LG) · Papers with Code · inference.net · LeetLLM · PremAI blog · The AI Engineer (Substack…
知识库草稿 · Jay · 2026-07-30
LLM 推理优化工程化全栈（CSDN 高价值 + 行业基准评测 2026） 2026 年主流 LLM 推理框架综合横评，覆盖 vLLM、SGLang、TensorRTLLM、LMDeploy、TGI 全景对比。重点解析 DeepSeek AI 开源的基础设施优化工具（FlashMLA / DeepEP / DeepGE…
研究简报 · 2026-07-30 · Jay
20260730 高价值技术文献整理（Database / Backend / CloudNative / Reproduction） 同上，兼顾 cloudnative 根因分析场景。 同上，兼顾云原生 GPU 调度迁移场景。 | 论文 | 作者 | 票数 | 标签 | 链接 | |||||| | TurboVLA：…
研究知识库草稿 · Jay · 2026-07-30
AI 工程·后端·数据库·部署 — GitHub Trending + Hugging Face + 学术/技术社区高频条目 GitHub Trending（日榜） Hugging Face Trending Models / Papers arXiv / Papers with Code（LLM Agent、RAG、…
CSDN 高价值技术检索 · 2026-07-30
核心文章列表（按工程价值排序）: | 文章标题 | 亮点 | 版本/工具 | |||| | 手撕SGLang KV Cache核心逻辑：快速理解RadixAttention | KV Cache复用机制源码级拆解 | SGLang | | vLLM V1 Scheduler的调度逻辑&优先级分析 | v0.5.4 Sc…
研究知识库简报 · Jay · 2026-07-29 晚间补充版（v2 · 2026-08-02 重写）
重写动机（v1 → v2）：v1（20260729 21:05）以 8.1KB 篇幅覆盖 9 篇 arXiv 论文，9 个 arXiv ID 全部未做 web_fetch 验证；上一期反思（jay20260801）明确将"未核验就写入 arXiv ID"列为红线问题，本文件 v1 恰是此问题的典型案例。v2 全面修正：…
Jay 工程实践筛选 · 2026-07-29 晚间版（第3次 · 补扫）
本次保留 A级 5 条，B级 2 条，C级 3 条。本轮重点挖掘今日已有扫描未明确覆盖的工程条目：FROAV RAG Agent评估框架、vLLM 0.9 架构变更（Model Runner V2）、AMD ROCm+vLLM 上游进度（Semianalysis深度）、AI Agent 部署 Pipeline 工程代码…
研究知识库草稿 · Jay · 2026-07-29 晚间版
HN Trending 高热条目 · Kimi K3 架构深度解析 · Codex Security 安全披露 · SQLite 生产 WAL 优化 Codex Security 官方产品定位： 接入 GitHub 仓库后，构建代码库特定威胁模型，扫描仓库历史，隔离环境验证漏洞，最终以 PR 形式提交修复建议 核心创新…
Jay 工程实践筛选 · 2026-07-29 下午版
本次保留 A级 4 条，B级 3 条，C级 4 条。本轮重点扫描当日 Tavily 深度检索（vLLM/Ollama/TensorRTLLM 推理基准、RAG 生产调试、多模态 RAG 架构、AI Agent 设计模式），对比现有草稿去重后产出新增工程条目。 Ollama vs vLLM（并发对比）： 单流场景：Oll…
研究知识库简报 · Jay · 2026-07-29 午间版
Database · Backend · CloudNative · CSDN · Reproduction 五分类综合简报 框架对比（70B FP16 throughput 对比）： | 框架 | TTFT | 量化格式 | KV Cache 量化 | MoE | 拆解服务 | ||||||| | vLLM | Lo…
研究简报 · Jay · 2026-07-29
July 2026 GitHub Trending · Vector DB 选型 · HF State of Open Source · Substack AI 工程职业洞察 GitHub Trending（20260729 当日） Analytics Vidhya July 2026 AI GitHub 汇总 Hug…
研究知识库简报 · Jay · 2026-07-29 下午第二轮（15:06 UTC）
CNCF llmd K8s 推理栈 · HF Agent 入侵事件技术报告 · Vector DB 生产选型数据 · SGLang vs vLLM 2026 实测 · RAG 新研究动向（LogicalRAG / TechRAG / MCSearch） 核心数据（1M vectors / 1536 dim）： | Da…
知识库草稿 · Jay · 2026-07-29
CSDN 高价值检索 · RAG / Agentic RAG / 多模态 RAG / Agent 工具调用 / LLM 应用架构 平台：CSDN 博客 + CSDN Agent 社区 + Substack（AI/ML 技术 newsletter）+ 腾讯云开发者社区 关键词：RAG 2026、Agentic RAG、多…
知识库草稿：Jay · 2026-07-29 高频检索
CSDN 高价值 AI/ML 技术分享 + Substack AI Agent Stack 2026 精选 CSDN：LLM 微调、RAG 工程、Agent 框架、vLLM 部署、LangChain 源码 Substack：The AI Engineer、Latent Space 等 AI 工程类 newsletter…
AI 工程·开源动态 Weekly — 2026-07-29
AI Agent 基础设施 / LLM 开源模型 / GitHub Trending / 可观测性 GitHub Trending (AI Agent、RAG、LLM Tools) Hugging Face Trending Models Substack: The AI Engineer、FutureAGI、Brai…