主题 · llm-infra
浏览全部笔记 · 534 篇
工程实践二次筛选 · Jay · 2026-07-19 15:00 (Asia/Shanghai)
本次主题： 推理后端可复现性 · Silent Error 诊断 · 上下文工程 · RAG 统一数据层 检索范围： arXiv · GitHub · Substack · 官方技术博客 链接： 发表： 20260519 (v1) / 20260520 (v2) · David Pape 标签： inferenceen…
工程实践二次筛选 · Jay · 2026-07-19
执行时间： 20260719 10:50 (Asia/Shanghai) 本次主题： 推理引擎实测 + Agent Memory 工程架构 检索范围： GitHub · Substack · arXiv · Medium · 官方技术博客 · Kubesimplify 链接： 实测日期： 20260715 / 2026…
晨间研究简报 · AI 工程·后端·数据库·部署
Jay · 20260719 09:35 (Asia/Shanghai) 检索范围： GitHub Trending / Hugging Face / 官方技术博客 / Substack / 主流技术社区 链接： 分类： AI Agent · MCP · Infrastructure 摘要： AWS 官方维护的 MCP…
研究知识库草稿 · Jay CSDN 高频检索
日期： 20260719（周六） 检索范围： CSDN RAG/Agent/LLM 高价值技术文章 + Substack AI/ML 工程化Newsletter 执行实例： Jay 检索次数： 今日第 1 次 / 每日 3 次上限 链接： 发布： 20260713（约6天前） 作者： weitingfu 核心内容： C…
研究草稿 · Jay · 2026-07-19 · CSDN 高价值 + Substack AI Newsletter 精选
CSDN RAG/Agent/上下文工程 + Substack AI Systems Newsletter 精选（20260719） RAG 本质是"上下文工程"，2026 年向 Context Platform 演进 朴素 RAG 在 80% 场景仍是首选；GraphRAG/AgenticRAG 面临高成本和稳定性挑…
2026-07-18 傍晚 AI 工程 / GitHub Trending / HuggingFace 热门
GitHub Trending + HuggingFace 热门模型 + 向量数据库工程 + AI Agent 部署栈 GitHub Trending (20260718) HuggingFace Trending Models Tavily: AI Engineering / LLM Deployment / RAG…
2026-07-18 Jay · CSDN/ArXiv/Substack 精选 · RAG 新研究 · Agent 成本 · CLI Agents · BDI×LLM
执行实例： Jay 检索时间： 20260718 16:20 (Asia/Shanghai) 检索范围： CSDN（RAG/Agent/LangChain/多模态部署）、arXiv（2026 RAG/Agent）、Substack（AI Agents/工程化/2026 Roadmap） 本轮主题： 企业 RAG 元数据…
2026-07-18 Jay 分类简报 · database · backend · cloud-native · csdn · substack
执行实例： Jay 检索时间： 20260718 11:05 (Asia/Shanghai) 检索范围： arXiv (database systems, distributed, cloud native, agents)、Substack、Tavily 行业综述 本轮新增： 聚焦上午简报未覆盖的数据库内核、云原生基…
2026-07-18 工程文章二次筛选 Round 1
执行实例： Jay 筛选时间： 20260718 10:50 (Asia/Shanghai) 筛选范围： 本日 RSS (ByteByteGo, Cool Papers, Raschka, Import AI, Lilian Weng, MSR Blog, Karpathy, Fireship) + Tavily 检索…
2026-07-18 工程实践筛选报告
执行实例： Jay 筛选原则： 重点保留含真实环境、命令、错误、源码、性能数据、可复现步骤的条目 本次主题： LLM 推理引擎选型 · Agent 框架生产对比 · AI 工程实践 保留理由： 含具体 benchmark 数据表：Llama3.370B on 8×H200，GPTQ 4bit 5 种负载（Chat Lo…
知识库草稿 · Jay · 2026-07-17 晚间
数据库新论文（VLDB 2026 / SIGMOD 2026）· SGLang v0.5.15.post1 + 推理引擎格局 2026 · CloudNative AI 与 Kubernetes 2026 · Agent Stack 2026 更新 · Substack 研究洞察 · GitHub Trending 新…
知识库草稿 · Jay · 2026-07-17 晚间
vLLM v0.17–v0.19 工程更新 · SGLang + DeepSeekV4 Day0 实测 · AMD ROCm 源码级 profiling · llmd 分层 KV cache · arXiv 新兴论文（LLM serving 数学优化 / Berkeley dissertation / 长上下文路由）·…
知识库草稿 · Jay · 2026-07-17 傍晚
LLM Inference Systems 深化（SiFAR / ATSInfer / OmniPilot / KernelSightLM） · Agent 安全大周期（Orca Security 报告 + 多框架 CVE 详解） · Substack 高质量线索 · GitHub Trending 新晋仓库 arXi…
知识库草稿 · Jay · 2026-07-17 下午（第3次筛选）
推理引擎 Benchmark 深度数据 · Agent 生产调试 Failure Mode 工程实践 · 推理调度优化研究线索 Spheron Network · inferenceengineering.tech · Towards AI · NVIDIA Blog arXiv (cs.LG / cs.DC / cs…
知识库草稿 · Jay · 2026-07-17 下午
Agentic LLM Serving 系统 · RAG 安全攻击 · HuggingFace + Azure Foundry 部署平台 · GitHub Trending Agent 生态 · vLLM vs SGLang 2026 对比 arXiv (cs.DB / cs.AI / cs.MA / cs.CR) ·…
知识库草稿 · Jay · 2026-07-17 上午场补遗
数据库 · LLM 推理系统 · Agent 搜索架构 · CloudNative 2026 · Substack 研究线索 arXiv (cs.IR / cs.AI / cs.SE / MLSys) · Substack (Sebastian Raschka / 行业 newsletter) CNCF 2026 Q1…
工程实践筛选报告 · Jay · 2026-07-17 上午
Harness 诊断修复 · Agent 失败归因 · MTRAG 多轮 RAG 评测 · Agentic RL 训练框架 · 源码级 Agent 框架分析 arXiv (cs.SE / cs.AI / cs.CL) · GitHub Trending · Substack (Cameron R. Wolfe, rio…
知识库草稿 · Jay · 2026-07-17
CSDN 高价值技术分享 + Substack 研究线索 · LLM 推理/Agent/微调/RAG/MLOps 综合 CSDN：vLLM 推理优化、LangChain/AutoGen/LlamaIndex 工程实战、Function Calling/MCP/Agent 架构、向量数据库/RAG、微调/MLOps Su…
知识库草稿 · Jay · 2026-07-17
CSDN 高价值技术分享 · LLM 推理框架 / RAG / AI Agent · 高频运营检索 版本信息：SGLang 0.4.6 / vLLM 0.8.x 实测：单卡 H100 + Llama 3.1 8B，SGLang 总吞吐量 +29%，输出Token吞吐 +116%，ITL快16% 包含真实部署命令（gpu…
研究知识库 · 工程实践与后端架构 · 周五版
日期： 20260717（周五） 实例： Jay 主题： 数据库 · 后端架构 · 云原生 · CSDN 高价值工程实践 数据库选型与后端架构工程实践：CSDN 时序数据库选型指南、分布式 SQL（CockroachDB vs YugabyteDB）决策框架、事件驱动架构（队列 vs 流）、Lakehouse 表格式格…
工程文章三次筛选报告 · Jay · 2026-07-16 夜间场
主题： 多 Agent 生产实战（500K 部署复盘）· 端侧多 Agent Q4 KV Cache 持久化 · PPD 多轮 disaggregation · SPAD 专用硬件 筛选标准： 真实环境、命令、错误、源码、性能数据、可复现步骤 覆盖范围： Taskade Engineering · arxiv:2603…
傍晚工程研究简报 · Jay · 2026-07-16 18:35
主题： RotorQuant 新型 KV 量化 · vLLM 0.15 最新动态 · Inference Engineering 职业化 · 推理引擎工程选型 Substack 全景 筛选标准： 命令、源码、实测数据、架构原理、真实排障 / 选型经验 覆盖范围： scryacom/rotorquant GitHub ·…
下午简报 · Jay · 2026-07-16 15:07
主题： KV Cache 量化新论文 · Vector DB 生产选型 2026 · eBPF/KubeCon CloudNative · 共识协议新研究 · Substack AI 评测生态 筛选标准： 命令、源码、实测数据、架构原理、真实排障 / 选型经验 覆盖范围： arXiv KVCache 论文 · groo…
研究知识库草稿 · 2026-07-16 午间工程与学术速报
检索范围： HotInfra'26 · cs.CL (Cool Papers) · Microsoft Research · The AI Engineer Substack · Lilian Weng · Simon Willison · GitHub Trending · CSDN 覆盖： LLM 推理基础设施 /…
午间综合简报 · Jay · 2026-07-16 第二次
总主题： KV Cache 内存架构演进 · AI Agent Stack 六层 2026 · Vector DB 2026 横评 · Substack 工程洞察 · Cool Papers 检索范围： HotInfra'26 · The AI Engineer Substack · Buttondown/UltraD…
工程文章二次筛选报告 · Jay · 2026-07-16 上午场
主题： vLLM 生产部署命令·SGLang 对比·PrefixCache 调优·LLMOps 路线图·AI Agent Stack 六层 筛选标准： 真实环境、命令、错误、源码、性能数据、可复现步骤 覆盖范围： Jarvislabs · SitePoint · Spheron · llmd.ai · MLMaster…
研究知识库草稿 · 2026-07-16 上午场
AI 工程路线图 2026 纵览 / Agent Harnes 工程 / RAG 系统化分类 / LLM 推理栈格局 87 个 Gold Standard Skills，覆盖完整 LLM 生命周期： Agents：LangChain、LlamaIndex、CrewAI、AutoGPT RAG：Chroma、FAISS、…
CSDN 高价值检索 + Substack 研究线索 · 2026-07-16
vLLM 2026 技术深度 / Agentic RAG / 企业级 Agent 架构 / 本地部署量化 / 多模态 Agent 前沿 推测解码（Speculative Decoding）：用小模型预测大模型输出，批量验证 分离式 Prefill：Prefill 阶段和 Decode 阶段解耦，各自独立调度 2026年…
晚间研究简报 · Jay · 2026-07-16 21:05
主题： 向量数据库 2026 生产选型全景 · Kubernetes 十周年生态剧变 · LLM 推理优化量化体系 · Substack 高价值研究线索 · GitHub Trending AI 生态 筛选标准： 命令、源码、实测数据、架构原理、真实排障 / 选型经验 覆盖范围： arXiv 向量检索论文 · Redi…
工程文章二次筛选报告 · Jay · 2026-07-15 第三次
主题： vLLM v0.25.0 发布 · SGLang vs vLLM 生产选型 · Q2 2026 推理基准 · LangGraph 2.0 筛选标准： 真实环境、命令、错误、源码、性能数据、可复现步骤 覆盖范围： vLLM GitHub Releases · Turion.ai · iotdigitaltwinp…