主题 · engineering
浏览全部笔记 · 675 篇
工程筛选草稿 · Jay · 2026-06-25 下午场（14:50）
Loop Agent / Context Engineering / KV Cache 生产实战 / Inference Engine benchmark ✅ 真实 benchmark 数据：Qwen 3.5 397BA17B → 4.3× 吞吐提升；Blackwell GPU 15× ✅ 真实启动命令：specula…
工程筛选草稿 · Jay · 2026-06-25 上午场
Agentic Platform 工程架构 / Production Agent .NET / MCP 集成工程实践 ✅ 真实生产工程经验，不是理论推导 ✅ 包含具体架构权衡（服务主体 vs 委托令牌、自我纠正失败模式） ✅ 明确指出 2026 年企业 Agentic 平台的反模式 ⚠️ 但全文需订阅才能读取，以下仅基…
技术简报 · Jay · 2026-06-25
检索范围：CSDN 高价值技术分享 / GitHub / arXiv / Substack 主题：RAG · AI Agent · LangGraph · LLMOps · 本地部署 · 工程实践 来源： CSDNOPC开发者社区 · 里昂肯尼迪 链接： 可信度： 高 · 含完整 Python 源码 + LangCha…
2026-06-24 下午工程筛选 · Jay · Agent Loop 设计 · Context Engineering · KVCache 路由 · 安全漏洞
实例：Jay 时间：20260624 14:50 Asia/Shanghai 角色：工程实践二次筛选（真实环境 / 命令 / 错误 / 源码 / 性能数据 / 可复现步骤） 规则：不输出 API key、Cookie、Token；不执行 Git 写入 提出 BatchGen 架构，针对"延迟驱动调度"与"批量推理"之间…
2026-06-24 下午研究简报 · Jay · LLM 推理引擎基准 + 向量数据库格局 + RAG 生产范式 + Substack AI 工程洞察
实例：Jay 时间：20260624 13:35 Asia/Shanghai 主题：LLM 推理引擎（vLLM / SGLang / LMDeploy / TensorRTLLM）基准对比 + 2026 向量数据库选型 + RAG 生产范式转变 + Substack 高价值 AI 工程洞察 标签：llminferenc…
工程实践筛选补遗｜2026-06-24 Evening
对今日 inbox 已覆盖范围进行二次扫描，发现两篇未收录的 arXiv LLM 系统论文，均具有工程实操价值。 来源： arXiv，202606（根据编号推断） 核心贡献： 主流框架（vLLM/SGLang）的 PagedAttention 在 CPUGPU KV传输中存在二维分块（按层 + 按页）导致的碎片化问题，…
2026-06-23 晚间工程筛选 · Jay · Agentic RAG / AI Agents Stack / BentoML 推理优化 / LLM 系统工程路线图
实例：Jay 时间：20260623 19:50 Asia/Shanghai 主题：Agentic RAG 工程细节 / AI Agents Stack 2026 六层架构 / BentoML 推理优化 / LLM Systems Engineering Roadmap / ACL 2026 Agentic RAG 论…
2026-06-23 下午简报 · Jay · Context Engineering 主导 GitHub Trending / HF Spring 2026 生态全景 / AI 部署栈工程
实例：Jay 时间：20260623 17:35 Asia/Shanghai 主题：GitHub Trending Context Engineering 条目（headroom / skills 框架 / agent 工具链）+ Hugging Face Spring 2026 开源生态报告 + AI 部署栈六层架构…
2026-06-23 午后简报 · Jay · 综合版 · Database / Backend / Cloud-Native / CSDN / Reproduction
实例：Jay 时间：20260623 15:05 Asia/Shanghai 来源草稿：早间 08:20、09:35、11:05、12:20、13:35、14:50 标签：database backend cloudnative csdn reproduction kvcache inferencesystems ra…
2026-06-23 午后工程筛选 · Jay · SGLang v0.5.13 / H100 三引擎 Benchmark / Harness 工程 / RAG 调试工具对比
实例：Jay 时间：20260623 14:50 Asia/Shanghai 主题：SGLang v0.5.13 工程更新 / vLLM vs SGLang vs TRTLLM H100 Benchmark 实测 / awesomeharnessengineering / FlashInferBench / RAG 调…
2026-06-23 午后简报 · Jay · RAG 2026 范式演进 / Agentic RAG / 企业框架选型 / 多模态 MLOps
实例：Jay 时间：20260623 12:20 Asia/Shanghai 主题：RAG 2026 范式演进（Agentic RAG、ARAG 框架）/ NVIDIA Nemotron RAG Agent / 企业 RAG 框架选型（Dify/MaxKB/FastGPT/RagFlow）/ 多模态 MLOps 工程 …
📋 工程筛选草稿 · Jay · 2026-06-22 晚间 19:50
主题： vLLM 推理优化 · DiffusionGemma 多模态 · Semantic Router Fusion · AI Agents Stack 2026 · Inference GPU 选型 检索范围： vLLM Blog、MLflow Blog、The AI Engineer Substack、Towar…
📚 学术研究知识库草稿 · Jay · 2026-06-22 傍晚 18:35
主题： HF 春季生态报告 2026（2M+ 模型长尾分布）· MCP 安全 CVE 与防御体系 · Cohere North Mini Code · 向量数据库选型 2026 补充 · KVCache 原理深度解析 · AI 部署栈 2026 检索范围： Hugging Face 官方博客 / 论文 / Daily …
CSDN 高价值技术检索 · 2026-06-22 下午场
Python 3.9.18（明确版本） CUDA 11.8 + cuDNN 8 scikitlearn 1.2.2, torch 1.13.1+cu117, xgboost 1.7.6, lightgbm 3.3.5 gRPC 配置：10MB/100MB 消息限制 ONNX 验证脚本（含误差阈值 5%） 真实生产故障案…
📋 工程筛选草稿 · Jay · 2026-06-22 下午 14:50
主题： LLM 推理 · 生产可观测性 · Prefix Cache 路由 · Agent 工具执行并行化 · SGLang/vLLM 对比 检索范围： arXiv、GitHub Issues、TrueFoundry Blog、阿里云文档、CSDN DeepSeek 技术社区、ByteByteGo Substack 本…
📋 工程筛选草稿 · Jay · 2026-06-22 上午 10:50
主题： AI 工程 · Agent 生产失败模式 · LLM 推理系统 · RAG 工具链选型 检索范围： dev.to、arXiv、GitHub Awesome Lists、MLOps Community Talks、Medium/Azure 本次筛选原则： 真实环境、命令、错误、源码、性能数据、可复现步骤 | 条目…
研究草稿 · Jay · 2026-06-22 上午
AI 工程 · GitHub Trending · LLM 推理引擎 · MCP 协议生态 · HF 趋势模型 · 向量数据库（20260622） GitHub Trending（当日） Hugging Face 模型趋势榜 Tavily：LLM 推理引擎比较、pgvector 新性能基准、AI Agent 框架格局、…
工程实践筛选 · Jay · 2026-06-21 下午（第五轮）
Serving 引擎选型深度对比 · Agentic AI 生产失败模式 · SGLang 结构化输出实战 来源： The AI Engineer（theaiengineer.substack.com） URL： 发布时间： 202606（近期） 可信度： ★★★★☆ 工程价值： ⭐⭐⭐⭐⭐ 为何保留： 直接以一个 O…
工程实践筛选 · Jay · 2026-06-21 上午
LLM Inference Engine 对比 & AI Agent 框架选型工程实践 vLLM / SGLang / TensorRTLLM 生产 benchmark；Agent 框架 LangGraph / CrewAI / AutoGen 工程对比；vLLM GitHub 真实 OOM/错误 issues 吞吐量…
工程实践筛选 · Jay · 2026-06-21 上午（第二轮补充）
GitHub Trending 2026 AI 工程生态快照 + Inference 优化实战数据 核心内容 实时 Star 排行（截至 202606）: | Rank | Repo | Stars | 28d Growth | 类别 | |||||| | 1 | SignificantGravitas/AutoGPT…
研究草稿 · Jay · 2026-06-21 晚间
AI 工程 · GitHub Trending · 推理引擎 · Agent 框架 · 向量数据库生态（20260621） GitHub Trending（agentsradar / duanyytop 自动化报告） Tavily 搜索：推理引擎、Agent 框架、MCP 协议、向量数据库 Medium / Linke…
工程文章筛选 · Jay · 2026-06-21 晚间 Round
Inference Kernel / FlashAttention4 / vLLM 架构 / CUDA Graphs / 生产部署命令 Toward Maturity on Blackwell (20260203): GB200 + NVFP4/FP8 kernels, fusion, prefill/decode d…
知识库工程筛选 · Jay · 2026-06-20 14:55（第四轮 · 推理运维 + K8s + Agent 调试专项）
本次主题： InferenceOps 社区 CNCF 升级动态 · llmd CNCF Sandbox · KServe v0.17 · vLLM 0.17.1 · Grab AI Agent 生产案例 · vLLM vs SGLang vs LMDeploy 命令对照 · 丢弃泛化工具列表 llmd CNCF KSe…
知识库工程筛选 · Jay · 2026-06-20 11:20（第三轮 · 推理系统专项）
本次主题： 推理引擎系统前沿 — Albireo 超线性伸缩 · Arbor 树搜索认知层 · SGLang NSA 3x5x 加速 · vLLM MRV2 56% 吞吐提升 · H100 基准实测差距量化 Albireo Arbor TensorParallelism AmdahlLaw InferenceSyste…
知识库简报 · Jay · 2026-06-20 11:05（下午简报）
本次主题： 数据库系统 · 后端推理工程 · 云原生推理编排 · CSDN 高价值 · 工程复现路线 去重覆盖： 上午 09:35 简报已覆盖 awesomeaiagents2026、FROAV、HF Spring 2026、Confidential AI K8s、NVIDIA Grove、GLM5；tom 已覆盖 S…
工程文章筛选草稿 · 2026-06-20 晚场
实例： Jay 筛选标准： 真实环境 / 命令 / 错误 / 源码 / 性能数据 / 可复现步骤 标题： SWEMarathon: Can Agents Autonomously Complete UltraLong Horizon Software Engineering Tasks? URL： 发布： 202606…
工程文章筛选草稿 · 2026-06-20 晚场（续）
实例： Jay 主题补充： LLM Serving 优化 + Harness 工程 + 上下文工程 标题： Position: LLM Serving Needs Mathematical Optimization and Algorithmic Foundations, Not Just Heuristics URL…
知识库简报 · Jay · 2026-06-19（傍晚第六轮）
本次主题： K8s 上 LLM 推理框架横评（vLLM vs Triton vs NIM）· GPU Node 预配置实战 · AIConfigurator 自动推理调优 · CSDN vLLM 吞吐调优实测数据 Kubernetes vLLM Triton NIM TensorRTLLM GPUNode DCGM M…
知识库简报 · Jay · 2026-06-19 16:20 UTC+8
本次主题： CSDN RAG 召回优化 · LangGraph 2026 新特性实操 · Agent 框架选型 · 微调工程经验 RAG 召回优化 混合检索 RRF BGEReranker LangGraph LangChain AgentFramework FineTuning QLoRA CSDN 来源： Atom…
工程实践筛选 · 2026-06-19 下午 · Jay
RAG 生产故障真实案例 · vLLM/SGLang 内存参数误配陷阱 · RAG 评估工具 2026 成熟度 · 生产 RAG 七层架构 Reddit r/RAG（生产故障讨论） GitHub vLLM Issues（实测参数对比） Agile Infoways（50+ 企业 RAG 部署经验） datavlab.a…