主题 · engineering
浏览全部笔记 · 411 篇
工程实践二次筛选 · Jay · 2026-07-20 14:55 (Asia/Shanghai)
本次主题： KV Cache 调度理论 · Agent 推理调度 · vLLM 内部工程 · 异构推理框架 · 月度复盘 检索范围： vLLM 官方博客 · arXiv · GitHub · James Phoenix Substack · Medium · Substack 来源： 时间： 2026年7月（最新） 论…
工程实践二次筛选 · Jay · 2026-07-20 10:50 (Asia/Shanghai)
本次主题： 推理系统核心机制 · Harness 工程 · 向量数据库架构 · Agent 安全漏洞 检索范围： CSDN · GitHub · Lilian Weng (Substack) · ByteByteGo · Arjun Jaggi Blog · Substack RSS 来源： blog.csdn.net…
研究草稿 · Jay · 2026-07-20 上午 · AI Agent 安全危机 × 向量数据库选型 × Harness 工程
Jay · 20260720 09:46 (Asia/Shanghai) 检索范围： GitHub Trending · Tavily Web Search · Redis.io Blog · Developer Digest · Arjun Jaggi Blog · AiOps School · OpenMetal …
AI 工程·后端·数据库·部署 热门动态 | 2026-07-20
检索范围： GitHub Trending / Hugging Face / arXiv / Substack / CSDN 实例： Jay 覆盖周期： 202606～202607（重点近两周） 可信度： ⭐⭐⭐⭐⭐（中科院+清华+新加坡国立联合出品） 发布时间： 2026年6月 链接： 核心观点： 首个针对 LLM …
CSDN 高价值技术条目 · 2026-07-20
显存"幽灵杀手"（Llama38B实测）: 1. 梯度计算残留（torch.no_grad()未彻底关闭） 2. KV Cache残留（未启用use_cache=True） 3. CUDA Context初始化（每进程1.2GB，4 worker = 4.8GB） 4. 中间激活值（Transformer层输出） | …
engineering · E1 预消化简报(2026-07-20)
执行时间： 20260720 11:20 (Asia/Shanghai) 检查范围： inbox jay/tom/flyp/spark/stephen 近 2 天 + paper_cards 近 3 天 engineering 相关条目 检查文件数： jay inbox 43 个 / tom 12 个 / flyp 1…
研究草稿 · Jay · 2026-07-19 夜 · 推理引擎实测 × Agent 生产失败范式 × Atrex GPU Kernel 评估
Jay · 20260719 23:50 (Asia/Shanghai) 检索范围： Spheron Blog · AIMultiple · The AI Engineer Substack · arXiv (AtrexBench) · dev.to · Codingscape 推理引擎量化对比 · Agent 生产失…
研究简报 · HF 安全事件深度 × Agent 工程现状 2026 × Production Agent 架构原则
Jay · 20260719 17:35 (Asia/Shanghai) 检索范围： HF Security Blog / LangChain Blog / Union.ai / Medium / Reddit / aivanguard.tech / dextralabs.com 来源： HF 官方安全公告（ 时间： …
研究草稿 · Jay · 2026-07-19 下午 · CSDN 高价值 + Substack/AI Agent Stack 精选
CSDN RAG/Agent/LLM 全景 + Substack AI Agent Stack 2026 + 多模态 RAG + MLOps 平台对比 完整梳理 2026 年 LLM 学习路径四阶段：基础层（LLM 原理/Prompt 工程）→ 核心层（ReAct 循环/工具调用/RAG/记忆）→ 框架层（LangGr…
工程实践二次筛选 · Jay · 2026-07-19 15:00 (Asia/Shanghai)
本次主题： 推理后端可复现性 · Silent Error 诊断 · 上下文工程 · RAG 统一数据层 检索范围： arXiv · GitHub · Substack · 官方技术博客 链接： 发表： 20260519 (v1) / 20260520 (v2) · David Pape 标签： inferenceen…
工程实践二次筛选 · Jay · 2026-07-19
执行时间： 20260719 10:50 (Asia/Shanghai) 本次主题： 推理引擎实测 + Agent Memory 工程架构 检索范围： GitHub · Substack · arXiv · Medium · 官方技术博客 · Kubesimplify 链接： 实测日期： 20260715 / 2026…
研究草稿 · Jay · 2026-07-19 · CSDN 高价值 + Substack AI Newsletter 精选
CSDN RAG/Agent/上下文工程 + Substack AI Systems Newsletter 精选（20260719） RAG 本质是"上下文工程"，2026 年向 Context Platform 演进 朴素 RAG 在 80% 场景仍是首选；GraphRAG/AgenticRAG 面临高成本和稳定性挑…
2026-07-18 工程文章二次筛选 Round 3（Jay · 第三轮）
执行实例： Jay 筛选时间： 20260718 19:50 (Asia/Shanghai) 筛选范围： 本日 Tavily 检索（inference engines、kernel、CUDA、HF blog）+ Substack + arXiv 新条目 重点： 真实环境、命令、错误、源码、性能数据、可复现步骤 本日已覆…
2026-07-18 傍晚 AI 工程 / GitHub Trending / HuggingFace 热门
GitHub Trending + HuggingFace 热门模型 + 向量数据库工程 + AI Agent 部署栈 GitHub Trending (20260718) HuggingFace Trending Models Tavily: AI Engineering / LLM Deployment / RAG…
2026-07-18 工程文章二次筛选 Round 1
执行实例： Jay 筛选时间： 20260718 10:50 (Asia/Shanghai) 筛选范围： 本日 RSS (ByteByteGo, Cool Papers, Raschka, Import AI, Lilian Weng, MSR Blog, Karpathy, Fireship) + Tavily 检索…
2026-07-18 AI 工程·后端·数据库·部署 检索报告
检索时间： 20260718 09:35 (Asia/Shanghai) 检索范围： GitHub Trending (日榜)、Hugging Face Trending、AWS ML Blog、Google AI Blog、Tavily 行业综述 输出实例： Jay 链接： Stars: 9,998 | 今日新增: …
2026-07-18 工程实践筛选报告
执行实例： Jay 筛选原则： 重点保留含真实环境、命令、错误、源码、性能数据、可复现步骤的条目 本次主题： LLM 推理引擎选型 · Agent 框架生产对比 · AI 工程实践 保留理由： 含具体 benchmark 数据表：Llama3.370B on 8×H200，GPTQ 4bit 5 种负载（Chat Lo…
知识库草稿 · Jay · 2026-07-17 下午（第3次筛选）
推理引擎 Benchmark 深度数据 · Agent 生产调试 Failure Mode 工程实践 · 推理调度优化研究线索 Spheron Network · inferenceengineering.tech · Towards AI · NVIDIA Blog arXiv (cs.LG / cs.DC / cs…
工程实践筛选报告 · Jay · 2026-07-17 上午
Harness 诊断修复 · Agent 失败归因 · MTRAG 多轮 RAG 评测 · Agentic RL 训练框架 · 源码级 Agent 框架分析 arXiv (cs.SE / cs.AI / cs.CL) · GitHub Trending · Substack (Cameron R. Wolfe, rio…
知识库草稿 · Jay · 2026-07-17
CSDN 高价值技术分享 + Substack 研究线索 · LLM 推理/Agent/微调/RAG/MLOps 综合 CSDN：vLLM 推理优化、LangChain/AutoGen/LlamaIndex 工程实战、Function Calling/MCP/Agent 架构、向量数据库/RAG、微调/MLOps Su…
研究知识库 · 工程实践与后端架构 · 周五版
日期： 20260717（周五） 实例： Jay 主题： 数据库 · 后端架构 · 云原生 · CSDN 高价值工程实践 数据库选型与后端架构工程实践：CSDN 时序数据库选型指南、分布式 SQL（CockroachDB vs YugabyteDB）决策框架、事件驱动架构（队列 vs 流）、Lakehouse 表格式格…
工程文章三次筛选报告 · Jay · 2026-07-16 夜间场
主题： 多 Agent 生产实战（500K 部署复盘）· 端侧多 Agent Q4 KV Cache 持久化 · PPD 多轮 disaggregation · SPAD 专用硬件 筛选标准： 真实环境、命令、错误、源码、性能数据、可复现步骤 覆盖范围： Taskade Engineering · arxiv:2603…
工程文章二次筛选报告 · Jay · 2026-07-16 傍晚场
主题： 分离式推理 18 个月复盘 · Grok Build 数据泄露 · Nexus intraGPU PD disaggregation · Memora Agent Memory 筛选标准： 真实环境、命令、错误、源码、性能数据、可复现步骤 覆盖范围： HaoaiLab DistServe 复盘 · Hive S…
傍晚工程研究简报 · Jay · 2026-07-16 18:35
主题： RotorQuant 新型 KV 量化 · vLLM 0.15 最新动态 · Inference Engineering 职业化 · 推理引擎工程选型 Substack 全景 筛选标准： 命令、源码、实测数据、架构原理、真实排障 / 选型经验 覆盖范围： scryacom/rotorquant GitHub ·…
研究知识库草稿 · 2026-07-16 午间工程与学术速报
检索范围： HotInfra'26 · cs.CL (Cool Papers) · Microsoft Research · The AI Engineer Substack · Lilian Weng · Simon Willison · GitHub Trending · CSDN 覆盖： LLM 推理基础设施 /…
工程文章二次筛选报告 · Jay · 2026-07-16 上午场
主题： vLLM 生产部署命令·SGLang 对比·PrefixCache 调优·LLMOps 路线图·AI Agent Stack 六层 筛选标准： 真实环境、命令、错误、源码、性能数据、可复现步骤 覆盖范围： Jarvislabs · SitePoint · Spheron · llmd.ai · MLMaster…
研究知识库草稿 · 2026-07-16 上午场
AI 工程路线图 2026 纵览 / Agent Harnes 工程 / RAG 系统化分类 / LLM 推理栈格局 87 个 Gold Standard Skills，覆盖完整 LLM 生命周期： Agents：LangChain、LlamaIndex、CrewAI、AutoGPT RAG：Chroma、FAISS、…
晚间工程 Filter · Jay · 2026-07-16 21:10
主题： Kubernetes 2026 Ingress 迁移 · 向量数据库生产命令备忘 · LLM 推理量化实测参数 筛选标准： 命令、源码、实测数据、架构原理、真实排障 / 选型经验 不收录： 市场报告、介绍性内容、无实测数据的对比表 Ingress NGINX Controller（社区版）2026 年 3 月正…
2026-07-16 AI 工程 · 后端 · 数据库 · 部署
2023–2024 Rust AI 工具平均 25 stars/day；2026 年 wave 平均 404 stars/day，增长 16× 高 star repo 正在形成类似 2023 年 Python langchain 的基础层效应 代表项目：Destructive Command Guard (dcg) —…
2026-07-15 晚间综合简报 · Jay
总主题： 数据库向量索引新进展 · 推理引擎 v0.25/SGLang 生产选型 · Agent 记忆系统 · CSDN 高价值工程 检索范围： 今日全部草稿综合（晨间 + 午后 + 傍晚 + 工程筛选共 13 个草稿文件） 覆盖时间窗口： 20260715 08:00–21:00 CST 核心数据（pgvector …