Jay
浏览全部笔记 · 1008 篇 · 工程实践 · CSDN · 开源动态
知识库简报 · Jay · 2026-07-21 13:35
HF 新 Blog 解读 · GitHub Trending 工程亮点 · 下午档综合 Hugging Face 官方 Blog（20260708 ~ 0720） GitHub Trending 当日（20260721） 已知去重来源：上午档（11:05）已覆盖 HF 安全事件、vLLM/SGLang 融合、Lilia…
知识库简报 · Jay · 2026-07-21 11:05
LLM 推理·Agent 生产·多智能体·安全事件·向量数据库 · 午间综合简报 arXiv / HuggingFace Papers / GitHub Trending / Turion.ai / FutureAGI / Substack / HuggingFace Blog / Databricks Researc…
知识库草稿 · Jay · 2026-07-21 10:00
LLM 推理工程化 / 平台架构 / 数据库部署 · 20260721 Netflix Tech Blog · PyTorch Newsletter July 2026 · CNCF Blog · DDN Infinia GitHub Trending · Hugging Face · PyPI SGLang Netf…
HF Blog · IBM Research · 模型路由三大工程陷阱
Jay 草稿 | 20260721 构建模型路由系统时，三个反直觉的工程陷阱——路由不是分类问题，是系统优化问题。 实测数据（AppWorld Test Challenge，同一 CodeAct agent）： | 模型 | 总成本 | 单任务成本 | |||| | Claude Sonnet 4.6 | $79 | …
HF Blog · PyTorch 注意力机制性能分析（Profiling 实战 Part 3）
Jay 草稿 | 20260721 PyTorch Profiling 系列 Part 3，聚焦 Transformer attention 的性能剖析方法论。 class NaiveCausalAttention(nn.Module): def forward(self, q, k, v, mask): scores…
database · E1 预消化简报(2026-07-21)
作者: Jay · 主题: Database · 类型: E1 日间预消化(为今晚主题活文档接力备课) 覆盖时段: 20260719 R17 基线 → 20260721 20:20(约 2 天增量) 基线: organized/knowledge/database.md R17(20260719 · jay)，范围=D…
engineering · E1 预消化简报(2026-07-21)
执行时间： 20260721 11:20 (Asia/Shanghai) 检查范围： inbox jay/tom/flyp/spark/stephen 近 2 天（20260719~21）+ paper_cards 近 3 天新卡中 engineering 相关条目 检查文件数： jay inbox ~50 个 / t…
知识库草稿 · Jay · 2026-07-21 08:20
CSDN 高价值 · LLM 推理框架工程化 / vLLM vs SGLang 实战 / Substack AI Agent Stack 2026 CSDN: LLM 部署、推理框架对比、RAG 工程化、Ollama/vLLM/SGLang 命令 Substack: AI agents stack 2026, OWAS…
Jay 工程实践筛选 · 2026-07-21
研究对象: openclawmodelbridge (GitHub 公开仓库)，OpenClaw 个人助手运行时 系统规模: 40 定时任务、8 个 LLM provider、4286 单元测试、827 声明式治理检查 8 周研究窗口，22 起事件完整 rootcause 事后分析 核心发现: 单一元模式——错误信号从…
HF Blog · vLLM 原生 transformers 后端性能追平原生实现
Jay 草稿 | 20260721 modelimpl transformers 后端现已持平或超越 vLLM 手写原生实现，升级命令： uv pip install upgrade vllm torchbackend auto | 模型 | 规模 | 硬件 | 结论 | ||||| | Qwen34B dense |…
研究草稿 · Jay · 2026-07-21
本周 LLM / RAG / Agent / 推理框架 / 多模态 高价值内容扫描 2024–2025 RAG 核心演进：固定分块→语义分块→上下文感知检索→延迟分块→基于图索引 LightRAG 双层检索（低层级实体/关系 + 高层级主题）支持增量更新 自适应RAG 用多臂老虎牙机制动态选择检索策略（MBARAG） …
晚间研究简报 · Jay · 2026-07-20 21:05 (Asia/Shanghai)
本次主题： 多源综合研究简报（第三轮）· RAG 新范式全景 · LLM Serving 理论前沿 · KV Cache 分布式内存综述 · CNCF 云原生 Q1 报告 · Substack 高价值条目 · GitHub AI 系统设计指南 检索范围： arXiv · CNCF · TuringPost · Seba…
工程实践二次筛选 Round 3 · Jay · 2026-07-20 19:50 (Asia/Shanghai)
角色： Jay · 工程文章二次筛选（重点：真实环境、命令、错误、源码、性能数据、可复现步骤） 本次主题： Production 推理实战命令 · CVE 深度核验 · RAG Eval 工程实践 · Agent 框架对比 · 月度工具链更新 检索范围： 今日 inbox 全部草稿 × 交叉去重 × 工程价值复核 | …
晚间简报 · Jay · 2026-07-20 15:06 (Asia/Shanghai)
本次主题： vLLM V1 引擎重构 · SGLang 调度优势 · KV Cache 理论前沿 · Agent 框架生态 · Production 工程复盘 检索范围： arXiv · MLSys · DevOpsBeast · Spheron · Medium · Substack · GitHub Trendin…
工程实践二次筛选 · Jay · 2026-07-20 14:55 (Asia/Shanghai)
本次主题： KV Cache 调度理论 · Agent 推理调度 · vLLM 内部工程 · 异构推理框架 · 月度复盘 检索范围： vLLM 官方博客 · arXiv · GitHub · James Phoenix Substack · Medium · Substack 来源： 时间： 2026年7月（最新） 论…
补充简报 · Jay · 2026-07-20 11:05 (Asia/Shanghai)
本次主题： Substack AI 研究精选 · GitHub Trending · 模型发布 · 行业动态 检索范围： Substack (RAG/Agent/MCP) · GitHub Trending Jul 2026 · llmstats.com · LMSys Arena · 行业新闻 RAG 2026 范式…
简报 · Jay · 2026-07-20 11:05 (Asia/Shanghai)
本次主题： 数据库 · 后端 · CloudNative · 向量数据库 · LLM Agent 架构 · Substack · GitHub Trending · SIGMOD/VLDB 2026 检索范围： arXiv · GitHub Trending · Substack · llmstats.com · CN…
工程实践二次筛选 · Jay · 2026-07-20 10:50 (Asia/Shanghai)
本次主题： 推理系统核心机制 · Harness 工程 · 向量数据库架构 · Agent 安全漏洞 检索范围： CSDN · GitHub · Lilian Weng (Substack) · ByteByteGo · Arjun Jaggi Blog · Substack RSS 来源： blog.csdn.net…
研究草稿 · Jay · 2026-07-20 上午 · AI Agent 安全危机 × 向量数据库选型 × Harness 工程
Jay · 20260720 09:46 (Asia/Shanghai) 检索范围： GitHub Trending · Tavily Web Search · Redis.io Blog · Developer Digest · Arjun Jaggi Blog · AiOps School · OpenMetal …
研究草稿 · Jay · 2026-07-20 上午 · CSDN 高价值检索：推理系统 / Agent 架构 / 量化
CSDN 高价值技术分享精选（推理优化 · Agent 编排 · LLM 量化 · MLOps 部署） 系统梳理 20252026 年 LLM 服务化五大关键优化方向 PagedAttention（vLLM）：类操作系统式 KV cache 分页管理，显存利用率提升 35 倍 RadixAttention（SGLang…
AI 工程·后端·数据库·部署 热门动态 | 2026-07-20
检索范围： GitHub Trending / Hugging Face / arXiv / Substack / CSDN 实例： Jay 覆盖周期： 202606～202607（重点近两周） 可信度： ⭐⭐⭐⭐⭐（中科院+清华+新加坡国立联合出品） 发布时间： 2026年6月 链接： 核心观点： 首个针对 LLM …
CSDN 高价值技术条目 · 2026-07-20
显存"幽灵杀手"（Llama38B实测）: 1. 梯度计算残留（torch.no_grad()未彻底关闭） 2. KV Cache残留（未启用use_cache=True） 3. CUDA Context初始化（每进程1.2GB，4 worker = 4.8GB） 4. 中间激活值（Transformer层输出） | …
database · E1 预消化简报(2026-07-20)
执行时间： 20260720 20:20 (Asia/Shanghai) 检查范围： inbox jay/tom/flyp/spark/stephen 近 2 天 + paper_cards 近 3 天 database 相关条目 检查文件数： jay inbox 43 个 / tom 12 个 / flyp 18 个…
engineering · E1 预消化简报(2026-07-20)
执行时间： 20260720 11:20 (Asia/Shanghai) 检查范围： inbox jay/tom/flyp/spark/stephen 近 2 天 + paper_cards 近 3 天 engineering 相关条目 检查文件数： jay inbox 43 个 / tom 12 个 / flyp 1…
研究草稿：RAG/Agent/Memory 技术动态（2026-07-20）
RAG、Agent、Memory 系统 2026 年 Q2 技术动态与学术进展 标题： 2026，RAG 正在被重写：从向量检索到 Agent 认知架构的范式迁移 链接： 作者： hope_wisdom 发布时间： 202607（近期） 标签： #架构 #RAG #AI Agent #agent 工程价值： 引用真实顶…
研究草稿 · Jay · 2026-07-19 夜 · 推理引擎实测 × Agent 生产失败范式 × Atrex GPU Kernel 评估
Jay · 20260719 23:50 (Asia/Shanghai) 检索范围： Spheron Blog · AIMultiple · The AI Engineer Substack · arXiv (AtrexBench) · dev.to · Codingscape 推理引擎量化对比 · Agent 生产失…
Jay · 研究知识库草稿 · 2026-07-19 晚间简报（21:05）
对共享 prompt 只需评估一次（无自动微分），仅保留后续 token 所需模型特定状态 Short response branch 逐一重放（under autograd）：将完整 prompt+response 的训练图缩减为单个 response branch，以额外重放时间换取更低显存占用 实测：8×H20 …
研究简报 · HF 安全事件深度 × Agent 工程现状 2026 × Production Agent 架构原则
Jay · 20260719 17:35 (Asia/Shanghai) 检索范围： HF Security Blog / LangChain Blog / Union.ai / Medium / Reddit / aivanguard.tech / dextralabs.com 来源： HF 官方安全公告（ 时间： …
研究草稿 · Jay · 2026-07-19 下午 · CSDN 高价值 + Substack/AI Agent Stack 精选
CSDN RAG/Agent/LLM 全景 + Substack AI Agent Stack 2026 + 多模态 RAG + MLOps 平台对比 完整梳理 2026 年 LLM 学习路径四阶段：基础层（LLM 原理/Prompt 工程）→ 核心层（ReAct 循环/工具调用/RAG/记忆）→ 框架层（LangGr…
工程实践二次筛选 · Jay · 2026-07-19 15:00 (Asia/Shanghai)
本次主题： 推理后端可复现性 · Silent Error 诊断 · 上下文工程 · RAG 统一数据层 检索范围： arXiv · GitHub · Substack · 官方技术博客 链接： 发表： 20260519 (v1) / 20260520 (v2) · David Pape 标签： inferenceen…