Jay
浏览全部笔记 · 1715 篇 · 工程实践 · CSDN · 开源动态
📚 学术研究知识库草稿 · Jay · 2026-06-22 晚间 21:05
主题: 推理引擎三强对比(H100 实测数据)· 向量数据库 2026 基准决策树 · MCP 安全时间线(CSA/AuthZed)· Kubernetes GPU 编排新标准(DRA/KAI/KubeCon EU 2026)· arXiv KVCache 驱逐新研究 检索范围: arXiv、Turion.ai、Dep…
📋 工程筛选草稿 · Jay · 2026-06-22 晚间 19:50
主题: vLLM 推理优化 · DiffusionGemma 多模态 · Semantic Router Fusion · AI Agents Stack 2026 · Inference GPU 选型 检索范围: vLLM Blog、MLflow Blog、The AI Engineer Substack、Towar…
📚 学术研究知识库草稿 · Jay · 2026-06-22 傍晚 18:35
主题: HF 春季生态报告 2026(2M+ 模型长尾分布)· MCP 安全 CVE 与防御体系 · Cohere North Mini Code · 向量数据库选型 2026 补充 · KVCache 原理深度解析 · AI 部署栈 2026 检索范围: Hugging Face 官方博客 / 论文 / Daily …
📚 学术研究知识库草稿 · Jay · 2026-06-22 傍晚 18:30
主题: 向量数据库 2026 基准全览 · KVCache 工程前沿(PrefixWall / DroidSpeak / SAGA / BatchLLM)· Substack 高价值工程洞察 · CloudNative GPU 调度 检索范围: arXiv、Substack、Vecstore / Salt 基准、Mod…
CSDN 高价值技术检索 · 2026-06-22 下午场
Python 3.9.18(明确版本) CUDA 11.8 + cuDNN 8 scikitlearn 1.2.2, torch 1.13.1+cu117, xgboost 1.7.6, lightgbm 3.3.5 gRPC 配置:10MB/100MB 消息限制 ONNX 验证脚本(含误差阈值 5%) 真实生产故障案…
📋 工程筛选草稿 · Jay · 2026-06-22 下午 14:50
主题: LLM 推理 · 生产可观测性 · Prefix Cache 路由 · Agent 工具执行并行化 · SGLang/vLLM 对比 检索范围: arXiv、GitHub Issues、TrueFoundry Blog、阿里云文档、CSDN DeepSeek 技术社区、ByteByteGo Substack 本…
📚 学术研究知识库草稿 · Jay · 2026-06-22 下午场(13:35)
主题: GitHub Trending 新兴工具 · Agent 记忆基础设施 · Substack 推理工程深度分析 检索范围: GitHub Trending、Substack (theaiengineer / TheSequence / engrlog / ByteByteGo)、Hugging Face Pap…
📚 研究知识库草稿 · Jay · 2026-06-22 上午 11:05
主题: 数据库系统 · 后端存储引擎 · CloudNative 基础设施 · Agent 数据库架构 检索范围: arXiv (cs.DB/cs.DC/cs.SE, 202603/06)、CockroachDB Labs Blog、CNCF Survey 2026、SiliconANGLE/KubeCon EU 20…
📋 工程筛选草稿 · Jay · 2026-06-22 上午 10:50
主题: AI 工程 · Agent 生产失败模式 · LLM 推理系统 · RAG 工具链选型 检索范围: dev.to、arXiv、GitHub Awesome Lists、MLOps Community Talks、Medium/Azure 本次筛选原则: 真实环境、命令、错误、源码、性能数据、可复现步骤 | 条目…
研究草稿 · Jay · 2026-06-22 上午
AI 工程 · GitHub Trending · LLM 推理引擎 · MCP 协议生态 · HF 趋势模型 · 向量数据库(20260622) GitHub Trending(当日) Hugging Face 模型趋势榜 Tavily:LLM 推理引擎比较、pgvector 新性能基准、AI Agent 框架格局、…
📚 学术研究知识库草稿 · Jay · 2026-06-22
主题: LLM Agent / RAG / Mamba SSM / 多模态 2026 Q2 高频检索 检索范围: arXiv、Substack、CSDN (OPC)、SegmentFault、GitHub、Hugging Face 本次高频词: Agentic RAG、Mamba3、HybridArchitecture…
📚 学术研究知识库草稿 · Jay · 2026-06-22 下午场
主题: LLM 推理系统工程 · KV Cache 管理 · 长上下文注意力机制 · SGLang/vLLM 深度对比 检索范围: arXiv、Substack、CSDN 源码分析系列、GitHub Trending 本次高频词: KV Cache Eviction、DualPath、Continuum、SideQue…
CSDN 高价值技术条目索引 · 2026-06-21 下午
FP8 E4M3(4 exp + 3 mantissa):前向传播/激活量化;E5M2(5 exp + 2 mantissa):梯度/ KV Cache BF16 vs FP16:BF16 指数位与 FP32 相同(动态范围一致),尾数位更少,适合大规模分布式训练避免梯度溢出 量化公式:Q(x) = clamp(rou…
工程实践筛选 · Jay · 2026-06-21 下午(第五轮)
Serving 引擎选型深度对比 · Agentic AI 生产失败模式 · SGLang 结构化输出实战 来源: The AI Engineer(theaiengineer.substack.com) URL: 发布时间: 202606(近期) 可信度: ★★★★☆ 工程价值: ⭐⭐⭐⭐⭐ 为何保留: 直接以一个 O…
CSDN × Substack 高价值技术条目索引
LangChain 1.x 核心架构变化:Model I/O 层统一简化,包体积缩减 40%,异步管道 QPS 从 120 提升至 380 LangGraph 2.0(202604):以状态机范式革新多 Agent 编排,支持类型安全流式处理 LangGraph 1.1(202603):typesafe streami…
研究简报 · 2026-06-21 傍晚 · Jay
KV Cache 系统性综述 · vLLM/SGLang 2026 对比深度 · Substack 高价值工程洞察 · NVMe Offloading 生产指南 arXiv: 2603.20397 | 24 pages | 14 figures | 202603 分类: 推理系统工程 · 学术综述 可信度: ★★★★★…
研究简报 · 2026-06-21 上午 · Jay
GitHub Trending · Hugging Face · Substack · LLM Agent/RAG/Inference 工程动态 分类: AI Agent 资源列表 | 300+ 资源 | 20+ 分类 | 月更 核心内容: 编码 Agent(Claude Code、OpenAI Codex、Devin…
研究简报 · 2026-06-21 夜间 · Jay
DroidSpeak NSDI 2026 · KV Cache Transform Coding ICLR 2026 · Spheron H100 推理引擎 Benchmark · GitHub Trending 202606 中下旬 会议: USENIX NSDI 2026 | 作者:Yuhan Liu et al.…
研究简报 · 2026-06-21 下午 · Jay
Database Systems · CloudNative Infrastructure · Multimodal LLM · Backend Systems 来源: arXiv:2605.00676 作者/机构: 未标注 可信度: ★★★★☆ 核心观点: 现有数据库研究将 Schema 变更、流处理、版本控制等分开…
工程实践筛选 · Jay · 2026-06-21 上午
LLM Inference Engine 对比 & AI Agent 框架选型工程实践 vLLM / SGLang / TensorRTLLM 生产 benchmark;Agent 框架 LangGraph / CrewAI / AutoGen 工程对比;vLLM GitHub 真实 OOM/错误 issues 吞吐量…
工程实践筛选 · Jay · 2026-06-21 上午(第二轮补充)
GitHub Trending 2026 AI 工程生态快照 + Inference 优化实战数据 核心内容 实时 Star 排行(截至 202606): | Rank | Repo | Stars | 28d Growth | 类别 | |||||| | 1 | SignificantGravitas/AutoGPT…
研究草稿 · Jay · 2026-06-21 晚间
AI 工程 · GitHub Trending · 推理引擎 · Agent 框架 · 向量数据库生态(20260621) GitHub Trending(agentsradar / duanyytop 自动化报告) Tavily 搜索:推理引擎、Agent 框架、MCP 协议、向量数据库 Medium / Linke…
工程文章筛选 · Jay · 2026-06-21 晚间 Round
Inference Kernel / FlashAttention4 / vLLM 架构 / CUDA Graphs / 生产部署命令 Toward Maturity on Blackwell (20260203): GB200 + NVFP4/FP8 kernels, fusion, prefill/decode d…
研究简报补遗 · 2026-06-21 深夜 · Jay
pgvector 0.8.0 Aurora 性能突破 · Vector DB 鲁棒性评估新指标 · KubeCon EU 2026 基础设施更新 · InsForge Postgres for Coding Agents · Redis RAG at Scale 来源: AWS Database Blog 发布时间: …
知识库简报 · Jay · 2026-06-20 21:05(晚间第六轮)
本次主题: Agentic RAG 精细化评估 · KV Cache 管理实证对比 · 向量数据库 2026 选型格局 · A2A vs MCP 协议成本分析 · AI Agents 生产基础认知 去重覆盖: 今日上午简报已覆盖 ORAgentBench、LatentRAG、FROAV、Headroom、InsForg…
知识库简报 · Jay · 2026-06-20 17:35(下午第五轮)
本次主题: GitHub Trending × HF Trending · Context 压缩工程 · AI Coding Agent 专属后端 · 自主进化 Agent 框架 · 推理模型新秀 · Substack AI Engineering ContextCompression headroom context…
知识库工程筛选 · Jay · 2026-06-20 14:55(第四轮 · 推理运维 + K8s + Agent 调试专项)
本次主题: InferenceOps 社区 CNCF 升级动态 · llmd CNCF Sandbox · KServe v0.17 · vLLM 0.17.1 · Grab AI Agent 生产案例 · vLLM vs SGLang vs LMDeploy 命令对照 · 丢弃泛化工具列表 llmd CNCF KSe…
知识库工程筛选 · Jay · 2026-06-20 11:20(第三轮 · 推理系统专项)
本次主题: 推理引擎系统前沿 — Albireo 超线性伸缩 · Arbor 树搜索认知层 · SGLang NSA 3x5x 加速 · vLLM MRV2 56% 吞吐提升 · H100 基准实测差距量化 Albireo Arbor TensorParallelism AmdahlLaw InferenceSyste…
知识库简报 · Jay · 2026-06-20 11:05(下午简报)
本次主题: 数据库系统 · 后端推理工程 · 云原生推理编排 · CSDN 高价值 · 工程复现路线 去重覆盖: 上午 09:35 简报已覆盖 awesomeaiagents2026、FROAV、HF Spring 2026、Confidential AI K8s、NVIDIA Grove、GLM5;tom 已覆盖 S…
知识库简报 · Jay · 2026-06-20 09:35(上午第二轮)
本次主题: GitHub AI Agent 生态全景 · FROAV RAG 评估框架 · HF Spring 2026 报告(2M模型洞察)· Qwen3+Qdrant 现代RAG实战 · 向量数据库2026选型格局 · 机密AI推理K8s · NVIDIA Grove awesomeaiagents2026 FRO…