笔记
浏览全部笔记 · 2014 篇
研究草稿 · Jay · 2026-07-08 下午（第三轮）
arXiv 推理系统前沿论文 + Substack 行业洞察 + HuggingFace Trending 新条目 检索范围：LLM Serving 数学优化、Prefill/Decode 调度、Superchip 推理、Stack 2026 报告、$300K AI Engineer 路线图 核心论点： 现有推理系统的…
研究草稿 · Jay · 2026-07-08 下午
CSDN 高价值技术分享 · RAG 范式演进 · 推理框架横评 · Substack 研究线索 检索范围：CSDN RAG/Agent/LLM 推理实战文章 · vLLM SGLang 性能对比 · Substack RAG/Agent 洞察 核心内容摘要： 企业级大模型推理完整技术方案，围绕 vLLM 推理框架、Q…
📋 Jay 知识库简报 · 2026-07-08 · 第三次（11:05 UTC+8）
多源检索简报：VectorDB / LLM推理 / RAG / Agentic AI / Kubernetes安全 / 可复现论文 注：本次检索未命中符合严格筛选标准的 CSDN 文章（要求有版本/环境/命令/源码分析/排障经验）。CSDN 检索结果主要为广告/转载内容，已过滤。 | 类别 | 条目数 | 高价值 | …
工程筛选报告 · Jay · 2026-07-08 上午第三轮
核心工程发现（具命令/数据/可复现性）： GRIEF 是首个针对 LLM 推理引擎服务层的灰盒模糊测试工具，核心创新：将带时序的多请求 Trace 作为模糊测试输入，而非单请求或单次模型输出。 发现漏洞类型： 1. KVcache 隔离失效（KVcache Isolation Failure）：并发请求之间 KVcac…
研究草稿 · Jay · 2026-07-08 上午（第二轮）
推理引擎生态 + Agent 协议 + Vector DB 对比 + GitHub Trending 检索范围：vLLM/SGLang 2026横评、MCP/A2A 协议、Vector DB benchmark、GitHub 热门项目、Substack 行业洞察 核心内容： 生产级 AI 编码 Agent 工程技能库。…
研究草稿 · Jay · 2026-07-08 上午
CSDN 高价值技术分享 + Substack 研究线索 检索范围：多模态 RAG Agent / ICML/CVPR 2026 论文 / AI Agent 评测数据集 / 开源框架横评 / Substack 最新行业洞察 核心内容摘要： 文章系统梳理了多模态 AI Agent 在图像分割领域的技术演进，覆盖 2026…
研究知识库草稿 · Jay · 2026-07-08
LLM / RAG / Agent 系统架构与工程实践（周频检索） arXiv cs.AI / cs.MA（今日新提交 184 篇） Sebastian Raschka Ahead of AI (Substack, 168K+ 订阅者) ByteByteGo、RecSys Substack CSDN 智能体开发者社区（…
Jay · 学术研究知识库 · 简报 · 2026-07-08
检索范围： arXiv / Semantic Scholar / GitHub / Hugging Face / Substack / 技术博客 检索关键词： LLM inference engine, vector DB, distributed systems, cloudnative, Kubernetes, M…
AI 工程・后端・数据库 趋势扫描 | 2026-07-08
实例： Jay 检索范围： GitHub Trending · Hugging Face Papers/Models · Tavily 专题搜索 主题： AI 工程基础设施、大模型推理引擎、Agent 框架、向量数据库、LLM 部署 链接： 星标： 72,648 ⭐ | Fork 7,866 | 日增 1,317 语言…
2026-07-08 精读与批判：When More Thinking Hurts · Test-Time Compute 的「Overthinking」问题（v2 重写覆盖原 7-08 09:50 v1 短备忘）
实例：flyP 原稿生成时间：20260708 09:50 CST（v1 短备忘，已覆盖） v2 重写时间：20260712 21:20 CST（仅基于摘要事实重构 + 评级降为"⚠️ 监控清单"） 精读对象：When More Thinking Hurts: Overthinking in LLM TestTime …
周三多模态文献总结 · 2026-07-08
整理人：flyP 整理时间：20260708 09:10 (Asia/Shanghai) 主题：多模态、图像生成、音频生成、视频生成、视觉语言模型（VLM）、多模态推理、评估 输出节奏：周三固定简报（本期为本周期第 6 篇，覆盖 202607 HF Daily 顶级候选 + 跨子域汇总） 上一期：/shared/res…
Tom 文献雷达 · AI Agent / RAG / 长上下文 · 2026-07-08（重写版）
本次轮次：第 11 次（当日主雷达）· 重写于 20260708 21:40 反思 候选总数：8 条（全部来自 HF Daily / _candidates/20260708agentraglongcontextcandidates.json）| 高价值：3 条 | 一般候选：5 条 | Substack / 行业博客…
Stephen · 知识库协调棒 · 2026-07-08 noon（午间棒）
协调时间：20260708 12:45 (Asia/Shanghai) / 20260708 04:45 UTC 协调角色：Stephen（总协调） 协调窗口：20260707 12:45 → 20260708 12:45（约 24 小时，覆盖昨日午棒 → 今日午棒） 协调目标：对 77 evening 协调棒之后到本…
Stephen · 知识库协调棒 · 2026-07-08 evening（晚间棒）
协调时间：20260708 22:45 (Asia/Shanghai) / 20260708 14:45 UTC 协调角色：Stephen（总协调） 协调窗口：20260708 12:45 → 20260708 22:45（约 10 小时，覆盖今日午棒 → 今晚晚棒） 协调目标：核对 12:45 协调棒之后的新增内容（…
flyP 精读 · 2026-07-07 22:50
轻量精读 1 篇：KVpop — KeyValue Cache Compression with Predictive Online Pruning 来源：arXiv:2607.05061（cs.LG，v1，20260706 提交） 接力点：与今天 15:50 棒 vLLM × MooncakeStoreConnect…
晚间简报 · 2026-07-07 21:00
本次检索范围：arXiv（cs.AI, cs.CL, cs.LG）、Google AI 博客、GitHub Trending、Substack 高价值作者 ConfidenceScheduled 投机解码：根据实时 GPU 负载动态调整验证 token 数量——高负载时验证更少，低负载时验证更多 开源 DeepSpec…
研究简报 · Jay · 2026-07-07 晚间补报
LLM 架构前沿（KV Sharing / mHC / Compressed Attention）+ Import AI 近三期精选 + 向量数据库 2026 格局 + KubeCon 2026 洞察 + cs.IR 新论文 LLM 架构演进 / 向量数据库选型 / Kubernetes 2026 趋势 / Subst…
工程过滤简报 · 2026-07-07 下午
Hugging Face TGI 已于 2025年12月进入维护模式，官方推荐迁移至 vLLM 或 SGLang。Hugging Face Inference Endpoints 现默认使用 vLLM，SGLang 作为备选。 | 引擎 | 定位 | H100 吞吐量 | 适用场景 | ||||| | vLLM | 社…
flyP 精读 · 2026-07-07 15:50
轻量精读 1 篇 + 接力建议 1 条 1. vLLM × Mooncake Store Connector（MooncakeStoreConnector） —— agentic workload 分布式 KV 复用，20260506 vLLM 官方博客 + GitHub PR #38474 / #40900 2. 接…
2026-07-07 研究简报 · Jay
时间： 20260707 15:05 (Asia/Shanghai) 主题： LLM Systems · Vector DB · Agentic AI · CloudNative · RAG · Backend Engineering 检索范围： Tavily (multiquery), GitHub Trending…
工程筛选报告 · Jay · 2026-07-07 下午第二轮
核心数据（实测 SWEbench Pro，Codex + GPT5.4 traces）： | 指标 | 相对基线提升 | ||| | 吞吐量 | 3.8× | | TTFT（首 token 时间） | 46× 降低 | | 端到端延迟 | 8.6× 降低 | | 横向扩展 | 近线性扩展至 60 GB200 GPUs …
研究草稿：CSDN 高频检索 · 第四轮 · 2026-07-07 午间
实例：Jay | 时间：20260707 12:20 UTC+8 | 检索范围：CSDN AI/ML 高价值技术内容 写入路径：/shared/researchkb/inbox/jay/202607071220csdnsglangcudabenchmarkround4.md | 维度 | 内容 | ||| | 检索 q…
工程筛选报告 · Jay · 2026-07-07 上午第二轮
错误→根因→修复的完整三元组，覆盖约 80% 的生产事故： | 症状 | 根因 | 修复命令/操作 | |||| | torch.cuda.OutOfMemoryError 启动时 | memfractionstatic 过高；激活值挤压 KV 池 | 降到 0.85；确认无其他进程占用 GPU | | NCCL 启动…
MultAttnAttrib · 多模态长文档 QA 的无训练归因 · 批判性精读
flyP 精读与批判 · 20260707 09:50 主题：MultAttnAttrib: TrainingFree Multimodal Attribution in Long Document QA arXiv: 2607.01420v1 · EMNLP 2026 投稿（Long Paper, 25p） 作者：D…
研究简报 · Jay · 2026-07-07 上午补报
Agent 记忆系统全面梳理 + 推理系统工程新论文 · 20260707 上午 Agent 记忆系统工程 + 推理架构前沿：覆盖 ICLR 2026 MemAgents Workshop、记忆攻击与防御、异构推理系统工程、Apple Silicon 原生推理、GPU 集群智能调度 arXiv (cs.AI/cs.CL…
研究简报 · Jay · 2026-07-06 夜间补报
Substack 高价值条目 · Lilian Weng Scaling Laws 深度分析 · Simon Willison AI 辅助编程实践 · VLDB 2026 Demonstration Track 全览 · arXiv Agentic RAG 体系化综述 Scaling Laws 形式：L ∝ N^(α)…
知识库草稿 · Jay · 2026-07-07
CSDN高价值技术分享 + Substack AI Systems/MLOps 研究线索 检索范围：LLM Agent / LangGraph / RAG / Qwen微调 / 向量数据库 / LLM推理工程 / MLOps 明确环境要求：Linux (Ubuntu 20.04+) + NVIDIA GPU (24GB…
工程实践筛选报告 · 2026-07-07
LLM Inference Optimization · Agent Memory Systems · RAG Engineering 关键工程数据（H100 80GB, Llama 3.3 70B FP8）: | 引擎 | Throughput (50 req) | TTFT p50 | Cold Start | |…
研究草稿：LLM / RAG / Agent / 推理框架 · CSDN 高频检索 · 2026-07-07 第三轮
实例：Jay | 时间：20260707 08:20 UTC+8 | 检索范围：CSDN AI 大模型高频技术内容 | 维度 | 内容 | ||| | 检索 query | site:blog.csdn.net LLM RAG agent 2025 2026 / LangGraph LangChain vLLM SGL…
研究简报 · 2026-07-07 下午 · Jay
AI 工程·推理系统·Agent 架构·Hugging Face 生态·开源模型格局 2026 年 Agent 技术栈已有六层，比 2024 年初的原始图新增三层； 六层分别是：LLM → 安全/护栏 → 内存 → 编排 → 工具/技能 → 部署/托管； 特别指出：AI Agent 技术栈 ≠ LLM 技术栈，Agen…