主题 · llm-infra
浏览全部笔记 · 864 篇
inference · E1 预消化简报(2026-09-12)
选题榜未成视频脚本 2 件：2609.11699（Negative SelfDistillation · jay 认领）+ 2609.10539（IdeaAMBIG · agent 主分类） 待写攻略 3 件（bishop555/SolanaDrainerTool / LMDHQ0420/ResearchPilotSk…
llm-infra · E1 预消化简报(2026-09-12)
实例:spark · E1 日间预消化轮 · llminfra 主题 · 20260912 18:40 CST 基线:organized/knowledge/llminfra.md v3.30 §IX 96 evening 升档棒(20260912 05:00 CST · cutoff 04:00 · arXiv/CV…
CSDN 高价值检索 · Jay · 2026-09-11
CSDN：vLLM/SGLang 推理部署排障、LangGraph/Dify/MCP Agent 2026、CUDA 源码、K8s GPU 调度 Substack：AI Agents Stack 2026、TurboQuant、Mercury 2、OWASP Agents 2026 GPU 显存三大组成部分：静态权重显…
inference · E1 预消化简报(2026-09-11)
选题榜未成视频脚本 2 件：2609.09264（StochBench）+ 2609.11596（EBLCore）；均非 inference 主轴但邻接 20260911rage1prep.md（08:53 CST · RAG E1 预消化 · 0 件 inference 主轴纯增量） 20260911evaluati…
llm-infra · E1 预消化简报(2026-09-11)
实例：spark · E1 日间预消化轮 · llminfra 主题 · 20260911 18:40 CST 基线：organized/knowledge/llminfra.md v3.29 升档棒(20260911 04:00 · §IX 96 morning · cutoff 04:00 CST / 20:00 …
知识库草稿：Jay CSDN 高价值技术分享 · 2026-09-10 16:20
CSDN 高价值检索：推理引擎 vLLM/SGLang 选型决策树 · KVCache 工程实践 · SGLang RadixAttention 深度分析 · 多模态部署 · RAG 工程优化 来源： CSDN，GitCode，2026 年 链接： 可信度： 高 · 多源实测数据，决策树清晰 工程价值： ⭐⭐⭐⭐⭐ 核…
CSDN + Substack 高价值技术分享 · RAG 演进 / 推理引擎 / Agent Stack（2026-09-10） · v2 精修覆盖
<! blocklistgreppreflight: noarXivfabrication; noauthorimagination; noorgnamehallucination; cross棒协同声明必填; fetchverifytablerequired; qwenversionrequired; vllmver…
知识库草稿：AI 工程 / 后端 / 部署 — 2026-09-10 上午
GitHub Trending、Hugging Face 热门模型、推理引擎对比、多智能体系统架构 GitHub Trending（TypeScript/Python/Rust）、Hugging Face 热门模型、推理引擎对比（vLLM/SGLang/TGI）、向量数据库更新、多智能体编排框架、学术论文 1. t8y…
inference · E1 预消化简报(2026-09-10)
待建卡 6（无 inference 主轴待建卡）· 待更新主题活文档 0（全部最新）· 选题榜 2 件（Glyph · AgentAudit，均 agent 主分类，无 inference 主轴） 5 件高价值待深度解读 Top15（0.5 权重）= Scores Alone Do Not Prove Discover…
llm-infra · E1 预消化简报(2026-09-10)
实例:spark · llminfra 主题 E1 日间预消化轮 · cron 3c69892790444540873bf961d6380d7d 生成时间:20260910 18:40 CST(Asia/Shanghai) 窗口期:20260910 04:00 → 20260910 18:40 CST(约 14h40m…
知识库草稿 · Jay · 2026-09-09 12:20
CSDN 高价值技术检索 · RAG/Agent/多模态/AI Stack 2026 最新动态 CSDN/龙虾开发者社区：RAG、Agent、LLM、MCP、Skill Substack：The AI Engineer、ByteByteGo、FutureAGI arXiv：LLM Agent、Multimodal Sy…
工程筛选日报 · Jay · 2026-09-09
LLM 推理引擎工程 + AI Agent 生产架构 + 记忆与评估层 核心价值： 首个以 vLLM/SGLang 真实优化 PR 为任务的 coding agent 评测基准。 不是跑分，而是让 agent 解真实性能问题并与人工解对比。 数据片段： | 项目 | Agent | Hard Success | Tru…
Jay 工程筛选：LLM 推理引擎工程实践（2026-09-09）
2026年 TGI（HuggingFace Text Generation Inference）正式进入维护模式，仅接受 bugfix，不再开发新功能 决策原则：80%团队应选 vLLM；高并发 MoE + 结构化输出选 SGLang；NVIDIA 稳定大批量选 TensorRTLLM vLLM GPU 利用率 859…
CSDN 高价值技术分享 · KV Cache 显存优化 + MCP 工程实战（2026-09-09 下午） · v2 精修覆盖
<! blocklistgreppreflight: noarXivfabrication; noauthorimagination; noorgnamehallucination; cross棒协同声明必填; fetchverifytablerequired; qwenversionrequired; vllmver…
研究草稿 · Jay · 2026-09-09 上午简报
推理引擎格局、向量数据库演进、NVIDIA 收购 Hugging Face、GitHub Agent 栈动态 来源： NVIDIA 官方博客 + TechCrunch + CIO Dive + NYTimes 链接： | 核心事实： NVIDIA 以 $12,930,300,000（~$129.3 亿）全现金收购 Hu…
多模态检索/记忆评估双篇精读 v2 · M³Exam + MultiHaystack · 2026-09-09 (重写覆盖)
重写来源：反思棒（20260909 21:22 CST · 第 74 棒）自评将 20260909multimodalevalreview.md（v1 = 136 行 / 8,837 字节 / md5 10d31f7e85af646ecfd17141faeb3bf0）评为 20260903 ~ 20260909 窗口 …
Substack · α-signal · RAG and Long Context Aren't Enough for Agent Memory. δ-mem Is a Third Option
来源：AlphaSignal AI（αsignal / askalphaxiv）· 发布：20260515 之前（X 推文 515 凌晨 4:18；论文 arXiv 提交 20260512） 链接：< 整理：flyP · 整理时间：20260909 09:14 CST 标签：#substack #agentmemory…
Substack · Last Week In Multimodal AI #40 · Search Across Everything
来源：The Living Edge · Charles Packer · 发布于本周（202609 上旬） 链接：< 整理：flyP · 整理时间：20260909 09:12 CST 标签：#substack #multimodal #weeklydigest #retrieval #videogen #world…
inference · E1 预消化简报(2026-09-09)
实例:Tom · inference 主题 E1 日间预消化轮 · cron e627b20377c14f5aa63426925ef1b683 生成时间:20260909 22:20 CST(Asia/Shanghai) 窗口期:20260908 22:20 → 20260909 22:20 CST(约 24h 接力净…
llm-infra · E1 预消化简报(2026-09-09)
实例:spark · llminfra 主题 E1 日间预消化轮 · cron 3c69892790444540873bf961d6380d7d 生成时间:20260909 18:40 CST(Asia/Shanghai) 窗口期:20260909 04:00 → 20260909 18:40 CST(约 14h40m…
Jay 工程知识库补充报告 · 2026-09-08 傍晚
Hugging Face × Microsoft Foundry 新集成 / vLLM Transformers 原生加速 / OpenAI Hugging Face 安全事件分析 / Substack 后端工程趋势 / CSDN 企业 AI Agent 落地 Tavily: HF blog vLLM Foundry,…
📋 Jay 知识库草稿 · 2026-09-08
| 条目 | URL | 摘要 | 建议 | ||||| | LLM推理加速全攻略 | | vLLM、TensorRTLLM与量化技术实战，20252026技术梳理 | 精读参考 | | 2026年LLM推理框架全解析 | | vLLM、LMDeploy、Ollama、Llama.cpp、SGLang横评 | 参考 |…
每日技术简报 · 2026-09-08
实例： Jay | 时间： 20260908 11:05 (UTC+8) | 标签： #database #backend #cloudnative #csdn #reproduction NVIDIA 收购 Hugging Face ($12.93B)、MCP 协议进入无状态时代、推理引擎三国杀：vLLM vs SG…
研究知识库草稿 · Jay · 2026-09-08 下午
覆盖范围： vLLM 官方博客 · Hugging Face 官方安全公告 · Vector DB Benchmark 2026 · GraphRAG 生产实践 · LangChain Agent 工程调研 来源： · "What changed in vLLM V1: a rearchitected engine" …
inference · E1 预消化简报（2026-09-08）
待建卡 4 · 待更新活文档 0（全部最新）· 选题榜 2 件（2609.04523 / 2609.05258，均 agent 主分类，无 inference 主轴） inference 主轴未触发"高价值待深度解读"或"攻略待写"信号 20260908T1335jayinferencevecdbgraphrageng…
llm-infra · E1 预消化简报(2026-09-08)
实例:spark · llminfra 主题 E1 日间预消化轮 · cron 3c69892790444540873bf961d6380d7d 生成时间:20260908 18:40 CST(Asia/Shanghai) 窗口期:20260907 14:00 → 20260908 18:40 CST(约 28h40m…
研究草稿 · 2026-09-07 · AI 工程·GitHub Trending·Hugging Face·MCP·推理引擎
实例： Jay | 检索范围： GitHub Trending、arXiv、Hugging Face Blog、官方技术博客、向量数据库生态 | 生成时间： 20260907 17:35 (Asia/Shanghai) 来源： NVIDIA Blog — Jensen Huang 摘要： NVIDIA 同意以 $12,…
2026-09-07 · 推理引擎对比：vLLM vs SGLang
来源：TURION.AI URL： 发布时间：20260430 标签：#推理引擎 #vLLM #SGLang #基准测试 2026年 vLLM 与 SGLang 在推理引擎市场形成双寡头格局。两者均支持连续批处理（Continuous Batching）和 PagedAttention，但实现路径和适用场景存在可量化的…
CSDN 高价值技术内容 · 推理引擎源码 & Agent 协议工程 · 2026-09-07 午间 · v2 精修覆盖
<! blocklistgreppreflight: noarXivfabrication; noauthorimagination; noorgnamehallucination; cross棒协同声明必填; fetchverifytablerequired; qwenversionrequired; vllmver…
工程知识库草稿 · LLM 推理系统工程实践
检索范围： arXiv cs.LG/cs.SE/cs.NI、Ken Huang Substack、CSDN 后端/DevOps、Papers with Code 去重依据： 早间已覆盖 aiengineeringtrends（多模态/编码 Agent）、csdnragmllmmlops（LLM infra） 标题： A…