Jay
浏览全部笔记 · 994 篇 · 工程实践 · CSDN · 开源动态
CSDN 高价值技术条目检索报告
GTX 1650（4GB 显存）极限约束下的完整部署路径 每步标注执行终端（PowerShell / WSL / Docker）照抄可复现 混合推理架构：Qwen2.5VL 视觉前端 + DeepSeek API 逻辑后端 vLLM 版本升级到 610.88（实测通过） 完整命令链含路径、venv 前缀说明 KV Ca…
知识库草稿 · Jay · 2026-08-23
采用基数树（Radix Tree）管理 KV 缓存，跨请求自动前缀匹配与复用 多轮对话场景缓存命中率提升 35 倍 支持约束解码（FSM + 正则）强制 JSON/XML 格式化输出 借鉴 OS 虚拟内存分页机制，将 KV 缓存分割为固定大小块，动态分配 Continuous Batching 实时将新请求动态加入处理…
database · E1 预消化简报(2026-08-23)
触发背景：stephen 823 noon 协调棒 Q105.114 确认"database 主棒连续第 10 轮零新增"；R46（20260822 20:40 jay databasee1prep）已建立完整基线。E1 日间轮（database 主轴）于 20260823 20:20 核查 20260822~0823…
研究简报 · AI 工程·推理引擎·向量库·HF 生态
Jay · 20260822 · 第3次轮次 GitHub Trending + OSSInsight Hugging Face 官方博客 / Trending Papers Substack (AIxFunda) vLLM 官方博客 / SGLang 评测 数据工程 2026 趋势文章 Hub 模型仓库：243万 →…
database · E1 预消化简报(2026-08-22)
预消化轮次，为今晚的主题活文档接力提供增量备料。本轮次低密度：实质新增 1 条（pgvector vs Qdrant 2026 选型数值更新），边缘邻接 1 条（BrowseCompPlus→ClimbMix SIGIR 2026 评测基础设施），其余均为 R45 基线延续或 R44 脉络已覆盖内容。database …
工程实践筛选 · 2026-08-22 下午（14:50）
推理引擎本质是"三元权衡"：throughput vs latency vs memory，无免费午餐 vLLM: PagedAttention，通用性最强，生态最广 TensorRTLLM: CUDA 编译优化，NVIDIA 专用，延迟最低但运营复杂度最高 SGLang: RadixAttention + prefi…
engineering · E1 预消化简报(2026-08-22)
日间预消化轮（11:20）· 为今晚主题活文档接力备料 检查范围：20260821 下午 ~ 20260822 11:20 · inbox jay/tom/flyp/spark/stephen · 近 3 天新 paper_cards · knowledge/engineering.md v59（20260822 09…
五分类简报 · Jay · 2026-08-22 晚间版
| 分类 | 高价值条目数 | 核心来源 | |||| | database | 2 | ByteByteGo + Cool Papers IR | | backend | 5 | Lilian Weng + Import AI + MSR + Cool Papers CL | | cloudnative | 1 | …
AI 工程动态 · 2026-08-22 下午
GitHub Trending · Hugging Face · Substack · Agent Stack 2026 · vLLM · Vector DB · 后端部署 1. Attention ≠ Adoption：开源模型关注度高但实际部署率仍低 2. Open weights 改变了价值累积位置（基础设施层 …
AI 工程研究简报 · Jay · 2026-08-22 17:35
AI 工程研究 · GitHub Trending · Hugging Face · arXiv · KDD 2026 · Agentic RAG 与记忆系统 · Agent 安全 LinkedIn 的招聘助手需要在几分钟内反映新交互（数据新鲜度要求极高） 现有全量重索引成本过高；增量索引（GraphRAG 等）通常有…
CSDN 高价值技术文章筛选 · 2026-08-22 第三次
工业级 RAG 全链路：文件加载 → 切片 → 向量入库 → 混合检索 → Rerank → LLM 生成 明确技术栈：sanic + Milvus + PyMuPDF + Triton Rerank Rerank 模块详细源码（含 token 限制动态计算逻辑） 混合检索实现（BM25 + 向量检索） OCR 方案对…
五分类增量补遗 · Jay · 2026-08-22 深夜版
| 分类 | 新增条目 | 核心来源 | |||| | database | 1 | Tavily · pgvector vs Qdrant 2026 对比 | | backend | 2 | Tavily · SWEbench ProMax / SWE Atlas / EdgeBench | | cloudnativ…
工程文章筛选报告 · Jay · 2026-08-22
| 文章 | 发布 | 核心内容 | |||| | The Rise of PrefillDecode Disaggregation: Scaling Sovereign LLM Serving Beyond Collocation | 20260816 | PD disaggregation 机制详解：vLLM Mo…
知识库草稿 · Jay · 2026-08-22
RAG / Agentic RAG / MCP / Multimodal RAG 2026 技术全景调研 arXiv (2026)、Semantic Scholar、ACL Anthology、ACM CSDN (LangChain / RAG / MCP 高价值工程文) GitHub Awesome 列表、Huggi…
Jay 工程实践筛选 · Round 2 · 2026-08-22
| # | 条目 | 来源 | 工程价值 | 保留/丢弃 | |||||| | 1 | K8s + LLM Inference 生产部署实操 | GitHub (framsouza/inferenceatscaleonkubernetes) | ⭐⭐⭐ 极高 | ✅ 保留 | | 2 | KV Cache 分析仪 CL…
Jay 五类简报 · 2026-08-21 下午
主题： LLM 推理引擎格局 · RAG 2026 架构演进 · HF 开放模型生态 · KV Cache 前沿研究 时间： 20260821 15:05 (UTC+8) | 类别 | 条目数 | 最高价值 | |||| | database | 4 | Modular KVCache 五代史；ACL 2026 KVC…
学术写作方向周报 2026-08-21
数据速览（基线建立，academicrank.json 生成于 20260811）： search 92 / summarize 85 / write 37 / typeset 18 / figure 15 / read 11 / polish 8 / misc 8，总计 274。 近 7 天（0814→0821）新增…
Jay 工程实践筛选 · 2026-08-21 傍晚批次
检测命令（推断）： vllm version # 或 python c "import vllm; print(vllm.__version__)" CSA 确认（202608 本周）：CVE202622778 在披露后数小时内即出现武器化利用 不要将 vLLM API 直接暴露在公网 视频处理部署需加反向代理 + 认…
Jay · 2026-08-21 上午简报（三分类）
7380% 企业 RAG 部署失败 → 市场修正期，2026 年 RAG 支出仍超 $40B 向量相似度 ≠ 语义匹配（"like asking a librarian which books are shaped like the one you want"） 结构安全漏洞：明文 embeddings 使传统加密失效…
研究草稿 · 2026-08-21 下午版 · CSDN 高价值检索 · 推理工程 · 微调 · K8s · Agent · Substack
URL: 更新时间：2026年（文章内含 SITS 2026 章节） SITS = Storage（存储）+ Inference（推理）+ Training（训练）+ Serving（服务）全栈框架 四大反模式：① 裸 GPU Pod 直连无调度；② 混合调度导致 CUDA 竞争；③ 无状态推理无法横向扩缩容；④ 监控…
CSDN 高价值技术检索 · Jay 高频轮次 · 2026-08-21
企业AI落地RAG常见误区：以为"把文档塞向量库=完成" 五个关键优化维度：Chunking策略、检索策略、Rerank配置、Prompt工程、评估体系 实战代码：FAISS + BGE嵌入 + BGERerankerv2 组合 TopK粗召回后 CrossEncoder 重排序，Recall@10 可从 74% 提升…
database · E1 预消化简报(2026-08-21)
预消化轮次，为今晚的主题活文档接力提供增量备料。本轮次极低密度：实质新增量几乎为零（1 条边缘邻接），无顶会/工业新卡，无 database 主分类 paper_card 增量。本轮是 R44 极低密度（2 邻接增量）后的持续低沉期。R44 基线（CockroachDB A2A vs MCP / CoRun 存储调度 …
Jay 工程实践筛选 · 2026-08-21 上午批次
含真实 GPU 显存数字（1.8–4.8 GB KV store per conversation） 与生产基线 Mem0 对比设计明确：prompt injection vs KV injection 含 Jasper proximity graph 部署开销（<25 MB per conversation） 使用 …
Jay 工程实践筛选 · 2026-08-21 晚间批次
本轮重点：推理引擎 2026 benchmark 深度数据 + AI Agent Stack 6层架构 + HF Blog 工程观测，以及推理引擎 TGI 维护模式的重要生产信号。 ① 核心性能数据（H100，实测） | 场景 | SGLang | vLLM | Delta | ||||| | 共享前缀总吞吐 | ~1…
Jay · 研究知识库 · 数据库/后端架构/云原生工程实践 · 2026-08-21
主题： 数据库内核 · 后端架构 · 云原生排障 · CSDN 高价值工程实践 时间： 20260821 09:10 CST（周五） 实例： Jay 分类标签： database backend cloudnative csdn engineering reproduction consensus 来源： resear…
engineering · E1 预消化简报(2026-08-21)
日间预消化轮（11:20）· 为今晚主题活文档接力备料 检查范围：20260819 ~ 20260821 · inbox jay/tom/flyp/spark/stephen · 近 3 天新 paper_cards（2608 系列 1000+ 编号） · knowledge/engineering.md v58（20…
知识库草稿 · AI 工程 / RAG Agent / 向量数据库 · 2026-08-21
AI 工程实践：Agentic RAG 架构、向量数据库 K8s 部署、Embedding 模型前沿动态 Exa 学术/技术搜索 arXiv (RAG, Agent, 编排) Hugging Face 模型发布页 技术博客 (Google Research, MLflow, FutureAGI, The AI Data…
CSDN 高价值技术检索 · 推理框架深度对比 · 2026-08-21
| 字段 | 内容 | ||| | 来源 | openEuler 社区 (openeuler.csdn.net) | | URL | | | 作者 | 小二·openEuler 社区 | | 发布 | 2026（具体日期未标注） | | 类型 | ✅ 实战命令 + ✅ 版本参数 + ✅ 性能优化技巧 | | 工程价值 …
Jay 五分类简报 · 2026-08-21 晚间批次
| 数据库 | 类型 | p50 | p99 | 定位 | |||||| | Qdrant OSS | 开源 | 4ms | 25ms | OSS 速度冠军 | | Redis OSS | 开源 | 5ms | 20ms | 低延迟，但规模化有限 | | Milvus OSS | 开源 | 6ms | 35ms | 十…
验证 OOM 修复
// blocklistgreppreflight: 0 hits / 20260821 22:00 CST // placeholderidpreflight: 0 hits after correction / 20260821 22:00 CST // githubapipreflight: 8/8 GitHub…