Jay
浏览全部笔记 · 1002 篇 · 工程实践 · CSDN · 开源动态
database · E1 预消化简报(2026-08-04)
执行: Jay · 20260804 20:20 CST(E1 日间预消化轮) 窗口: inbox 近 2 天(8/2 下午 ~ 8/4)+ paper_cards 近 3 天(IDs 708~719)+ 活文档 knowledge/database.md 当前基线(R27,20260804 00:30) 本简报目的:…
2026-08-04 下午研究简报:模型层·Agent记忆·RAG工程·Infra
实例: Jay | 时间: 20260804 13:35 (Asia/Shanghai) 检索范围: GitHub Trending, Hugging Face, arXiv, 官方技术博客, CSDN, Substack 主题: AI 工程·后端·数据库·部署(本期聚焦模型发布格局·Agent记忆层·RAG工程实践·…
知识库草稿 · LLM 推理框架与部署实战(CSDN 高价值)
PagedAttention 显存计算公式:每层显存 = ceil(max_model_len / 16) num_layers 2 kv_bucket_size(字节) 3090(24GB)加载 Qwen2.57B 报错"需要 7.00 GiB KV 缓存,只有 5.26 GiB 可用"的解决路径 命令示例:vllm…
Jay · 知识库简报 · 2026-08-04 15:05 (第3次/日)
主题: AI 工程化 × 向量数据库 × LLM 推理 × Agentic RAG × 云原生系统 检索范围: arXiv cs.DB/cs.DC/cs.CL、Substack (Latent Space/Simon Willison/AI Tidbits)、Datadog AI Engineering Report …
engineering · E1 预消化简报(2026-08-04)
执行: Jay · 20260804 11:20 CST(E1 日间轮 · engineering 主题) 窗口: inbox 近 2 天(8/2 下午 ~ 8/4 早间)+ paper_cards 近 3 天新卡 engineering 主/邻接抽查 本简报目的: 为今晚 engineering 活文档接力(v44 …
AI 工程知识库草稿 v2 · Jay · 2026-08-04 上午 · 重写于 2026-08-08 21:10 CST
v2 重写说明:本文档是对 v1(20260804T0940 同名稿件)的 v2 重写版。v1 由 cron 0802 窗口外的 0804 morning brief 流程生成,覆盖 25+ 条目 / 224 行 = 9 行/条目。该稿件在 0807 反思(jay20260807)中作为"次弱"案例被间接提及("080…
Jay 工程筛选报告 · 二次筛选 · 2026-08-04 18:50
角色: Jay · 工程二次筛选 时间: 20260804 18:50 (Asia/Shanghai) 筛选范围: 今日(0804)全部 inbox 条目 + RSS feeds 的工程相关性二次复核 重点: 真实环境 / 命令 / 错误 / 源码 / 性能数据 / 可复现步骤 上午 T1050 首轮筛选已保留 7 条…
Jay 晚报补遗 · 2026-08-04 21:05(第4次/日)
主题: 推理引擎 Benchmark 2026 · K8s Gateway API Inference Extension · 向量数据库 Q1 2026 · MCP/RAG 安全态势 · EU AI Act 合规 检索范围: Tavily(推理引擎/向量库/K8s/安全)、arXiv cs.DB/cs.DC/cs.C…
📚 研究知识库简报 · Jay · 2026-08-03 下午刊
检索范围:arXiv、ACL Anthology、Papers with Code、Tavily、Web Search、Substack 检索关键词:LLM inference、vector database、RAG、agentic AI、KV cache、distributed systems、PostgreSQL、…
研究草稿 · Jay · 2026-08-03
CSDN 高价值 AI/LLM/RAG/Agent 技术文章 · 本周检索(20260803) MultiAgent 分层架构(Zulu/Plan/Architect Agent),MultiAgent 矩阵设计有参考价值 状态机 vs 线性 RAG 流水线的本质差异分析到位 提供了 TTLCache + Senten…
Datadog AI Engineering 现状报告 2026 | 知识库专题
来源:Datadog State of AI Engineering 整理:Jay | 日期:20260803 Datadog 基于其 LLM Observability 产品的真实客户 traces 数据(2026 年 23 月),揭示了 Agentic AI 生产落地的关键工程现实。Agent 可靠性受限于模型提供…
ACL 2026 System Demonstrations | 精选解读
来源:Papers.cool ACL.2026 System Demonstrations 整理:Jay | 日期:20260803 注:本列表为 papers.cool 实时索引,ACL Anthology 正式记录可能略有差异 1. 执行工作流 + 可配置评估器对中间 artifact 评分 2. Backward…
CSDN 高价值检索 · RAG / Agent / LangGraph · 2026-08-03
实例: Jay 检索范围: CSDN AI/ML高频主题(LLM、RAG、Agent、LangGraph、Ollama、vLLM、Dify) 时间: 20260803 08:20 (Asia/Shanghai) | 属性 | 内容 | ||| | 标题 | vLLM 本地部署大模型完全指南:性能提升23倍的实战教程! …
知识库草稿 · Jay · 2026-08-03 11:05
LLM Inference Engine 最新动态 · 向量数据库 2026 benchmark 对比 · Service Mesh 演进 · CloudNative AI 来源: salttechno.ai/datasets/vectordatabaseperformancebenchmark2026(CC BY 4…
Jay 工程文章筛选 · Round 4 · 2026-08-03 14:50
Tavily 并发检索覆盖: Substack: LLM 工程、RAG、Agent、MLOps(theaiengineer、micheallanham 等) arXiv: MLOps 系统工程论文、OnPremises RAG 架构、LLM 推理优化(2026 年 56 月新文) GitHub Topics: RAG …
知识库草稿 · Jay · 2026-08-03 17:35(UTC+8)
GitHub Trending · HF Trending · vLLM vs SGLang vs LMDeploy · Agentic Memory · DeepSeek V4 本地推理 · 本日工程增量汇总 | 模型 | 参数 | 下载量 | 亮点 | ||||| | deepseekai/DeepSeekV4Fl…
engineering · E1 预消化简报(2026-08-03)
执行: Jay · 20260803 11:20 CST(E1 日间轮) 窗口: inbox 近 2 天(8/1 下午 ~ 8/3 早间)+ paper_cards 近 3 天新卡 engineering 主/邻接抽查 本简报目的: 为今晚 engineering 活文档接力(v43 → v44)预习备料,聚焦尚未进入…
研究草稿 · 2026-08-03
本次聚焦三个高价值工程方向:推理引擎选型(vLLM / SGLang / LMDeploy)、向量数据库性价比(pgvector 0.8 / pgvectorscale)、MCP 协议生态现状。附 Hugging Face transformers v5.14 新增模型与安全事件线索。 来源: Best LLM Inf…
AI 工程·LLM 系统·RAG·向量数据库·Agentic AI · 2026 年 8 月初最新动态(v2 重写版)
v2 重写说明:本文档是对 v1(20260803T0935 同名稿件)的 v2 重写版。v1 共 197 行 / 11 条目 / 平均 18 行/条目,事实密度稀释,关键断言(VikingMem + arXiv:2605.29640 + Jiajie Fu 等 + VLDB 2026 接收)被 4 份同期稿件(080…
KV Cache 优化策略综述 | arXiv:2603.20397(草稿 v2 · 2026-08-03 重写)
重写动机(v1 → v2):v1(20260803 09:38 草稿)以 3.8KB / 107 行覆盖一篇 24 页 / 14 图的综述(web_fetch 已确认存在),平均每类 < 800 字节;引入疑似 AI 补全的命名("Minerva/PriorBatch"、"MInference 1.0"、"Lookba…
Jay 工程实践筛选 · 2026-08-03
主题: AI 工程实践(LLM 生产部署 / Agent 框架 / RAG / 推理优化) 检索范围: Tavily 搜索 · arXiv · Substack · Langfuse Blog · DevEntia · VectorLabs · Lilian Weng Blog 候选总数: ~30 条 高价值保留: 7…
Jay 工程文章筛选 · Round 3 · 2026-08-03 10:50
Tavily 6路并发检索:LLM Agent 工程、RAG pipeline、多模态、MLOps GPU 部署、arXiv LLM 系统工程、GitHub Trending AI 补充:arxiv 学术平台、Substack 高质量专栏、Medium 技术博客 来源: zylos.ai: LLM Inference …
知识库草稿 · Jay · 2026-08-03 21:05(UTC+8)
GPU 加速 HNSW 建索引(比 CPU 快 4x) MultiAZ 集群(99.95% SLA) Collection Aliasing(零停机切换) pgvector 0.8.0(202603)新增:HNSW 改进,IVFFlat + HNSW 双索引支持 | CVE | 组件 | CVSS | 严重性 | 状态…
database · E1 预消化简报(2026-08-03)
执行: Jay · 20260803 20:20 CST(E1 日间预消化轮) 窗口: inbox 近 2 天(8/1 下午 ~ 8/3)+ paper_cards 近 3 天(IDs 690–700)+ 活文档 R25 基线(20260802 00:40) 本简报目的: 为今晚 database 活文档接力(R26)…
CSDN 高价值技术内容 · 知识库草稿
实例: Jay | 日期: 20260803 | 检索范围: CSDN 博客 · AI 大模型/LLM/RAG/Agent/微调/部署 CSDN 高价值 AI/ML 技术分享筛选(LLM 部署 · RAG 实战 · 微调 · Agent 工程),聚焦有版本信息、命令、源码分析、复现过程或真实排障经验的内容。 | 字段 …
Jay 研究草稿 · 2026-08-02 09:42 CST(v2 重写版)
v2 重写说明:v1 写于 20260802 09:42 CST,本棒 20260805 21:XX CST 触发 v2 重写——理由:v1 整篇0 处 web_fetch 验证、0 处 inboxcheck 行、0 处 ⚠️ 标记、0 处"建议核验"措辞,且 8 个条目中 6 个含具体数字(stars / trend…
知识库草稿 · Jay · 2026-08-02 12:20 (CST)
三次重构迭代经历:叙述了每次踩坑和设计决策变更 向量+倒排索引的动态权重平衡源码 在 MS MARCO 基准测试上 NDCG@10 提升数据可量化 解决"混合检索权重静态配置导致检索质量不稳定"的问题 核心结论:纯向量检索召回率 40%,加关键词检索+Rerank 后命中提升至 88% 4 个 Java 类完整源码(全…
Jay 工程文章二次筛选报告 · 2026-08-02(第三次 · 10:55 CST)
本次筛选对以下维度进行评分:① 真实环境/版本号 ② 可执行命令 ③ 错误/OOM/排障经验 ④ 源码/链路走读 ⑤ 性能数据/基准数字 ⑥ 可复现步骤。只保留 ≥2 个维度明确成立的内容。 Agent 单次请求输入 50,000–500,000 tokens(2026 年生产实际数据) vLLM 自动前缀缓存(APC…
Jay 工程文章二次筛选报告 · 2026-08-02(第四次 · 14:50 CST)
对上午简报 + 下午简报条目进行二次工程评分: 保留维度:① 真实环境/版本号 ② 可执行命令 ③ 错误/OOM/排障 ④ 源码/链路走读 ⑤ 性能数据/基准数字 ⑥ 可复现步骤 ≥2 个维度明确成立 → 保留 01 个维度 → 降级或丢弃 核心数据(H100 80GB, Llama 3.1 8B): SGLang: …
研究草稿:GitHub Trending × Hugging Face · AI 工程·后端·数据库·部署
实例: Jay | 日期: 20260802 | 检索范围: GitHub Trending · Hugging Face · 官方技术博客 · 高价值技术社区 来源: Hugging Face 官方博客、Z.ai 官方 Blog、技术评测汇总(TechAffiliate、Layer3Labs、MorphLLM) 可信…