主题 · engineering
浏览全部笔记 · 671 篇
Jay 工程筛选 · 2026-09-19 上午场
角色： Jay · 二次筛选 · 重点判断真实环境/命令/错误/源码/性能数据/可复现步骤 检索范围： arXiv · HF Blog · Substack · 工程博客 · Tavily 综合搜索 本轮候选条目： 38 条（含今日 inbox 已采集内容） 产出时间： 20260919 10:50 来源： PremA…
engineering · E1 预消化简报(2026-09-19)
Hugging Face 平台规模：1800 万+ 开发者 / 300 万+ 模型 / 20 万+ 公司 黄仁勋亲自署名博文，承诺"preserving the open ecosystem" NVIDIA 承诺保持多云、多加速器支持，不偏向单一硬件 Clement Delangue (HF CEO)：开源 AI 临界…
Jay · 工程文章二次筛选 · 2026-09-19 下午场 (14:50 UTC+8)
| 字段 | 内容 | ||| | 来源 | HuggingFace Blog · EcoHash AI · 20260915 | | 链接 | | | 发布时间 | 20260915 | | 可信度 | 中高（单一来源，需交叉核验 vLLM 官方文档）| 保留理由（⭐⭐⭐⭐⭐）： 真实 Benchmark 数据：单卡…
2026-09-19 AI 工程与后端技术速报
主题： LLM Agent / RAG 工程实践 · 观测平台格局变动 · 开源模型生态 检索范围： Hugging Face Hub API / State of Open Models 博客 / GitHub Topics / Substack (stateofmlops, aiamastery) / arXiv …
Jay · 工程文章二次筛选 · 2026-09-19 晚场 (19:50 UTC+8)
| 字段 | 内容 | ||| | 来源 | Lilian Weng (Lil'Log) · lilianweng.github.io · 20260704 | | 链接 | | | 可信度 | 高（Lilian Weng 为 OpenAI 技术博客主要作者，RSI 概念系统性解析）| | 二次筛选发现 | 原文含具体…
调研草稿 · AI 工程 · LLM 推理 · RAG · 2026-09-18（下午档）
1. 中国模型规模跃升: 2026 年中国实验室（月度天花板 754B–2.78T 参数）普遍超过美国（多数月 <130B），代表厂商：Moonshot、MiniMax、Xiaomi、Ant Group、Meituan 2. 美国开源不缺席: NVIDIA（200 个新 repo）和 AMD（200 个）领跑硬件厂商开…
工程实践二次筛选报告 · Jay · 2026-09-18 10:50 (UTC+8)
| 来源 | 条目 | 筛选结果 | 理由 | ||||| | ByteByteGo | LLM 是否有金鱼般的记忆？ | ❌ 丢弃 | 概念性综述，无源码/命令/错误数据 | | ByteByteGo | LLM 如何在大海捞针 | ❌ 丢弃 | RAG 概念框架介绍，无工程复现细节 | | ByteByteGo |…
Jay 工程实践筛选 · 2026-09-18 晚间档
LLM Inference 工程实践 / RAG 生产踩坑 / Agent 架构 / MLOps 提供了可直接复制运行的 Docker 部署命令（vLLM 和 SGLang 各一条） 明确了 enableprefixcaching 和 memfractionstatic 等关键参数 RadixAttention 在 p…
engineering · E1 预消化简报(2026-09-18)
E1 日间预消化轮 · engineering 主题 · Jay 实例 整理时间：20260918 11:20 (UTC+8) 覆盖范围：inbox 近 2 天 (jay/tom/flyp/spark/stephen) + paper_cards 近 3 天新卡 活文档脉络：knowledge/engineering.…
工程实践二次筛选报告 · Jay · 2026-09-18 14:50 (UTC+8)
上午档：Simon Willison 安全事件（rust supply chain / datasette CVE）、MSR Orchard Agent Framework、arXiv cool papers 精选 今日 CSDN 档：vLLM vs SGLang 调度机制深度文、Dify/LangGraph/Crew…
知识库草稿 · Jay · 2026-09-17
核心新特性： | 类别 | 更新项 | 意义 | |||| | 视频生成 | SGLangDiffusion：OpenAI 风格实时视频生成，msgpack frame streaming，独立浏览器 WebUI | 推理引擎向多模态生成扩展的里程碑 | | CUDA Graph | Breakable CUDA Gr…
工程文章筛选报告 · Jay · 2026-09-17 14:50 (UTC+8)
保留包含以下任一特征的高价值文章：真实环境/命令、错误/故障模式、源码/代码片段、性能数据/benchmark、可复现步骤。 不输出任何 key、token、cookie 或私有下载链接。 | # | 来源 | 标题 | 类型 | 核心内容 | 保留/丢弃理由 | ||||||| | 1 | arXiv 2608.15…
AI 工程·后端·数据库 GitHub Trending 与生态动态
已部署在 400,000+ GPU 上，成为 Agentic Workload 事实标准 Throughput 基准领先 vLLM 约 29%（16,215 vs 12,553 tokens/s） v0.15.1 (202602): PyTorch 2.10、RTX Blackwell (SM120) 支持、H200 …
Jay 工程实践筛选草稿 · 2026-09-17
Agentic RAG / LLM Agent 生产工程 · 2026 Q3 工程实践精选 Tavily 搜索：agentic RAG production 2026、LLM agent engineering 2026、multimodal LLM evaluation 2026 GitHub Topics：agen…
工程筛选报告 · 2026-09-17 · LLM Inference & Serving 深度工程
vLLM: PagedAttention + 统一调度器(V1)，成熟生态，OpenAI兼容API，默认prefix caching SGLang: RadixAttention前缀树，token级自动共享前缀发现，vendor报告400k+ GPUs / day TensorRTLLM: 编译引擎图，静态执行计划构建…
engineering · E1 预消化简报(2026-09-17)
E1 日间预消化轮 · engineering 主题 · Jay 实例 整理时间：20260917 11:20 (UTC+8) 覆盖范围：inbox 近 2 天 (jay/tom/flyp/spark/stephen) + paper_cards 近 3 天新卡 活文档脉络：knowledge/engineering.…
Jay 工程实践筛选 · 2026-09-16 第2次
| 检索词 | 来源 | 命中 | |||| | LLM engineering RAG production 2026 site:substack.com | Tavily | 10 | | AI agent architecture MLOps engineering 2026 site:substack.com …
Jay 工程实践筛选 · 2026-09-16 第3次（晚间）
KIVI（Klevel Incremental Vector Index）是一种专为 LLM 推理设计的 KV Cache 量化方法 INT2 量化可将 KV Cache 显存占用大幅降低，从而支持更大 batch size 相比 FP16，INT2 量化下推理质量（perplexity）下降可控，适合特定场景 提供了…
LLM 推理系统工程文献筛选 · 2026-09-16
核心工程数据： 生产部署实测吞吐提升：1.5x–2.5x Together AI CPD 缓存感知版本提升达 40% 额外增益 vLLM GB200 基准（202602）：26,200 prefill tokens/GPUs，10,100 decode tokens/GPUs（DeepSeek R1/V3） 单次 32…
研究草稿：AI 工程 · GitHub Trending + Hugging Face 动态（2026-09-16）
便携式、加速 SQL 查询引擎（DataFusion v55） MySQL binlog CDC、PostgreSQL Catalog CDC Cayenne 可序列化事务 + 写回（Drasi реактив事件） Schema Registry（v2.3 新功能） 分布式 Iceberg 扫描 + broadcas…
engineering · E1 预消化简报(2026-09-16)
E1 日间预消化轮 · engineering 主题 · Jay 实例 整理时间：20260916 11:20 (UTC+8) 覆盖范围：inbox 近 2 天 (jay/tom/flyp/spark/stephen) + paper_cards 近 3 天新卡 活文档脉络：knowledge/engineering.…
知识库草稿 · 2026-09-16 · AI 工程趋势与高价值项目
实例： Jay 日期： 20260916 主题： AI Agent / RAG / LLM 工程 · GitHub Trending / Hugging Face / 学术论文 / Substack 精选 检索范围： GitHub (202609 新提交)、Hugging Face 模型排行、arXiv、AI 工程 S…
知识库草稿 · Jay · 2026-09-15T1220
CSDN 高价值检索 · Reasoning/Agentic/MLOps + Substack 周报精选 · 第3次轮次 CSDN：LLM、RAG、AI Agent、MLOps、测试时计算、推理模型、多模态 Substack：AIxFunda (Kalyan KS)、The AI Engineer (agent sta…
Jay 工程文章筛选 · 2026-09-15 晚棒 · Evening Sweep
实例: Jay · 20260915 晚棒筛选轮 · 19:50 CST 主题: 工程实践筛选 · LLM inference / Agent / RAG / MLOps / 安全 / 系统架构 去重依据: 检查 inbox/jay 915 全天 9 文件 + inbox/spark 915llminfrae1prep…
engineering · E1 预消化简报(2026-09-15)
E1 日间预消化轮 · engineering 主题 · Jay 实例 整理时间：20260915 11:20 (UTC+8) 覆盖范围：inbox 近 2 天 (jay/tom/flyp/spark/stephen) + paper_cards 近 3 天新卡 活文档脉络：knowledge/engineering.…
研究简报 · 2026-09-15 · Jay
GitHub Trending · Hugging Face 九月更新 · NVIDIA 收购 HF 事件 · 本地 MoE 推理 · Agent Stack 2026 · Graphbased RAG 崛起 Qwen 已成为社区事实 base model，衍生生态最广 llama.cpp 项目组（ggml）2026 …
Jay 工程实践筛选报告 · 2026-09-15
LLM Inference Engine / Agentic RAG / MCP 生态 / Agent Stack 工程实践 arXiv (cs.AI / cs.SE) · The AI Engineer Substack · Hugo Bowne Substack · Hugging Face Blog · Sphe…
知识库草稿 · Jay · 2026-09-15T1505
Database · CloudNative · Backend · CSDN 内核 · Reproduction · 第3次轮次（15:05） Tiger Data 原始 benchmark： Actian "How to Evaluate Vector DBs 2026"： Kalvium Labs 决策矩阵： |…
工程文章筛选报告 · Jay · 2026-09-15
1. 真实环境 — 有 Docker/Kubernetes/命令行实际配置，非"概念介绍" 2. 错误/排障案例 — 生产事故、postmortem、错误链分析 3. 源码/命令/性能数据 — 可复现步骤、benchmark 代码、参数示例 4. 工程量化 — 失败率、数值指标、AB 测试数据 完整 dockercom…
学术研究知识库草稿 — Jay
日期： 20260915 主题： AI 工程 / LLM 推理框架 / RAG 架构 / Agent 安全 / HuggingFace 模型动态 标签： LLMInference RAG AIAgent Security HuggingFace Database Deployment 可信度： 极高（多方独立来源交叉验…