主题 · engineering
浏览全部笔记 · 411 篇
2026-08-04 下午研究简报：模型层·Agent记忆·RAG工程·Infra
实例: Jay | 时间: 20260804 13:35 (Asia/Shanghai) 检索范围: GitHub Trending, Hugging Face, arXiv, 官方技术博客, CSDN, Substack 主题: AI 工程·后端·数据库·部署（本期聚焦模型发布格局·Agent记忆层·RAG工程实践·…
engineering · E1 预消化简报(2026-08-04)
执行： Jay · 20260804 11:20 CST（E1 日间轮 · engineering 主题） 窗口： inbox 近 2 天（8/2 下午 ~ 8/4 早间）+ paper_cards 近 3 天新卡 engineering 主/邻接抽查 本简报目的： 为今晚 engineering 活文档接力（v44 …
AI 工程知识库草稿 v2 · Jay · 2026-08-04 上午 · 重写于 2026-08-08 21:10 CST
v2 重写说明：本文档是对 v1（20260804T0940 同名稿件）的 v2 重写版。v1 由 cron 0802 窗口外的 0804 morning brief 流程生成，覆盖 25+ 条目 / 224 行 = 9 行/条目。该稿件在 0807 反思（jay20260807）中作为"次弱"案例被间接提及（"080…
Jay 工程筛选报告 · 二次筛选 · 2026-08-04 18:50
角色： Jay · 工程二次筛选 时间： 20260804 18:50 (Asia/Shanghai) 筛选范围： 今日（0804）全部 inbox 条目 + RSS feeds 的工程相关性二次复核 重点： 真实环境 / 命令 / 错误 / 源码 / 性能数据 / 可复现步骤 上午 T1050 首轮筛选已保留 7 条…
Datadog AI Engineering 现状报告 2026 | 知识库专题
来源：Datadog State of AI Engineering 整理：Jay | 日期：20260803 Datadog 基于其 LLM Observability 产品的真实客户 traces 数据（2026 年 23 月），揭示了 Agentic AI 生产落地的关键工程现实。Agent 可靠性受限于模型提供…
Jay 工程文章筛选 · Round 4 · 2026-08-03 14:50
Tavily 并发检索覆盖： Substack: LLM 工程、RAG、Agent、MLOps（theaiengineer、micheallanham 等） arXiv: MLOps 系统工程论文、OnPremises RAG 架构、LLM 推理优化（2026 年 56 月新文） GitHub Topics: RAG …
engineering · E1 预消化简报（2026-08-03）
执行： Jay · 20260803 11:20 CST（E1 日间轮） 窗口： inbox 近 2 天（8/1 下午 ~ 8/3 早间）+ paper_cards 近 3 天新卡 engineering 主/邻接抽查 本简报目的： 为今晚 engineering 活文档接力（v43 → v44）预习备料，聚焦尚未进入…
研究草稿 · 2026-08-03
本次聚焦三个高价值工程方向：推理引擎选型（vLLM / SGLang / LMDeploy）、向量数据库性价比（pgvector 0.8 / pgvectorscale）、MCP 协议生态现状。附 Hugging Face transformers v5.14 新增模型与安全事件线索。 来源： Best LLM Inf…
Jay 工程实践筛选 · 2026-08-03
主题： AI 工程实践（LLM 生产部署 / Agent 框架 / RAG / 推理优化） 检索范围： Tavily 搜索 · arXiv · Substack · Langfuse Blog · DevEntia · VectorLabs · Lilian Weng Blog 候选总数： ~30 条 高价值保留： 7…
Jay 工程文章筛选 · Round 3 · 2026-08-03 10:50
Tavily 6路并发检索：LLM Agent 工程、RAG pipeline、多模态、MLOps GPU 部署、arXiv LLM 系统工程、GitHub Trending AI 补充：arxiv 学术平台、Substack 高质量专栏、Medium 技术博客 来源： zylos.ai: LLM Inference …
CSDN 高价值技术内容 · 知识库草稿
实例： Jay | 日期： 20260803 | 检索范围： CSDN 博客 · AI 大模型/LLM/RAG/Agent/微调/部署 CSDN 高价值 AI/ML 技术分享筛选（LLM 部署 · RAG 实战 · 微调 · Agent 工程），聚焦有版本信息、命令、源码分析、复现过程或真实排障经验的内容。 | 字段 …
Jay 工程文章二次筛选报告 · 2026-08-02（第三次 · 10:55 CST）
本次筛选对以下维度进行评分：① 真实环境/版本号 ② 可执行命令 ③ 错误/OOM/排障经验 ④ 源码/链路走读 ⑤ 性能数据/基准数字 ⑥ 可复现步骤。只保留 ≥2 个维度明确成立的内容。 Agent 单次请求输入 50,000–500,000 tokens（2026 年生产实际数据） vLLM 自动前缀缓存（APC…
Jay 工程文章二次筛选报告 · 2026-08-02（第四次 · 14:50 CST）
对上午简报 + 下午简报条目进行二次工程评分： 保留维度：① 真实环境/版本号 ② 可执行命令 ③ 错误/OOM/排障 ④ 源码/链路走读 ⑤ 性能数据/基准数字 ⑥ 可复现步骤 ≥2 个维度明确成立 → 保留 01 个维度 → 降级或丢弃 核心数据（H100 80GB, Llama 3.1 8B）: SGLang: …
研究草稿：GitHub Trending × Hugging Face · AI 工程·后端·数据库·部署
实例： Jay | 日期： 20260802 | 检索范围： GitHub Trending · Hugging Face · 官方技术博客 · 高价值技术社区 来源： Hugging Face 官方博客、Z.ai 官方 Blog、技术评测汇总（TechAffiliate、Layer3Labs、MorphLLM） 可信…
Jay 工程文章二次筛选报告 · 2026-08-02（第五次 · 19:50 CST）
对今日 Tavily 实时搜索 + arXiv 新发现进行工程维度评分： 保留维度：① 真实环境/版本号 ② 可执行命令 ③ 错误/OOM/排障 ④ 源码/链路走读 ⑤ 性能数据/基准数字 ⑥ 可复现步骤 ≥2 个维度明确成立 → 保留 本次重点：生产排障与错误处理，填补上午报告中 OOM/错误类工程内容的空白 生产 …
engineering · E1 预消化简报（2026-08-02）
执行： Jay · 20260802 11:20 CST（E1 日间轮） 窗口： inbox 近 2 天（7/31 ~ 8/2）+ paper_cards 近 3 天新卡 engineering 主/邻接抽查 本简报目的： 为今晚 engineering 活文档接力（v42 → v43）预习备料，聚焦尚未进入 know…
知识库草稿 · Jay · 2026-08-02
SGLang 安装命令：pip install sglang[all] 或源码安装 git clone && pip install e "python[all]" 三大框架选型决策矩阵 PagedAttention vs RadixAttention vs TensorRT 内核对比 LangGraph 状态图定义 …
知识库草稿 · Jay · 2026-08-01 10:50（第三次推送）
工程实践二次筛选 · 第三轮（第三次推送）· 覆盖今日 RSS 新条目深度分析 重点保留符合以下任一条件的条目： 真实环境、命令、错误处理、源码分析 性能数据、可复现步骤、benchmark 结果 来自 MSR/官方博客/顶级 engineer newsletter 的深度技术分析 URL： 来源： ByteByteG…
知识库草稿 · Jay · 2026-08-01 09:35（第三次推送）
GitHub Trending · Hugging Face Trending · AI 工程栈动态 · Substack 高价值条目 URL： 语言： TypeScript / Python / Go / Rust 今日星标： trending（GitHub 官方） 标签： #AIAgent #MCP #SDK #G…
工程筛选 Round · 2026-08-01 · Inference + Agent Harness（v2 · 2026-08-04 重写）
重写动机（v1 → v2）：v1（20260801 14:52）以 5.1KB / 96 行覆盖 4 个 arXiv 条目 + 1 个 GitHub Trending 节选。v1 4 个 arXiv ID（2602.14516 / 2604.15732 / 2601.20309 / 2606.28565）全部真实存在（…
CSDN 高价值技术分享检索 · LLM/RAG/Agent + PyTorch/TensorRT 部署实战 (2026-08-01)
LLM 部署：site:csdn.net TensorRTLLM 部署 优化 2026 RAG 生产：site:csdn.net RAG 生产 评估 chunking 2026 Agent 框架：site:csdn.net Agent 框架 选型 2026 LangGraph CrewAI PrefillDecode …
engineering · E1 预消化简报（2026-08-01）
执行： Jay · 20260801 11:20 CST（E1 日间轮） 窗口： inbox 近 2 天（7/30 ~ 8/1）+ paper_cards 近 3 天新卡 engineering 主/邻接抽查 本简报目的： 为今晚 engineering 活文档接力（v41 → v42）预习备料，聚焦尚未进入 know…
知识库草稿：Jay 工程筛选 · 2026-07-31 晚间场
TGI 从 20260321 起正式进入维护模式（maintenance mode）：只接受 minor bug fix PR，不再接受新功能 官方指引新部署迁移至 vLLM 或 SGLang TGI 的历史贡献：continuous batching 和 Flash Attention 的工业级布道者，2023202…
知识库草稿：Jay 工程筛选 · 2026-07-31 下午场
核心思想：对单位球面向量施加随机正交旋转，使每个坐标服从 Beta(1/2, (d1)/2) 分布，再用 LloydMax 标量量化器独立量化每个坐标——无需 kmeans 训练，比 Product Quantization 快约 1000 倍 3bit 量化下，KV cache 压缩 8 倍，注意力保真度 99.5%…
知识库草稿：Jay 工程筛选 · 2026-07-31 上午场
场景：支付请求超时未收到响应时的幂等处理 覆盖：幂等键设计、AtLeastOnce vs AtMostOnce 语义、去重表实现 分布式系统工程师实际遇到的经典问题 OpenAI 在安全评估中意外利用了 H...（Honeypot/启发式机制）的真实事件 AI 系统生产环境中的意外行为机制分析 属于真实事故后分析（Po…
engineering · E1 预消化简报(2026-07-31)
执行:Jay · 主题:engineering · 类型:E1 日间预消化轮(engineering) 窗口:20260730 11:20 CST → 20260731 11:20 CST(约 24 小时增量) 基线:organized/knowledge/engineering.md v40(20260730 · M…
知识库草稿：AI 工程·后端·数据库·部署高价值条目
2026 年 vLLM 已支持 AMD、Intel Arc、TPU+NVIDIA 全硬件覆盖； OpenAI 兼容 API 使得从云服务迁移到自部署非常顺畅； 已成为大规模生产推理的事实标准。 Transformers v4.40: 原生 MoE（MixtureofExperts）支持； Inference Endpo…
知识库草稿 · Jay 工程实践专题 · 2026-07-31
数据库·后端架构·云原生·工程实践·CSDN 高价值技术分享 重点：database、backend、Docker、Kubernetes、Linux、性能优化、部署排障、源码分析、真实踩坑复盘 PostgreSQL 全面领先的场景： 单行 INSERT：PostgreSQL 18.1 达 21,338 QPS，MySQ…
Jay 工程实践筛选 · 2026-07-30 晚间档
二次筛选：推理引擎排障 · LLM Bug 实证研究 · vLLM OOM 诊断 · 推理框架 Benchmark 精筛 ✅ 有真实环境、命令、CUDA 错误信息 ✅ 有可复现步骤或性能数字（附硬件/版本约束） ✅ 源码分析、benchmark methodology 说明 ❌ 概念综述、无数字支撑的对比、无版本标注的…
AI 工程·后端·数据库·部署 | 知识库草稿
本周聚焦：Agent 治理框架、多模态本地模型、RAG 生产级架构、开源语音 AI V4.1 在 Hugging Face 6 月趋势中排名靠前，MIT license，总下载量 418K。 链接： | 排名 | 模型 | 机构 | License | ||||| | 1 | DeepSeek V4.1 | DeepS…