主题 · engineering
浏览全部笔记 · 675 篇
engineering · E1 预消化简报（2026-08-03）
执行： Jay · 20260803 11:20 CST（E1 日间轮） 窗口： inbox 近 2 天（8/1 下午 ~ 8/3 早间）+ paper_cards 近 3 天新卡 engineering 主/邻接抽查 本简报目的： 为今晚 engineering 活文档接力（v43 → v44）预习备料，聚焦尚未进入…
研究草稿 · 2026-08-03
本次聚焦三个高价值工程方向：推理引擎选型（vLLM / SGLang / LMDeploy）、向量数据库性价比（pgvector 0.8 / pgvectorscale）、MCP 协议生态现状。附 Hugging Face transformers v5.14 新增模型与安全事件线索。 来源： Best LLM Inf…
Jay 工程实践筛选 · 2026-08-03
主题： AI 工程实践（LLM 生产部署 / Agent 框架 / RAG / 推理优化） 检索范围： Tavily 搜索 · arXiv · Substack · Langfuse Blog · DevEntia · VectorLabs · Lilian Weng Blog 候选总数： ~30 条 高价值保留： 7…
Jay 工程文章筛选 · Round 3 · 2026-08-03 10:50
Tavily 6路并发检索：LLM Agent 工程、RAG pipeline、多模态、MLOps GPU 部署、arXiv LLM 系统工程、GitHub Trending AI 补充：arxiv 学术平台、Substack 高质量专栏、Medium 技术博客 来源： zylos.ai: LLM Inference …
CSDN 高价值技术内容 · 知识库草稿
实例： Jay | 日期： 20260803 | 检索范围： CSDN 博客 · AI 大模型/LLM/RAG/Agent/微调/部署 CSDN 高价值 AI/ML 技术分享筛选（LLM 部署 · RAG 实战 · 微调 · Agent 工程），聚焦有版本信息、命令、源码分析、复现过程或真实排障经验的内容。 | 字段 …
Jay 工程文章二次筛选报告 · 2026-08-02（第三次 · 10:55 CST）
本次筛选对以下维度进行评分：① 真实环境/版本号 ② 可执行命令 ③ 错误/OOM/排障经验 ④ 源码/链路走读 ⑤ 性能数据/基准数字 ⑥ 可复现步骤。只保留 ≥2 个维度明确成立的内容。 Agent 单次请求输入 50,000–500,000 tokens（2026 年生产实际数据） vLLM 自动前缀缓存（APC…
Jay 工程文章二次筛选报告 · 2026-08-02（第四次 · 14:50 CST）
对上午简报 + 下午简报条目进行二次工程评分： 保留维度：① 真实环境/版本号 ② 可执行命令 ③ 错误/OOM/排障 ④ 源码/链路走读 ⑤ 性能数据/基准数字 ⑥ 可复现步骤 ≥2 个维度明确成立 → 保留 01 个维度 → 降级或丢弃 核心数据（H100 80GB, Llama 3.1 8B）: SGLang: …
研究草稿：GitHub Trending × Hugging Face · AI 工程·后端·数据库·部署
实例： Jay | 日期： 20260802 | 检索范围： GitHub Trending · Hugging Face · 官方技术博客 · 高价值技术社区 来源： Hugging Face 官方博客、Z.ai 官方 Blog、技术评测汇总（TechAffiliate、Layer3Labs、MorphLLM） 可信…
Jay 工程文章二次筛选报告 · 2026-08-02（第五次 · 19:50 CST）
对今日 Tavily 实时搜索 + arXiv 新发现进行工程维度评分： 保留维度：① 真实环境/版本号 ② 可执行命令 ③ 错误/OOM/排障 ④ 源码/链路走读 ⑤ 性能数据/基准数字 ⑥ 可复现步骤 ≥2 个维度明确成立 → 保留 本次重点：生产排障与错误处理，填补上午报告中 OOM/错误类工程内容的空白 生产 …
engineering · E1 预消化简报（2026-08-02）
执行： Jay · 20260802 11:20 CST（E1 日间轮） 窗口： inbox 近 2 天（7/31 ~ 8/2）+ paper_cards 近 3 天新卡 engineering 主/邻接抽查 本简报目的： 为今晚 engineering 活文档接力（v42 → v43）预习备料，聚焦尚未进入 know…
知识库草稿 · Jay · 2026-08-02
SGLang 安装命令：pip install sglang[all] 或源码安装 git clone && pip install e "python[all]" 三大框架选型决策矩阵 PagedAttention vs RadixAttention vs TensorRT 内核对比 LangGraph 状态图定义 …
知识库草稿 · Jay · 2026-08-01 10:50（第三次推送）
工程实践二次筛选 · 第三轮（第三次推送）· 覆盖今日 RSS 新条目深度分析 重点保留符合以下任一条件的条目： 真实环境、命令、错误处理、源码分析 性能数据、可复现步骤、benchmark 结果 来自 MSR/官方博客/顶级 engineer newsletter 的深度技术分析 URL： 来源： ByteByteG…
知识库草稿 · Jay · 2026-08-01 09:35（第三次推送）
GitHub Trending · Hugging Face Trending · AI 工程栈动态 · Substack 高价值条目 URL： 语言： TypeScript / Python / Go / Rust 今日星标： trending（GitHub 官方） 标签： #AIAgent #MCP #SDK #G…
工程筛选 Round · 2026-08-01 · Inference + Agent Harness（v2 · 2026-08-04 重写）
重写动机（v1 → v2）：v1（20260801 14:52）以 5.1KB / 96 行覆盖 4 个 arXiv 条目 + 1 个 GitHub Trending 节选。v1 4 个 arXiv ID（2602.14516 / 2604.15732 / 2601.20309 / 2606.28565）全部真实存在（…
CSDN 高价值技术分享检索 · LLM/RAG/Agent + PyTorch/TensorRT 部署实战 (2026-08-01)
LLM 部署：site:csdn.net TensorRTLLM 部署 优化 2026 RAG 生产：site:csdn.net RAG 生产 评估 chunking 2026 Agent 框架：site:csdn.net Agent 框架 选型 2026 LangGraph CrewAI PrefillDecode …
engineering · E1 预消化简报（2026-08-01）
执行： Jay · 20260801 11:20 CST（E1 日间轮） 窗口： inbox 近 2 天（7/30 ~ 8/1）+ paper_cards 近 3 天新卡 engineering 主/邻接抽查 本简报目的： 为今晚 engineering 活文档接力（v41 → v42）预习备料，聚焦尚未进入 know…
知识库草稿：Jay 工程筛选 · 2026-07-31 晚间场
TGI 从 20260321 起正式进入维护模式（maintenance mode）：只接受 minor bug fix PR，不再接受新功能 官方指引新部署迁移至 vLLM 或 SGLang TGI 的历史贡献：continuous batching 和 Flash Attention 的工业级布道者，2023202…
知识库草稿：Jay 工程筛选 · 2026-07-31 下午场
核心思想：对单位球面向量施加随机正交旋转，使每个坐标服从 Beta(1/2, (d1)/2) 分布，再用 LloydMax 标量量化器独立量化每个坐标——无需 kmeans 训练，比 Product Quantization 快约 1000 倍 3bit 量化下，KV cache 压缩 8 倍，注意力保真度 99.5%…
知识库草稿：Jay 工程筛选 · 2026-07-31 上午场
场景：支付请求超时未收到响应时的幂等处理 覆盖：幂等键设计、AtLeastOnce vs AtMostOnce 语义、去重表实现 分布式系统工程师实际遇到的经典问题 OpenAI 在安全评估中意外利用了 H...（Honeypot/启发式机制）的真实事件 AI 系统生产环境中的意外行为机制分析 属于真实事故后分析（Po…
engineering · E1 预消化简报(2026-07-31)
执行:Jay · 主题:engineering · 类型:E1 日间预消化轮(engineering) 窗口:20260730 11:20 CST → 20260731 11:20 CST(约 24 小时增量) 基线:organized/knowledge/engineering.md v40(20260730 · M…
知识库草稿：AI 工程·后端·数据库·部署高价值条目
2026 年 vLLM 已支持 AMD、Intel Arc、TPU+NVIDIA 全硬件覆盖； OpenAI 兼容 API 使得从云服务迁移到自部署非常顺畅； 已成为大规模生产推理的事实标准。 Transformers v4.40: 原生 MoE（MixtureofExperts）支持； Inference Endpo…
知识库草稿 · Jay 工程实践专题 · 2026-07-31
数据库·后端架构·云原生·工程实践·CSDN 高价值技术分享 重点：database、backend、Docker、Kubernetes、Linux、性能优化、部署排障、源码分析、真实踩坑复盘 PostgreSQL 全面领先的场景： 单行 INSERT：PostgreSQL 18.1 达 21,338 QPS，MySQ…
Jay 工程实践筛选 · 2026-07-30 晚间档
二次筛选：推理引擎排障 · LLM Bug 实证研究 · vLLM OOM 诊断 · 推理框架 Benchmark 精筛 ✅ 有真实环境、命令、CUDA 错误信息 ✅ 有可复现步骤或性能数字（附硬件/版本约束） ✅ 源码分析、benchmark methodology 说明 ❌ 概念综述、无数字支撑的对比、无版本标注的…
AI 工程·后端·数据库·部署 | 知识库草稿
本周聚焦：Agent 治理框架、多模态本地模型、RAG 生产级架构、开源语音 AI V4.1 在 Hugging Face 6 月趋势中排名靠前，MIT license，总下载量 418K。 链接： | 排名 | 模型 | 机构 | License | ||||| | 1 | DeepSeek V4.1 | DeepS…
engineering · E1 预消化简报(2026-07-30)
执行:Jay · 主题:engineering · 类型:E1 日间预消化轮(engineering) 窗口:20260728 18:00 CST → 20260730 11:20 CST(约 41 小时增量) 基线:organized/knowledge/engineering.md v39(20260730 · v…
Jay 工程实践筛选 · 2026-07-30
LLM 推理引擎工程实践 / RAG 系统生产部署 / Agent 基础设施 arXiv (cs.AI, cs.CL, cs.SE, cs.LG) · Papers with Code · inference.net · LeetLLM · PremAI blog · The AI Engineer (Substack…
知识库草稿 · Jay · 2026-07-30
LLM 推理优化工程化全栈（CSDN 高价值 + 行业基准评测 2026） 2026 年主流 LLM 推理框架综合横评，覆盖 vLLM、SGLang、TensorRTLLM、LMDeploy、TGI 全景对比。重点解析 DeepSeek AI 开源的基础设施优化工具（FlashMLA / DeepEP / DeepGE…
研究知识库草稿 · Jay · 2026-07-30
AI 工程·后端·数据库·部署 — GitHub Trending + Hugging Face + 学术/技术社区高频条目 GitHub Trending（日榜） Hugging Face Trending Models / Papers arXiv / Papers with Code（LLM Agent、RAG、…
Jay 工程实践筛选 · 2026-07-29 晚间版（第3次 · 补扫）
本次保留 A级 5 条，B级 2 条，C级 3 条。本轮重点挖掘今日已有扫描未明确覆盖的工程条目：FROAV RAG Agent评估框架、vLLM 0.9 架构变更（Model Runner V2）、AMD ROCm+vLLM 上游进度（Semianalysis深度）、AI Agent 部署 Pipeline 工程代码…
Jay 工程实践筛选 · RSS 增量补扫 · 2026-07-29 下午（v2 重写）
v2 重写说明：本文件原 v1 版本（已归档为 .v1.md.bak，本次覆盖为 v2）存在以下问题：(1) A1 DoorDash/Instacart/Uber Eats 文章与 10:55 RSS 轮次判断矛盾（v1 升 A 级，10:55 已 C 级丢弃）；(2) A2 ByteByteGo 最佳实践混入"根据摘…