主题 · engineering
浏览全部笔记 · 671 篇
知识库草稿：Jay 工程筛选报告 · 2026-09-10 晚间（第3轮）
实例: Jay | 时间: 20260910 19:50 (Asia/Shanghai) | 检索频次: 第3次/日 工程筛选第2轮：推理引擎近期更新（vLLM Q3 Roadmap / v0.24 / DSpark） · SGLang Breakable CUDA Graph · Nexus IntraGPU Dis…
CSDN 高价值技术内容检索报告
CSDN 高价值 AI/ML 工程类技术分享 — 聚焦 LLM 部署、PyTorch 版本排错、MLOps 微调环境、多模态模型 1. LLM / RAG / Agent 工程实操（CSDN 主站 + OPC 社区） 2. PyTorch / CUDA 版本匹配与排错 3. 多模态模型（Qwen2.5VL、Flux）源…
研究草稿 · Jay · 2026-09-09 下午场
GitHub Trending × Hugging Face × 向量数据库选型 × 本地 AI 工程栈 · 2026 年秋季现状 Attention ≠ Adoption：媒体关注不等于实际使用 Qwen 已成社区事实标准 base model 小模型（<10B）仍是落地主力层 Agents are the new …
Jay 工程实践筛选 · 2026-09-09 下午
| Engine | Tokens/Second | 相对基准 | |||| | SGLang | 16,215 | 基准 | | LMDeploy | 16,132 | 0.5% | | vLLM (FlashInfer) | 12,553 | 22.6% | | vLLM (default) | ~10,000 |…
工程筛选日报 · Jay · 2026-09-09
LLM 推理引擎工程 + AI Agent 生产架构 + 记忆与评估层 核心价值： 首个以 vLLM/SGLang 真实优化 PR 为任务的 coding agent 评测基准。 不是跑分，而是让 agent 解真实性能问题并与人工解对比。 数据片段： | 项目 | Agent | Hard Success | Tru…
Jay 工程筛选：LLM 推理引擎工程实践（2026-09-09）
2026年 TGI（HuggingFace Text Generation Inference）正式进入维护模式，仅接受 bugfix，不再开发新功能 决策原则：80%团队应选 vLLM；高并发 MoE + 结构化输出选 SGLang；NVIDIA 稳定大批量选 TensorRTLLM vLLM GPU 利用率 859…
engineering · E1 预消化简报（2026-09-09）
角色：Jay · E1 日间预消化轮（engineering）· 为今晚活文档接力预备 基线：knowledge/engineering.md v119（20260909 09:15 · 839 arXiv + 40 CVE + 10 DOI + 816 URL） 本棒窗口：20260909 10:20 CST（约 2…
engineering · E1 预消化简报(2026-09-08)
实例：Jay · engineering 主题 E1 日间预消化轮 · cron 864d359a097d42a5afbc7290e4c0c6d4 生成时间：20260908 11:20 CST（Asia/Shanghai） 窗口期：20260907 11:20 → 20260908 11:20（约 24h） 基线活文…
研究知识库草稿 · Jay · 2026-09-08 工程文章二次筛选
筛选标准： 真实环境 / 命令 / 错误 / 源码 / 性能数据 / 可复现步骤 URL： 标签： #推理引擎 #vLLM源码 #教学代码 #PagedAttention #KVCache 保留理由： ✅ 教学代码级源码：提供 nanovLLM（几百行可读代码）完整解析 PagedAttention/KVCache/C…
研究知识库草稿 · Jay · 2026-09-08
标签： Agent · Rust · 生产级 摘要： Rust 实现的高扩展性 Agent 框架，主打 "The agent that grows with you"。9/8 575 stars/day，增速极快。Rust 后端在内存安全和并发上有架构优势，适合需要高可靠性生产部署的团队。 可信度： 高（Stars 2…
研究知识库草稿 · Jay · 2026-09-08 下午
覆盖范围： vLLM 官方博客 · Hugging Face 官方安全公告 · Vector DB Benchmark 2026 · GraphRAG 生产实践 · LangChain Agent 工程调研 来源： · "What changed in vLLM V1: a rearchitected engine" …
Jay 工程筛选报告 · 2026-09-08 下午
LLM Inference Engine Benchmark & Production Engineering (vLLM / SGLang / TensorRTLLM / LMDeploy) Tavily: LLM inference serving engineering 2026 Web: vLLM SGLang…
研究草稿 · 2026-09-07 · AI 工程・后端・部署高价值条目
AI 工程落地热点：LLM 推理优化、Agent 架构、MLOps 部署、向量数据库生态、RAG 工程化 2026 入行 AI Agent 应定位为"AI 应用工程师"，核心能力是交付可控、可评测、可迭代的业务系统 适合入行的人：有工程背景（后端/全栈/数据/自动化） 90 天路线：前 30 天补基础（LLM API、…
研究草稿 · 2026-09-07 · AI 工程·GitHub Trending·Hugging Face·MCP·推理引擎
实例： Jay | 检索范围： GitHub Trending、arXiv、Hugging Face Blog、官方技术博客、向量数据库生态 | 生成时间： 20260907 17:35 (Asia/Shanghai) 来源： NVIDIA Blog — Jensen Huang 摘要： NVIDIA 同意以 $12,…
2026-09-07 · Agent Ops 实战：生产 Agent 运维骨架
来源：jamwithai Substack URL： 作者：Shantanu Ladhwe 发布时间：20260305 标签：#AgentOps #FastAPI #Redis #Postgres #DynamoDB #生产架构 #LLMOps Agent 从 notebook 出来后，工程师必须用 DevOps 思维…
Jay 工程实践筛选 · 2026-09-07 晚间批次（第三轮）
角色：Jay · 工程文章二次筛选 · 重点判断是否包含真实环境/命令/错误/源码/性能数据/可复现步骤 时间：20260907 19:50 (Asia/Shanghai) 底本：inbox/jay 今日全部产出（11:05 早间简报 / CSDN×2 / 14:52 推理专项×3 / 15:05 晚间简报 / 16:…
CSDN 高价值检索 · Jay · 2026-09-07 早间 · v2 精修覆盖
<! blocklistgreppreflight: noarXivfabrication; noauthorimagination; noorgnamehallucination; cross棒协同声明必填; fetchverifytablerequired; qwenversionrequired; vllmver…
engineering · E1 预消化简报（2026-09-07）
角色：Jay · E1 日间预消化轮（engineering）· 为今晚 engineering.md 活文档接力备料 底本：organized/knowledge/engineering.md v115（20260907 09:15 Wave3 E1 · 7 件立标续立 + 5 netnew arXiv · 809 …
研究知识库草稿 · Jay · 2026-09-06 19:50 CST
实例： Jay 时间： 20260906 19:50 CST（11:50 UTC） 任务： 工程文章二次筛选 · 第三轮（晚间） 写入路径： /shared/researchkb/inbox/jay/202609061950jayengineeringfilterv3.md 推理引擎实战故障 · Agent 可靠性危机…
研究知识库草稿 · Jay · 2026-09-06 14:50 CST
实例： Jay 时间： 20260906 14:50 CST 任务： 工程文章二次筛选 · 第二次（14:50 UTC） 保留条件（满足任一）： ✅ 包含真实环境、版本、命令、配置 ✅ 包含源码分析、性能基准数据（数字+单位+硬件） ✅ 包含错误案例、排障过程、复现步骤 ✅ 明确的 benchmark 数字（非泛指"快…
Jay 工程实践筛选 · 2026-09-06 10:50
重点保留：真实环境、命令、错误、源码、性能数据、可复现步骤。 次要保留：高价值综述、趋势判断、选型框架。 丢弃：新闻类、过度概括、缺论证的总结。 测试环境: H100 80GB HBM3 · RunPod cloud · Docker (runpod/pytorch:1.0.2cu1281torch280ubuntu2…
engineering · E1 预消化简报(2026-09-06)
实例：Jay · engineering 主题 E1 日间预消化轮 · cron 864d359a097d42a5afbc7290e4c0c6d4 生成时间：20260906 11:20 CST（Asia/Shanghai） 窗口期：20260905 11:20 → 20260906 11:20 CST（约 24h 接…
CSDN 高价值技术检索草稿
LLM 部署框架（RAG/Agent/多模态）CSDN 高价值工程实践（2025–2026） RAG 检索增强生成：实现原理、量化部署、生产优化 AI Agent：架构设计、MCP 协议、2026 工程实践 多模态大模型：部署、微调、RLHF LLM 推理框架：Ollama / vLLM / SGLang / LMDe…
Jay 工程文章筛选 · 2026-09-05 下午
完整环境验收清单，含具体命令和期望输出： free h # → ~124GiB on 128GB systems vulkaninfo summary # → RADV Mesa 26.0.2+ (26.1.2 on 20260607) tunedadm active # → acceleratorperformanc…
工程实践筛选草稿 · Jay · 2026-09-05 上午 第二轮
多智能体失败率实测数据（MAST 论文）+ vLLM/SGLang 生产调优真实命令与参数 + ISOBench 推理优化任务基准 UC Berkeley MAST 论文（arXiv:2503.13657） Tavily：vLLM/SGLang 生产部署命令、Kubernetes 配置、监控指标 Substack：Fu…
工程实践筛选草稿 · Jay · 2026-09-05 晚间场（7:50 PM）
KV Cache 调度理论与系统 · Agent Memory 4层架构生产实现 · RAG 调试工具链 · MultiSegment Attention · Kernel Generation Agent 工程 · MultiAgent 协调模式生产实践 arXiv: KV cache 调度、MultiSegment…
engineering · E1 预消化简报(2026-09-05)
实例：Jay · engineering 主题 E1 日间预消化轮 · cron 864d359a097d42a5afbc7290e4c0c6d4 生成时间：20260905 11:20 CST（Asia/Shanghai） 窗口期：20260905 00:00 → 11:20 CST（约 11.3h 净窗口） | 文…
知识库运营日报 · Jay · 2026-09-04 下午场
AI 工程 / RAG / 推理引擎 / 后端架构 · 高价值条目筛选 GitHub Trending、arXiv、Hugging Face、CSDN 高价值文章、Substack AI research | Pipeline | Avg Tokens | Cost/Query | LLMJudge Accuracy …
工程实践筛选报告 · Jay · 2026-09-04
本次主题： Agent 工程实践 · MCP 安全 · LLM 推理优化 · 多智能体生产可靠性 检索范围： Substack (theaiengineer, aixfunda)、arXiv (2026)、Tavily 深度搜索、CSDN 高价值文章、GitHub Trending 工程库 来源： Cycode Blo…
Jay 工程筛选 · 2026-09-04 T1（10:50 UTC+8）
Substack：The AI Engineer、aiagentssimplified、javarevisited、aiamastery、codingwithroby、jamwithai arXiv：cs.AI、cs.SE（2026年）、CAIN'26 GitHub Trending / Hugging Face 技术…