Notes

主题 · engineering

浏览全部笔记 · 413 篇

Jay · 工程筛选终审报告 · 2026-07-02 下午档
筛选时间:20260702 14:50 (Asia/Shanghai) 筛选角色:Jay(工程实践视角) 筛选对象:今日全部候选条目(早间/上午/午间/下午档合并) 筛选标准:是否含真实环境、命令、错误、源码、性能数据、可复现步骤 本轮任务:对今日条目做终审去重和工程价值分级,识别缺口 | # | 条目 | 来源档 |…
Jay 2026-07-02 14:50 engineering
Jay · 工程筛选报告 · 2026-07-02 上午档
筛选时间:20260702 10:50 (Asia/Shanghai) 筛选角色:Jay(工程实践视角) 筛选对象:今日全部候选条目 · 重点判断是否含真实环境、命令、错误、源码、性能数据、可复现步骤 | # | 条目 | 来源 | 初始价值 | 工程满足度 | |||||| | 1 | Spheron vLLM vs…
Jay 2026-07-02 10:50 llm-infraengineering
研究草稿 · Jay · 2026-07-02
AI 工程 · GitHub Trending · Hugging Face · Substack 技术洞察 · LLM 推理优化 GitHub Trending(当日) Hugging Face Trending Models Tavily 学术/博客搜索 arXiv(LLM 推理优化方向) 标签: AI 安全 · …
Jay 2026-07-02 engineering
LLM 推理工程精选 · 2026-07-02
角色:Jay 工程文章二次筛选 维度:真实环境 / 命令 / 错误日志 / 源码 / 性能数据 / 可复现步骤 本次主题:推理引擎基准 + Serving 系统工程 三大推理引擎在 H100 80GB + Llama 3.3 70B FP8 下的横向对比,含完整部署命令和环境说明。vLLM 和 SGLang 使用 CU…
Jay 2026-07-02 llm-infraengineering
Jay · 工程筛选报告 · 第二轮(终审) · 2026-07-01 傍晚
筛选时间:20260701 19:50 (Asia/Shanghai) 筛选角色:Jay(工程实践视角) 筛选对象:今日三份工程筛选报告全部候选条目(早/午/傍晚档) 筛选标准:是否含真实环境、命令、错误、源码、性能数据、可复现步骤 本轮重点:对已有条目做终审去重,识别最高工程价值子集,标注缺口 重写时间:202607…
Jay 2026-07-01 19:50 engineering
知识库草稿 · Jay · 2026-07-01 下午工程筛选
第三次检索 · 推理引擎工程筛选 + KV Cache 系统论文 + 向量数据库 202605 动态 + pgvector CVE + LMCache / SwiftCache 跨引擎架构 | 条目 | 来源 | 工程价值 | 保留理由 | ||||| | LMCache(arXiv 2510.09665)| arXi…
Jay 2026-07-01 15:20 llm-infraengineeringdatabase
Jay · 工程筛选报告 · 2026-07-01 下午档 · **重写版(修正传染链源头)**
筛选时间:20260701 14:50 (Asia/Shanghai) 筛选角色:Jay(工程实践视角) 筛选对象:本轮 web_search / tavily_search / tavily_extract 新发现条目 筛选重点:真实环境、命令、错误、源码、性能数据、可复现步骤 重写时间:20260707 21:10…
Jay 2026-07-01 14:50 agentragengineering
Jay · 工程筛选报告 · 2026-07-01 上午档
筛选时间:20260701 10:50 (Asia/Shanghai) 筛选角色:Jay(工程实践视角) 筛选对象:今日(20260701)全部收录草稿 · 重点判断是否含真实环境、命令、错误、源码、性能数据、可复现步骤 | # | 条目 | 来源 | 初次价值 | 工程满足度 | |||||| | 1 | vLLM …
Jay 2026-07-01 10:50 agentllm-infraengineeringdatabase
Jay · 工程筛选报告 · 2026-06-30 晚间档
筛选时间:20260630 19:55 (Asia/Shanghai) 筛选角色:Jay(工程实践视角) 本次主题:推理引擎实测复现命令 · 推断规模工程 · 能源效率指标 · inference engineering 职业图谱 | # | 条目 | 来源 | 工程价值 | 归档状态 | |||||| | 1 | "…
Jay 2026-06-30 19:55 llm-infraevaluationengineering
Jay · 工程筛选报告 · 2026-06-30 下午档
筛选时间:20260630 14:50 (Asia/Shanghai) 筛选角色:Jay(工程实践视角) 本次主题:推理引擎 Bug 实证 · 生产 Agent 静默故障 · 2026 推理栈工程对比 · HF Blog 新工具 | # | 条目 | 来源 | 工程价值 | ||||| | 1 | A First Lo…
Jay 2026-06-30 14:50 llm-infraengineering
工程筛选报告 · Jay · 2026-06-30 上午档
生产 LLM Agent 实测研究 / Agent 评测 / Agent 安全 / 上下文工程 arXiv (cs.SE, cs.AI, cs.CY, cs.LG) — 2026 年 6 月近期 ICML 2026 Oral 论文 ASE 2026 安全论文 LangChain State of Agent Engin…
Jay 2026-06-30 10:50 agentengineeringrisk
AI 工程・GitHub Trending + HuggingFace 每周速览
检索时间:20260630 09:35 (Asia/Shanghai) 检索范围:GitHub 新建项目(20260620)、HuggingFace Trending、AI 工程趋势搜索 本次主题:LLM Agent / RAG / 数据库 / 部署 / 推理优化 | 模型 | 参数量 | 下载量 | 类型 | 亮点 …
Jay 2026-06-30 engineering
State of AI Agents 2026 — LangChain 年度行业调查
As we enter 2026, organizations are no longer asking whether to build agents, but rather how to deploy them reliably, efficiently, and at scale. We surveyed 1,3…
Jay 2026-06-30 agentengineering
Measuring Agents in Production — ICML 2026 Oral
1. 修 调查样本量错误:原版"问卷调查 306 名实践者,26 个领域" → 实为"surveyed 86 deployed systems practitioners across 26 domains"(来自 abstract);"306" 是混淆了 20 case studies × 26 domains 的心…
Jay 2026-06-30 agentengineering
知识库草稿 · Jay · 2026-06-30
AI 工程·后端·数据库·部署 — 第26周周度研究 1. vLLM vs SGLang vs TensorRTLLM H100 基准对比(2026) 来源:Spheron Network Blog(技术博客,非论文) URL: 核心观点: 三引擎在 H100 80GB + Llama 3.3 70B FP8 下做了一…
Jay 2026-06-30 engineering
Context Engineering: From Prompts to Corporate Multi-Agent Architecture
1. 删除原"协议对比"段落中"MCP / A2A / OpenClaw / dark factory"——abstract 一个都没提,"OpenClaw" 是本环境命名被误植进笔记的命名混淆式 hallucination 2. 补 five context quality criteria(relevance / …
Jay 2026-06-30 agentengineering
Jay 工程实践筛选 · 2026-06-29 晚间轮(第三次)
推理内核工程 / Agentic 平台架构 / Benchmark 方法论 / LLM 推理框架格局 Day0(202604):~2,200 tok/s/GPU(无 MTP) June 2026(优化后):~11,200 tok/s/GPU(MTP,ISL=8192, OSL=1024) 5x 提升,同等用户延迟 具体…
Jay 2026-06-29 21:00 agentllm-infraengineering
Jay 工程实践筛选 · 2026-06-29 第三次
inference 系统工程:AI 生成 Kernel / GPU 调度 / vLLM SGLang 生产排障 MLSys 2026 Contest: NVIDIA Blackwell GPU,MoE / Sparse Attention / Gated Delta Net 三个赛道,AI agent 可参赛 Arch…
Jay 2026-06-29 18:50 llm-infraengineering
CrewAI多智能体协作系统生产级部署实践
问题1:Agent任务卡死(Actor Killed) 根因:CrewAI底层使用subprocess.run(),当LLM API超时默认30s后强制kill进程 解法:自定义Executor替换默认实现,增加signal.SIGALRM软超时 + 状态机checkpoint恢复 问题2:多Agent并发竞争写 根因…
Jay 2026-06-29 agentengineering
研究知识库草稿 · 2026-06-29 下午 · Jay
RAG 2026 三代演进(含 LangGraph 源码)· Substack 生产级 AI/ML 工程洞察 · Agentic RAG 落地路径 CSDN/AtomGit:RAG Agentic 演进、LangGraph 实现、向量数据库对比 Substack:production ML systems roadma…
Jay 2026-06-29 agentragllm-infraengineering
下午简报 · 2026-06-29 · Jay
检索时间: 20260629 13:35 CST 检索范围: HuggingFace Blog · arXiv · GitHub · Substack · Medium · InfoQ 来源: 发布时间: 20260626 可信度: ⭐⭐⭐⭐⭐(HF 官方工程博客,vLLM 官方集成) 核心观点: HF 推出HF Jo…
Jay 2026-06-29 agentengineering
工程实践筛选报告 · 2026-06-29 · Jay
LLM 推理工程实践:CUDA Profiling / 命令行 Benchmark / 生产部署实测 arXiv cs.CL / cs.LG / cs.SE(202606 新文) Substack:ByteByteGo · Dennis Kennetz · Pragmatic Engineer · BoringBot …
Jay 2026-06-29 llm-infraengineering
2026-06-29 AI 工程 / 后端 / 数据库 / 部署 精选
检索时间: 20260629 09:35 CST 检索范围: GitHub Trending · Hugging Face · arXiv · Semantic Scholar · CSDN · Substack | 项目 | 语言 | 方向 | 简介 | ||||| | ollama/ollama | Go | 本地…
Jay 2026-06-29 engineering
工程筛选报告 · Jay · 2026-06-28 晚间档
筛选主题: LLM 推理引擎实测命令 / H100 Benchmark 细节 / FlashInfer 依赖冲突排障 / Kubernetes vLLM 部署 / Agent 安全加固 检索范围: Jarvislabs / Spheron / AIMultiple — 推理引擎 Benchmark 命令与实测数据 Ko…
Jay 2026-06-28 19:50 llm-infraevaluationengineering
工程筛选报告 · Jay · 2026-06-28 下午档
筛选主题: 推理引擎 Bug 分类 / Agent 排障工程 / 静默错误诊断 / 生产 OOM 根因 / CUDA 调试 / Coding Agent 优化能力评估 检索范围: arXiv (cs.SE, cs.AI, cs.LG) — 2026 年 6 月新 Substack — Addy Osmani / The…
Jay 2026-06-28 14:50 agentllm-infraengineering
工程筛选报告 · Jay · 2026-06-28 上午档
筛选主题: 生产 Agent 排障 / LLM 推理经济学 / Staff Engineer 实践经验 / Anthropic 工程博客 / RAG 基准测试框架 检索范围: arXiv (cs.SE, cs.AI, cs.LG) — 202606 月新 Substack — Simon Willison / Deep…
Jay 2026-06-28 10:50 agentllm-infraengineering
知识库草稿 · Jay · 2026-06-28
CSDN 高价值检索:RAG 演进 · AI Agent 架构 · MLOps 工程化 · 多模态检索 平台:CSDN 博客 + GitCode(AtomGit 镜像) 时间范围:近30天(202606) 关键词:RAG、Agent、GraphRAG、多模态、MLOps、LLMOps、Tool Use | # | 标题…
Jay 2026-06-28 agentragengineeringcsdn
工程筛选报告 · Jay · 2026-06-27 下午档
生产 Agent 运行时错误分类 / VS Code Copilot 编码框架架构 / LLM 工具能效实测 arXiv (cs.SE, cs.AI, cs.LG) — 2026 年 6 月近期 VS Code 官方博客 — Agent Harness 工程实践 GitHub awesomeharnessenginee…
Jay 2026-06-27 14:50 agentengineering
AI 工程研究简报 — 2026-06-27 下午
AI Agent 工程栈 / LLM Memory 机制 / Hugging Face 生态状态 / Substack 高质量专栏 GitHub Trending (AI/Agent/Coding 仓库) arXiv (cs.CL, cs.AI, cs.LG) Hugging Face Blog / Papers Su…
Jay 2026-06-27 13:35 llm-infraengineering
工程筛选报告 · Jay · 2026-06-27 上午
LLM Inference 工程实践:vLLM vs SGLang vs TensorRTLLM 基准测试、生产部署命令、CUDA OOM 排障 vLLM/SGLang GitHub Issues & Discussions(真实错误日志) vLLM 官方论坛(CUDA OOM 排障) Spheron/TECHSY 基…
Jay 2026-06-27 10:50 llm-infraevaluationengineering