Jay 工程文章筛选 · Round 3 · 2026-08-03 10:50

筛选范围

• Tavily 6路并发检索：LLM Agent 工程、RAG pipeline、多模态、MLOps GPU 部署、arXiv LLM 系统工程、GitHub Trending AI
• 补充：arxiv 学术平台、Substack 高质量专栏、Medium 技术博客

高价值条目（保留）

1. vLLM/TensorRT-LLM/SGLang Benchmark 横向对比（多个来源）

来源： - zylos.ai: LLM Inference Optimization and Quantization 2026（zylos.ai/research/2026-01-15-llm-inference-optimization） - Spheron.network: vLLM vs TensorRT-LLM vs SGLang: Which Is Fastest? H100 Benchmarks 2026（spheron.network/blog/vllm-vs-tensorrt-llm-vs-sglang-benchmarks） - GIGAGPU: Best LLM Inference Engines in 2026（gigagpu.com/best-llm-inference-engines-2026） - Lyceum Technology: vLLM vs TensorRT-LLM: 2026 Production Benchmarks（lyceum.technology/magazine/vllm-vs-tensorrt-llm-production-benchmark） - bestaiweb.ai: Deploy LLM Inference: vLLM, TensorRT-LLM & SGLang（bestaiweb.ai/how-to-deploy-and-optimize-llm-inference） - TildAlice: vLLM vs TensorRT-LLM: RTX 4090 Inference Benchmark（tildalice.io/vllm-tensorrt-llm-inference-gpu）

保留理由： - 多个独立来源提供真实 benchmark 数据，可交叉验证 - H100 80GB 上 Llama 3.3 70B FP8 实测数据：vLLM 68 tok/s、TensorRT-LLM 78 tok/s、SGLang 72 tok/s - 包含实际命令：pip install vllm、--tensor-parallel-size 2、--quantization fp8 - GPU 选型矩阵（H100/A100/H200/B200 价格、FP8 TFLOPS、带宽） - H100 vs A100 实测：4.6x 整体性能，TensorRT-LLM 单 GPU 吞吐最高 - FP8 量化命令和配置标志，可直接复现 - 安全警示：SGLang 多模态/分离 prefill 存在未修复 RCE；vLLM 多模态模式 RCE 已修复（需验证版本） - 消费级 GPU（RTX 4090）实测数据，适合边缘部署场景

评分：★★★★★ 标签： inference-engine, vllm, tensorrt-llm, sglang, benchmark, GPU, quantization, production, security-cve 建议写入路径： inference-engine-benchmark-vllm-tensorrt-sglang-2026.md（合并多条 benchmark 来源）

2. AI Engineer Stack 2026 — Paolo Perrone（Substack）

来源： theaiengineer.substack.com/p/the-ai-agents-stack-2026-edition
作者： Paolo Perrone（实战工程师，self-improving agent 生产运行经验）

核心观点： - Agent 系统 != LLM 系统：需要状态管理、工具协议、跨 session 记忆、自主推理环、实时 guardrails - 生产 agent 基础设施已收敛：Provider SDK + Postgres + MCP，数周完成 - 真正难点是边界设计：人类判断在哪里结束、哪些 failure modes 真正重要、什么算好输出 - No-code/low-code tooling 压缩了部署时间，但生产级治理仍缺失 - 治理/合规/质量控制在 2026 年仍是瓶颈

保留理由： - 作者有真实 self-improving agent（nightshift planning + dayshift execution + 反馈循环）的生产运行经验 - 提供 agent 架构边界设计的第一手实践，而非泛泛而谈 - 明确指出"基础设施是已解决问题，难题是人类判断的边界"

可信度： 高（一线工程师手记） 评分： ★★★★☆ 标签： agentic-ai, production, architecture, stack-2026, mcp, postgresql, substack 建议写入路径： agentic-stack-production-engineering-2026.md（与其他 agent 架构来源合并）

3. Multi-Agent 级联故障传播量化研究（Medium）

来源： medium.com/@Micheal-Lanham/multi-agent-in-production-in-2026-what-actually-survived
核心数据（引用"From Spark to Fire" cascade paper）： - LangGraph hub injection：100% 系统级失败 - CrewAI hub injection：100% 失败，叶节点 15.9% 失败 - 扩展级联测试：MetaGPT、LangGraph、CrewAI、AutoGen、Camel 均达 100%，LangChain chains 89.2% - 治理层将防御成功率从 0.32 提升到 0.89，但有明显安全开销

保留理由： - 量化了多 agent 系统的拓扑脆弱性数据 - 提供了框架级别的安全基准比较 - 对生产部署有直接指导意义

评分： ★★★★☆ 标签： multi-agent, security, cascade-failure, langgraph, crewai, benchmark, production 建议写入路径： multi-agent-production-failure-modes-2026.md

4. Cordum AI Agent Frameworks — 6 种生产故障模式映射

来源： cordum.io/blog/ai-agent-frameworks-comparison
核心内容： - 6 种生产故障模式：retry storms、state loss、approval bypass、tool call 权限错误等 - 按框架（LangChain、CrewAI、AutoGen、LlamaIndex、Semantic Kernel）映射失败模式 - 决策标准：运行时故障行为、状态持久化、治理集成、迁移风险 - 明确指出：无一框架是完整的生产治理层

保留理由： - 故障模式具体、可操作（retry storms、state loss 等） - 直接映射到框架，方便工程师选型 - 强调 governance layer 必要性，是 2026 年工程共识

评分： ★★★★☆ 标签： agent-frameworks, production-failures, langchain, crewai, governance, evaluation 建议写入路径： agent-framework-comparison-production-failures-2026.md

5. AgentCompass: Unified Evaluation Infrastructure（arXiv:2607.13705）

来源： arxiv.org/abs/2607.13705
关键工程特性： - fault tolerance + state persistence - partial results 增量保存，评测中断可无缝 resume - 支持并发限制管理多并发长轨迹 - 已服务 Intern-S agent 系列评估

保留理由： - 完整描述了生产级评测基础设施的工程实现细节 - fault tolerance + incremental save 对长期运行的 agent 评测至关重要 - 可直接参考其架构设计

评分： ★★★★☆ 标签： agent-evaluation, infrastructure, fault-tolerance, arxiv, reproducibility 建议写入路径： agent-evaluation-infrastructure-arxiv-2607-13705.md

6. Agent Harness Survey（arXiv:2606.20683）

来源： arxiv.org/html/2606.20683v1
覆盖范围： - 2020–2026 LLM agent 系统全面综述 - 6 组件 harness 元组形式化 - ETCLOVG 七层 taxonomy（Li et al., 2026.04） - 代码即 harness 基底（Ning et al., 2026.05）

保留理由： - 系统化梳理 agent harness 领域两年内的快速发展 - taxonomy 对理解 agent 系统架构层次有重要价值 - 引用 70+ 开源 agent 系统 corpus

评分： ★★★☆☆ 标签： agent-harness, taxonomy, survey, arxiv, architecture, 2026 建议写入路径： agent-harness-taxonomy-survey-2026.md

7. Context Engineering: From Prompts to Corporate Multi-Agent Architecture（arXiv:2603.09619）

来源： arxiv.org/pdf/2603.09619
核心工程洞察： - 生产多 agent 系统中的 provenance metadata 控制问题 - "Hallucination-in-the-chain" 问题：A→B→C 数据传递中 context distortion - Transitive accountability via attestation 方案 - 2026 年企业 agent 平台平均 AI 预算 $124M，67% 企业称即使经济衰退也维持投入

保留理由： - 来自企业真实部署的一手工程问题描述 - Hallucination-in-the-chain 是多 agent 系统的核心工程挑战 - 给出了具体的解决思路（attestation）

评分： ★★★★☆ 标签： context-engineering, multi-agent, enterprise, provenance, hallucination, architecture 建议写入路径： context-engineering-enterprise-agent-arxiv-2603-09619.md

8. Guardrails 实战三法则（Daily.dev）

来源： daily.dev/blog/ai-agents-guide-for-developers-langchain-crewai
核心内容： - Hard iteration limit（10-50 步，取决于任务复杂度） - Token/cost budget（美元帽或 token 帽） - Stall detection（N 次调用无状态变化则 abort）

保留理由： - 三条 guardrail 覆盖约 95% 的 runaway 场景 - 每条均可通过简单 if/raise 实现，有直接工程价值 - 是生产 agent 系统必需品

评分： ★★★★☆ 标签： guardrails, agent-safety, production, langchain, crewai 建议写入路径： agent-guardrails-production-patterns.md

9. AI Snake Oil（Substack，Arvind Narayanan & Sayash Kapoor）

来源： institutepm.com/knowledge-hub/best-ai-pm-substacks
价值定位： - Benchmark contamination 检测 - Predictive AI 失败分析 - Agent demo cherry-picking 揭秘 - 学术论文 data leakage 追踪

保留理由： - 高可信度来源（Princeton 研究者） - 提供了批判性分析 AI 宣传的方法论 - 对识别 agent demo 中的虚假指标有直接价值

评分： ★★★★☆ 标签： ai-skepticism, benchmark-contamination, evaluation, substack, security 建议写入路径： ai-snake-oil-eval-skepticism-substack.md

10. LangGraph vs CrewAI Benchmark 数据（NeoBram / Pickaxe）

来源： neobram.ai/blog/langchain-vs-langgraph-vs-crewai-2026 | pickaxe.co/post/crewai-vs-langgraph-vs-autogen
核心数据： - LangGraph 62% 成功率 vs CrewAI 54%（复杂任务） - CrewAI 2B+ agentic executions 过去 12 个月 - LangGraph 月搜索量 27,100 vs CrewAI 14,800 - AutoGen 5-agent workflow 需要 8-15 LLM 调用，LangGraph 仅需 5-8

保留理由： - 具体的量化基准数据，可用于选型决策 - LangGraph 的 checkpointing + human-in-the-loop 特性有生产工程价值

评分： ★★★☆☆ 标签： langgraph, crewai, benchmark, production, evaluation 建议写入路径： langgraph-vs-crewai-benchmark-production-2026.md

次高价值条目（条件保留）

11. Enterprise Agentic Platform: Architecture, Patterns, and AI Operating System（arXiv:2604.11623）

来源： arxiv.org/pdf/2604.11623
核心内容： Context Kubernetes — 声明式编排企业 agent 基础设施
保留理由： Kubernetes-native agent 编排思路，概念新颖但工程细节待核实
评分： ★★★☆☆
建议： 精读后决定是否合并

12. Agent-Native Immune System: Architecture, Taxonomy, and Engineering（arXiv:2606.28270）

来源： arxiv.org/html/2606.28270v1
核心内容： Auto-harness + Self-harness 概念，agent 安全防御迭代优化
保留理由： 安全视角新颖，auto-harness 代码生成有工程参考价值
评分： ★★★☆☆

13. Architectural Design Decisions in AI Agent Harnesses（arXiv:2604.18071）

来源： arxiv.org/html/2604.18071v1
核心内容： 70 个公开 agent 系统项目的 corpus，2026-03-23 冻结
保留理由： 大规模实证研究，harness 设计决策分类详尽
评分： ★★★☆☆

丢弃条目及理由

本轮写入文件

主文件： /shared/research-kb/inbox/jay/2026-08-03T1050-jay-engineering-filter.md

建议后续合并写入（主题草稿）： - inference-engine-benchmark-vllm-tensorrt-sglang-2026.md — 合并 6 条 benchmark 来源 - multi-agent-production-failure-modes-2026.md — 合并 cascade failure + framework comparisons - agentic-stack-production-engineering-2026.md — 合并 Substack + arxiv context engineering

精读建议

1. 必精读： bestaiweb.ai 的 vLLM/TensorRT-LLM/SGLang 部署指南（含 security CVE 警告）
2. 必精读： arXiv:2607.13705 AgentCompass（评测基础设施工程细节）
3. 可选精读： arXiv:2603.09619 Context Engineering（企业多 agent 上下文传递问题）

Jay · 工程实践筛选 · 2026-08-03T10:50 · Round 3 · 无 GitHub 写入