Jay 工程筛选 · 2026-10-03 · Agents / MCP / Stack

本次检索范围

  • LLM Agent 生产部署、编排框架（2026年9月-10月）
  • MCP (Model Context Protocol) 工程实践
  • 多智能体编排系统
  • Substack 高价值工程专栏（theaiengineer, ByteByteGo, Sarthak）
  • arXiv LLM 系统工程论文
  • GitHub trending agent 框架

候选条目（共 10 条）

1. [✅ 保留] Uber MCP Gateway 工程实践

  • 来源: Uber Engineering Blog, 2026-10-01
  • URL: https://www.uber.com/us/en/blog/designing-mcp-gateway
  • 作者: Alok Srivastava (Principal Engineer), Deepanshu Mehndiratta (Senior Staff Engineer), Gaurav Gill
  • 发布时间: 2026-10-01
  • 可信度: 高（Uber 官方工程博客，署名实名工程师）
  • 核心观点: Uber 设计了 MCP Gateway，作为 800+ MCP servers 和 5000+ tools 的中央编排层；registry 是控制平面源，proxy 负责请求路由；管理 API + 接口暴露既有服务为 MCP 工具；消除各团队重复造轮子
  • 工程价值: 注册中心（registry）、控制平面（control plane）、代理层（proxy）的三层分离架构有生产参考价值
  • 后续行动: 可精读原文架构图，提取组件交互序列；适合纳入 MCP 工程最佳实践主题页

2. [✅ 保留] Modal: 高流量 MCP Server 基础设施对比（2026-10）

  • 来源: Modal Engineering, 2026-10
  • URL: https://modal.com/resources/best-infrastructure-high-traffic-mcp-servers
  • 发布时间: 2026-10
  • 可信度: 高（Modal 官方技术文档，平台级评测）
  • 核心观点: 对比 7 大平台（Modal、Cloudflare Workers、GCP Cloud Run、Azure Container Apps、Vercel、Bedrock AgentCore、AKS）；2026-07-28 MCP 规范转向 stateless request/response 语义；sandbox 是独立隔离层，非所有 MCP server 的必须项
  • 工程价值: 平台选型决策矩阵有直接工程参考价值；stateless spec 变化是关键更新
  • 后续行动: 纳入 MCP 工程基础设施选型主题页

3. [✅ 保留] SRAO Framework: 5 阶段多智能体编排方法论

  • 来源: GitHub hijkzzz/Awesome-LLM-Strawberry · Issue #113, 2026-06-21
  • URL: https://github.com/hijkzzz/Awesome-LLM-Strawberry/issues/113
  • 发布时间: 2026-06-21
  • 可信度: 中（Issue 描述，附 GitHub 仓库链接，有真实案例数字）
  • 核心观点: SRAO = 5 阶段方法论：Domain Modeling (SRM) → Task Decomposition (Agent Capability Graph) → DAG Code Gen → Monitoring → Feedback；6 类 Agent taxonomy（Perceive/Analyze/Decide/Execute/Interact/Orchestrate）；支持 Temporal/Prefect/Airflow 模板 + Prometheus+Grafana 监控
  • 工程价值: 真实案例数字：隧道监控 3 天→10 分钟；制造业 QC 5%→0.2% 缺陷率；风车故障检测：事后→提前 4 小时预警
  • 后续行动: 可作为多智能体编排方法论参考；核实 GitHub 仓库是否包含代码实现

4. [✅ 保留] AETHER: Bun 上的多智能体编排框架

  • 来源: GitHub SufficientDaikon/aether
  • URL: https://github.com/SufficientDaikon/aether
  • 发布时间: 活跃（2026年，仍在维护，标记 PAUSED）
  • 可信度: 中（GitHub 开源项目，有 CLI、配置管理、数据库 schema）
  • 核心观点: 基于 Bun 的多智能体 LLM 协调框架；3 层 Agent hierarchy（Master/Manager/Worker）；28 个子系统；SQLite（WAL 模式）+ sqlite-vec + FTS5；19 张表；8 个生命周期钩子；.agent.md 文件定义 Agent
  • 工程价值: 完整的 SQLite schema 设计 + 持久化方案有参考价值；Bun 运行时选择值得注意
  • 后续行动: 可作为多 Agent 状态持久化设计案例

5. [✅ 保留] Jev: 廉价快速决策模型用于 Agent 可靠性

  • 来源: Sarthak Rastogi (AI Agent Engineering Substack), 2026-09-17
  • URL: https://sarthakai.substack.com/p/6-ways-to-use-jev-to-make-ai-agents
  • 发布时间: 2026-09-17
  • 可信度: 中（Substack 技术作者，有具体性能数字）
  • 核心观点: Jev（TypeSafe AI, 2026-09-15 发布）做分类决策：~100ms 延迟，$0.042/M input tokens，output tokens 免费；解决 Agent 用 frontier LLM 做路由决策的高成本问题；generations vs decisions 模式拆分
  • 工程价值: 决策与生成分离的 cost optimization 实践；具体价格/延迟数字可用于预算估算
  • 后续行动: 关注 Jev 实际集成案例；后续可核验官网定价

6. [✅ 保留] Φ-Bench: LLM 基础设施工程能力基准

  • 来源: arXiv:2609.10226v1
  • URL: https://arxiv.org/html/2609.10226v1
  • 发布时间: 2026年（arXiv 最新）
  • 可信度: 高（arXiv 学术论文，有明确 benchmark 设计）
  • 核心观点: 评估 LLM 能否工程化 LLM 基础设施（训练/推理底层软件）；LLM 基础设施 benchmark，覆盖 kernel、operator、fused operator compositions；对比 KernelBench、TritonBench、FlashInfer-Bench
  • 工程价值: LLM-as-infrastructure-engineer 的能力边界量化；MLSys 研究价值
  • 后续行动: 精读 benchmark 设计；关注论文源码是否公开

7. [✅ 保留] 资源受限环境高效 RAG 实现与评估

  • 来源: MDPI 期刊, 2026
  • URL: https://www.mdpi.com/2504-2289/10/10/338
  • 发布时间: 2026
  • 可信度: 高（同行评审期刊）
  • 核心观点: 本地 Ollama 运行 LLM（无外部 API 依赖）；完整 RAG pipeline（chunking → embedding → retrieval → generation）；提供 latency、resource allocation、data privacy 测量数据
  • 工程价值: 资源受限场景的 RAG 量化数据；Ollama 本地部署实践
  • 后续行动: 核实 Ollama 版本、chunking 策略、embedding 模型等实现细节

8. [⚠️ 降级] Claude Depot: AI Agents Stack 2026

  • 来源: theaiengineer.substack.com (selina), 2026-10
  • URL: https://www.claudepot.com/post/c3a85f3f-7480-4f2a-b593-8c5a4c248a29
  • 发布时间: 2026-10
  • 可信度: 中（Substack 专栏，非原始来源）
  • 降级原因: 目前只获取到摘要片段；内容被截断，无法判断是否有真实命令、配置或错误处理细节
  • 保留理由: Selina 的 theaiengineer 是高质量工程专栏；原始链接指向 theaiengineer.substack.com，内容有价值但需完整抓取
  • 后续行动: 建议完整抓取原文后再评估

9. [⚠️ 降级] DoorDash Toolbox for AI Agents

  • 来源: ByteByteGo Substack, 2026
  • URL: https://substack.com/app-link/post?publication_id=817132&post_id=217162538
  • 可信度: 中
  • 降级原因: 原文需登录才能查看；目前只有摘要；CodeAF 开源 factory 值得关注但需进一步核验
  • 保留理由: ByteByteGo 惯例质量较高；DoorDash 工程案例有参考价值
  • 后续行动: 尝试无登录 URL 访问；核验 CodeAF 开源仓库

10. [⚠️ 降级] GPT-Live: OpenAI 全双工语音系统

  • 来源: ByteByteGo Substack, 2026-07
  • URL: https://open.substack.com/pub/bytebytego/p/how-openai-built-gpt-live
  • 可信度: 中
  • 降级原因: 原文年代偏早（2026-07）；内容需完整抓取确认工程细节量
  • 保留理由: delegation 模式（thinking 与 talking 解耦）有工程创新性；实时系统架构值得了解
  • 后续行动: 完整抓取后评估是否有真实 serving 架构细节

丢弃条目（0 条）

本期无明确丢弃条目；所有候选均含不同程度工程价值。

分类标签

agents mcp orchestration multi-agent production infrastructure rag evaluation

高价值条目优先级排序

  1. Uber MCP Gateway — 生产级 MCP 架构，800+ servers，完整注册中心+控制平面
  2. Modal MCP 基础设施对比 — 平台选型决策矩阵，stateless spec 更新
  3. Φ-Bench — LLM 基础设施工程能力量化基准
  4. Jev — Agent 决策成本优化，具体数字有工程参考价值
  5. AETHER — 多 Agent 持久化设计参考（SQLite schema + 28 subsystems）
  6. SRAO Framework — 多 Agent 编排方法论 + 真实案例数字
  7. 资源受限 RAG — 本地 Ollama + 量化性能数据

建议写入路径

  • 主草稿: 2026-10-03-jay-engineering-filter-agents-mcp-stack.md（本文）
  • 主题页更新建议: 新增或更新 mcp 和 multi-agent-orchestration 主题页

后续行动

  • [ ] 精读 Uber MCP Gateway 原文架构细节
  • [ ] 精读 Φ-Bench benchmark 设计
  • [ ] 完整抓取 Claude Depot、DoorDash、GPT-Live 原文
  • [ ] 核验 SRAO Framework GitHub 仓库代码
  • [ ] 核实 Jev 官网定价（$0.042/M 是否准确）