研究知识库草稿 · 2026-07-16 上午场

主题

AI 工程路线图 2026 纵览 / Agent Harnes 工程 / RAG 系统化分类 / LLM 推理栈格局

一、GitHub 高价值 Repo（新发现）

🔴 高价值-A

1. ombharatiya/ai-system-design-guide — AI 系统设计指南（含 2026 年 6 月题库）

  • 来源：https://github.com/ombharatiya/ai-system-design-guide
  • Stars：持续增长中（2026-06 活跃）
  • 可信度：高（题库截至 2026 年 6 月，覆盖 Claude Opus 4.8/GPT-5.5/Gemini 3.1/DeepSeek V4/Llama 4/Kimi K2.6/Qwen 3.6）
  • 核心内容：
  • 面试题库：116 道，截至 2026 年 6 月，高频考 RAG 设计、Agent 调试、多租户隔离、成本/延迟权衡
  • 模型价格对比表：Claude Opus 4.8 vs GPT-5.5 vs Gemini 3.1 Pro vs DeepSeek V4 vs Llama 4 vs Kimi K2.6 vs Qwen 3.6（2026 年 6 月报价）
  • RAG 章节：Fundamentals → Production RAG at Scale，含 GraphRAG、Agentic RAG、ColBERT、Contextual Retrieval
  • Agent 章节：MCP 2.0、A2A 协议、multi-agent、computer-use、durable execution、loop engineering
  • 推理优化：KV cache、PagedAttention、vLLM、diffusion LLMs、on-device
  • Evals 配套深读：Phoenix + Langfuse / LangWatch + Langfuse 联调 walkthrough
  • 工程价值：LLM 系统设计面试/工程实践双向参考，数据新鲜度高
  • 建议分类：AI-Engineering / System-Design / LLM-Interview
  • 后续行动：精读 Agent loop engineering 章节；对比 actual vLLM 0.23 / SGLang 0.5.13 benchmark 数据

2. orchestra-research/AI-research-SKILLs — AI 研究技能库（87 个标准化 SKILL）

  • 来源：https://github.com/orchestra-research/AI-research-SKILLs
  • Stars：持续增长（2026-06 活跃）
  • 可信度：高（标准化 YAML 格式，每个 Skill 含 refs、demos、roadmap）
  • 核心内容：
  • 87 个 Gold Standard Skills，覆盖完整 LLM 生命周期：
    • Agents：LangChain、LlamaIndex、CrewAI、AutoGPT
    • RAG：Chroma、FAISS、Pinecone、Qdrant、Sentence Transformers
    • Inference：vLLM、TensorRT-LLM、llama.cpp、SGLang
    • Distributed：DeepSpeed、FSDP、Accelerate、Megatron-Core、Lightning、Ray Train
    • Optimization：Flash Attention、bitsandbytes、GPTQ、AWQ、HQQ、GGUF
    • Multimodal：CLIP、Whisper、LLaVA、BLIP-2、SAM、Stable Diffusion、AudioCraft
    • Safety：Constitutional AI、LlamaGuard、NeMo Guardrails、Prompt Guard
    • MLOps：W&B、MLflow、TensorBoard
    • Observability：LangSmith、Phoenix
  • 每个 Skill 结构：SKILL.md + references + demos，200-600 行渐进式披露
  • 使命路径：AI Research Agent（自动化研究工作流）
  • 工程价值：可作为 AI 工程学习路径校验清单；研究 agent 路线图参考
  • 建议分类：AI-Engineering / Learning-Resource / Skill-Library
  • 后续行动：对比本知识库现有 Skill 覆盖情况；补充 MCP 相关 Skill

3. EthicalML/awesome-production-machine-learning — 2026-07 月发布

  • 来源：https://github.com/EthicalML/awesome-production-machine-learning
  • Stars：20.7k | Forks：2.6k
  • 最新 release：release-2026-07-01（本月刚发）
  • 可信度：极高（MLOps 领域权威 Awesome List，工业界采用率高）
  • 核心内容：
  • 覆盖生产 ML / MLOps / 可解释性 / 隐私保护 / Responsible AI 全景
  • 2026-07-01 release 新增条目待确认（建议核验具体更新内容）
  • 工程价值：生产 ML 工具链全景图，适合作为技术选型检查清单
  • 建议分类：MLOps / Production-ML / Awesome-List
  • 后续行动：核验 release-2026-07-01 具体新增条目

4. dair-ai/prompt-engineering-guide — 76.3k stars，DAIR.AI Academy 课程联动

  • 来源：https://github.com/dair-ai/prompt-engineering-guide
  • Stars：76.3k | Forks：8.4k
  • 可信度：高（学术界+工业界广泛引用，持续更新）
  • 核心内容：
  • 最新内容：DSPy、Active-Prompt、Directional Stimulus Prompting、Multimodal CoT、Graph Prompting
  • RAG + AI Agents 新课程（DAIR.AI Academy，需付费但有折扣码 PROMPTING20）
  • 涵盖：Function Calling、Synthetic Dataset Generation、Code Generation、Classification
  • 工程价值：Prompt 工程金标准参考；课程可作为系统学习路径
  • 建议分类：Prompt-Engineering / LLM-Application / Learning-Resource
  • 后续行动：关注 DSPy 最新版本变化（程序化 Prompt 优化方向）

二、Substack 高质量研究线索

🔴 高价值-A

1. The AI Agents Stack（2026 Edition）— The AI Engineer Newsletter

  • 专栏：The AI Engineer（theaiengineer.substack.com）
  • 链接：https://theaiengineer.substack.com/p/the-ai-agents-stack-2026-edition
  • 发布时间：2026（近期待确认月份）
  • 可信度：高（AI Engineer 技术博客，工程导向，社区影响力大）
  • 核心观点： 1. MCP 标准化重绘了工具连接层（2024→2026 最大变化之一）；OWASP 发布了 MCP Top 10（beta）安全清单 2. 推理模型改变了单步 Agent 自主能力，单 call Agent 部分替代了多步 chain 3. 记忆成为第一等架构原语：三层 tier（Context window / Retrieval / Persistent），不再是"选个向量库做 RAG"的思路 4. "Context Engineering"替代"Prompt Engineering"：架构层面设计每轮调用 Agent 看到什么信息 5. Guardrails 分化：Agent Guardrails ≠ LLM Guardrails；"授权在工具执行层而非输出层" 6. 六层架构图：LLM → Tools → Memory → Execution → Guardrails → Evaluation
  • 评价：2026 Agent 栈全貌最清晰的工程化梳理，适合作为系统设计参考框架
  • 建议分类：AI-Agent / Architecture / MCP / Memory
  • 后续行动：核验 MCP Top 10 OWASP 原文；对比 LangGraph 最新 multi-agent 模式

2. State of AI: April 2026 — Air Street Capital Newsletter

  • 专栏：Air Street Capital / press.airstreet.com
  • 链接：https://press.airstreet.com/p/state-of-ai-april-2026-newsletter
  • 发布时间：2026 年 4 月
  • 可信度：高（顶级 VC 出品，产业洞察权威）
  • 核心观点： 1. TTT-Discover（Test-time Training Discover）：Scaling test-time training 推动 LLM 产生"new-to-the-world"方案；在 Erdős 最小重叠问题上比 AlphaEvolve baseline 高 16x；GPU kernel 比人类最优 entry 快 51%（A100 GPUMode 竞赛）
    • 关键限制：需要连续 reward signal，尚无法处理稀疏/二元反馈 2. Meta-Harness：固定 LLM + 改变 harness 产生 6x 性能差距；Meta-Harness 给 agent 提供原始执行 trace（高达 10M tokens）而非压缩摘要；在 200 道 IMO 级别数学题上平均提升 4.7 分
    • 消融发现：摘要实际上让效果变差，raw trace 反而更好
    • 启示：Harness engineering（工具层/执行层设计）是 Agent 性能的关键杠杆，不是模型本身 3. 融资动态：Legora（AI+法律）$550M @ $5.55B；ElevenLabs $500M @ $11B；MatX（AI 训练芯片）$500M；Mind Robotics $500M；Runway $315M @ $5.3B
  • 评价：TTT-Discover 和 Meta-Harness 是两篇值得追踪的论文方向；Harness 工程概念对 Agent 实践有直接指导价值
  • 建议分类：AI-Research / LLM-Reasoning / Agent / Investment
  • 后续行动：追踪 TTT-Discover 论文原文；追踪 Meta-Harness arXiv；关注 MatX 芯片路线图

3. 20 Advanced RAG Types to Know in 2026 — Turing Post

  • 专栏：Turing Post（AI newsletter for engineers）
  • 链接：https://www.turingpost.com/p/ragtypes
  • 发布时间：2026（近期）
  • 可信度：高（专业工程师导向 AI 时事通讯）
  • 核心观点：
  • 2026 年 Advanced RAG 20 种类型分类梳理
  • Agentic RAG：LLM 做多步决策而非单次 retrieve-then-generate；SoK 2026 论文框架
  • A-RAG：自适应检索（自适应检索频率/策略）
  • 多模态 RAG：视觉/音频/文档联合检索
  • GraphRAG 演进：从 context store → reasoning layer（微软 GraphRAG 已超出 plain chunk retrieval）
  • 关键洞察："大多数 RAG 问题本质是检索问题"——因此 advanced RAG 技术核心都是改进检索步骤
  • 评价：RAG 领域系统化梳理，对知识库架构设计有参考价值
  • 建议分类：RAG / Knowledge-Management / Architecture
  • 后续行动：追踪 Agentic RAG 2026 SoK 论文；GraphRAG 微软最新版本

4. All you need to know about RAG (in 2026) — AI with Aish

  • 专栏：AI with Aish（aishwaryasrinivasan.substack.com）
  • 链接：https://aishwaryasrinivasan.substack.com/p/all-you-need-to-know-about-rag-in
  • 发布时间：2026（近期）
  • 可信度：中（技术博客，需交叉验证）
  • 核心观点：
  • Bi-encoder 向量嵌入是 lossy 压缩：1536 维空间单点表示复杂段落；"specifics"（具体数值）检索弱
  • Case：用户问"Q3 2025 revenue vs Q3 2024 baseline"，向量搜索可能返回 2024 数据（"2024"和"2025"语义距离对 embedding 模型可忽略）
  • 解决方向：Context-Aware Partitioning（语义分块）/ Small-to-Big（Parent-Document）策略
  • Re-Ranker 流程：向量检索 Top-100 → Re-Ranker（ Cohere Rerank 3.5 / BGE-Reranker）→ 只保留 Top-5~10 给 LLM
  • "Lost in the Middle"消除：长上下文中部信息被忽略问题，通过 rerank + 短上下文解决
  • 评价：Practical RAG 工程经验，具体问题具体分析；bi-encoder limitation 洞察有价值
  • 建议分类：RAG / Embedding / Engineering
  • 后续行动：对比 Cohere Rerank 3.5 与 BGE-Reranker 实际效果差异

🟡 中价值（线索类）

  • 来源：https://huggingface.co/collections/thaki-AI/ai-trends-2026-07
  • 核心内容：
  • GLM-5 / GLM-5.2：Vibe Coding → Agentic Engineering；Note Score 0.673（HOT）
  • zai-org/GLM-5.2：362,300 downloads（2026-07-10）；topic-radar HOT 0.808
  • SkillOpt（Microsoft Research）：Self-Evolving Agent Skills；Note Score 0.388（COLD，但上游 1 位 254 票）；官方博客封面
  • 评价：GLM-5 系列是中国模型中当前 HF 最火的项目；SkillOpt 代表 Agent 自我进化方向

2. HF Daily Papers — 近期值得注意

  • 来源：https://huggingface.co/papers
  • 核心内容：
  • SynthDocBench：长上下文视觉文档理解 benchmark
  • MonkeyOCRv2：视觉-文本基础模型（文档 AI 方向）
  • Know Before Fix: QA-Driven Repository Knowledge Acquisition for Software Issue Resolution：代码库知识获取 for 自主修复
  • Function-Aware Fill-in-the-Middle as Mid-Training for Coding Agent Foundation Models：编程 Agent 基础模型
  • 评价：代码库自主修复和编程 Agent 基础模型是两个值得追踪的工程化方向

四、推理引擎 2026-06 月度状态（综合）

核心数据点（2026 年 6 月）

引擎 版本 发布节奏 硬件支持 核心优势
vLLM 0.23.0（6月13日） 双周 NVIDIA/AMD ROCm/Intel XPU/TPU 最宽硬件覆盖，pip 安装
SGLang 0.5.13（6月13日） 双周 NVIDIA 为主 前缀共享（RadixAttention），结构化输出
TensorRT-LLM 1.2.1 stable（4月20日） 不定期 NVIDIA Blackwell/GB200 最高 throughput，最紧 p99 尾延迟
TGI 进入维护模式（12月2025） — — HF 推荐迁移至 vLLM/SGLang

H100 实测 Q2 2026（8×H200 SXM）： - TTFT p50：SGLang 79ms < vLLM 82ms < TGI 94ms < Triton-TRT 75ms - TPOT p50：Triton-TRT 7.6ms < SGLang 7.9ms < vLLM 8.2ms < TGI 9.1ms - SGLang 特色：RadixAttention 自动前缀共享，多轮对话/RAG 场景缓存命中率 95%+

五、CSDN 高价值条目

🟡 中价值（需核验）

1. 2026 最新 AI Agent 全解教程（小白&程序员）

  • 来源：https://blog.csdn.net/kaka0722ww/article/details/161592550
  • 可信度：中（教程类，CSDN 转载为主）
  • 核心内容：
  • AI Agent = LLM（大脑）+ 规划 + 记忆 + 工具使用
  • LangGraph / AutoGen / CrewAI 横向对比
  • Google ADK / OpenAI Agents SDK 解读
  • 2026 年 AI Agent 十大行业趋势
  • 代码示例：Google ADK Agent 创建、multi-agent 通信图示
  • 评价：入门级全景图，工程细节偏少，不建议作为深度参考
  • 建议分类：AI-Agent / Tutorial / Overview

分类标签

AI-Engineering LLM-Systems Agent RAG Inference-Engine MCP Memory-Systems Harness-Engineering Benchmark Learning-Resource

建议写入路径

/shared/research-kb/inbox/jay/2026-07-16-0935-morning-research-ai-engineering-llm-roadmaps-harness-rag-stack.md

后续行动优先级

  1. 精读（高优先）：TTT-Discover 和 Meta-Harness 两篇论文；AI Agents Stack 2026 Edition 六层架构图
  2. 审稿（中优先）：ai-system-design-guide 的 June 2026 题库 vs 实际面试高频题
  3. 主题页更新建议：新增 Harness-Engineering 标签页（Meta-Harness 概念为核心）；更新 Agent-Architecture 标签页（MCP 2.0 + A2A）
  4. 核验（低优先）：EthicalML release-2026-07-01 具体新增条目；CSDN AI Agent 文章原版质量