知识库草稿 · Jay · 2026-09-20 上午场

主题

GitHub Trending + Hugging Face 下载榜单 + RAG 工程最佳实践 + vLLM 2026 新特性 + Substack 高价值专栏

一、GitHub Trending（2026-09-20 当日）

高价值条目

1. cloudflare/security-audit-skill ⭐⭐⭐⭐⭐

  • Stars: 16,406（今日 +3,155）
  • 类型: AI coding agent 安全审计 skill
  • 描述: Cloudflare 出品的 coding-agent 多阶段安全审计 skill，机器可读的独立验证发现结果。对 AI 工程安全实践有直接参考价值。
  • 可信度: 高（Cloudflare 官方维护）
  • 行动建议: 精读 README 和实现逻辑，安全审计流程值得直接参考

2. addyosmani/agent-skills ⭐⭐⭐⭐⭐

  • Stars: 97,054 / forks 10,241（今日 +556）
  • 类型: 生产级 AI coding agent 工程技能库
  • 描述: addyosmani（Google 工程师）维护的生产级 AI coding agent 工程技能集，包含质量门禁、测试、安全检查等实战模式。
  • 可信度: 高（知名工程师维护）
  • 行动建议: 适合归档到 Agent 工具链主题页

3. higgsfield-ai/higgsfield ⭐⭐⭐⭐

  • Stars: 4,966（今日 +196）
  • 类型: GPU 编排 + 大模型训练框架
  • 描述: 容错、高可扩展 GPU 编排系统，设计用于训练数十亿到万亿参数模型。
  • 可信度: 中高（开源社区项目）
  • 行动建议: 关注其 GPU 调度设计，适合基础设施工程参考

4. cactus-compute/needle ⭐⭐⭐⭐

  • Stars: 11,614（今日 +234）
  • 类型: 微型设备端侧推理模型
  • 描述: 2-bit 量化、8-29MB 的端侧 foundation model，支持 tool calls、结构化抽取和 embedding，目标是手机/可穿戴/机器人/车规级。
  • 可信度: 中高
  • 行动建议: 端侧 AI 部署方向值得跟踪

5. trycua/cua ⭐⭐⭐⭐

  • 类型: Computer-use 2.0 规模化
  • 描述: 开源驱动、跨 OS fleet 管理和 benchmark，支持训练、评估和数据生成的 computer-use 2.0 框架。
  • 可信度: 中
  • 行动建议: 计算机操作自动化方向，关注生态成熟度

6. coder/coder ⭐⭐⭐

  • 类型: 开发者安全环境平台
  • 描述: 为开发者和 AI agent 提供安全开发环境。
  • 可信度: 中高
  • 行动建议: 与 AI coding agent 场景关联，关注与 security-audit-skill 的协同

7. docling-project/docling ⭐⭐⭐

  • 描述: 文档转 gen AI 可用格式的 pipeline。
  • 可信度: 中高
  • 行动建议: RAG pipeline 前处理参考

8. asciimoo/hister ⭐⭐⭐

  • Stars: 5,233
  • 类型: 开源搜索引擎
  • 描述: 自托管搜索引掣，Rust 实现。
  • 可信度: 中
  • 行动建议: 轻量级搜索场景可参考

二、Hugging Face Open Models 夏季报告（2026）

来源: HF 官方博客 "State of Open Models: Summer 2026 Observations"

核心数据点

模型族 30天下载量 行数
Qwen 240.1M 36
Gemma 32.6M 6
Ornith 13.5M 3
Llama 12.9M 2
gpt-oss 11.9M 2
OTel 7.4M 1
Yi 4.8M 1
DeepSeek 4.4M 1

关键洞察

  1. Qwen 是社区 base model: Qwen 的生态位突出，大量衍生模型基于 Qwen 构建
  2. 小模型统治实际部署: 参数 <1B 的模型占全部历史下载量 83%，100B+ 模型仅占 1%
  3. 开放权重改变了价值积累位置: 权重开放后，价值更多积累在 fine-tune、数据和部署基础设施，而非模型本身

可信度: 高（Hugging Face 官方数据）

三、RAG 工程最佳实践 2026 纵览

综合来源: StarMorp/SmartBeat博客、Atlan、DEV Community、Analytics Vidhya、Redwerk

成熟技术（⭐ 5/5 必须）

1. 混合检索（Hybrid Retrieval）

  • dense + sparse + metadata 三路并行检索
  • sparse 用 BM25/Elasticsearch 补充 dense embedding 的词汇覆盖盲区
  • metadata filter 在检索前预筛选（权限、日期、内容类型）

2. 多阶段检索 → 重排

  • Query Transform → Embed → Vector Search → Re-rank → LLM
  • cross-encoder reranker 二次精排，比 naive vector search 精度提升 25-40%
  • RRF（Reciprocal Rank Fusion）合并多路检索结果

3. 上下文压缩 / Contextual Compression

  • LLM 为每个 chunk 生成上下文摘要（"此段来自认证部分第3节"）
  • 减少 retrieval failure rate 约 67%
  • 检索小 chunk，返回父 chunk 或完整段落给 LLM

4. 查询路由 / Query Routing

  • 逻辑路由: 规则/LLM 分类器判断走哪路检索器
  • 语义路由: embedding 空间决定调用哪个工具
  • 多数据源 RAG 的核心设计决策

高价值技术（⭐ 4/5）

5. HyDE（Hypothetical Document Embeddings）

  • LLM 生成假设性答案文档 → embedding 该假设 → 检索真实相关文档
  • 解决词汇鸿沟（vocabulary gap）

6. CRAG（Corrective RAG）

  • 轻量级 retrieval evaluator 评分每篇文档
  • 质量低则回退到 Web 搜索
  • 防止差检索结果传播到生成

7. Agentic RAG

  • 多步骤自主检索链：分解问题 → 分步检索 → 综合答案
  • 适合复杂调查性查询

8. 自适应 RAG（Adaptive RAG）

  • 动态根据查询复杂度路由到不同复杂度的 pipeline
  • 简单问题用 naive RAG，多跳问题用 agentic RAG

每查询成本参考（2026）

架构 Embedding Vector Search Reranker LLM 合计
Naive RAG $0.0001 $0.0001 — $0.001-0.01 ~$0.001-0.01
Advanced RAG $0.0001 $0.0002 $0.001 $0.001-0.01 ~$0.003-0.01
Agentic RAG $0.0005 $0.001 $0.003 $0.01-0.10 ~$0.01-0.10
GraphRAG — — — $0.02-0.15 ~$0.02-0.15

可信度: 高（多源综合，引用 Atlan、StarMorp 等）

四、vLLM 2026 工程特性纵览

来源: vLLM 官方博客（vllm.ai/blog）+ glukhov.org + AMD 活动 + Red Hat

核心架构更新

1. Prefill-Decode 分解服务（Disaggregation）

  • prefill（计算密集）和 decode（内存密集）分离到不同 GPU
  • 在 AMD MI300X 8-GPU 节点上验证，KV cache 高效传输，稳定 ITL，提升 goodput
  • 下一个方向：跨节点 disaggregation（100B+ 参数模型）

2. FP8 KV-Cache 量化

  • 在 Hopper 和 Blackwell 上的验证结果
  • Flash Attention 3 修复，内存节省，decode 加速
  • 可跳过部分 attention 层进一步优化

3. 跨硬件支持

  • 2026 年扩展到：AMD GPU、Intel Arc、TPU
  • AMD ATOM：ROCm 上的 AMD 优化 LLM inference 后端，兼容 vLLM/SGLang 插件

4. Speculative Decoding 改进

  • 更高效的 draft model 和自适应 speculation 策略
  • 更高加速比，无精度损失

5. vLLM-Omni Diffusion Cache

  • Cache-DiT + TeaCache 复用 diffusion 中间计算
  • 图片生成速度提升 1.5x-2x

6. 核心优化参数

  • max_num_batched_tokens: 控制 chunked prefill 批处理粒度
  • chunked prefill: 大 prefill 拆小批，与 decode 请求混合调度
  • PagedAttention: KV cache 高效管理
  • prefix caching: 重复 prompt 复用

可信度: 高（vLLM 官方博客 + AMD 官方活动确认）

五、Substack 高价值专栏

1. The AI Engineer — "The AI Agents Stack (2026 Edition)"

链接: https://theaiengineer.substack.com/p/the-ai-agents-stack-2026-edition 作者: The AI Engineer Newsletter 可信度: 高（AI Engineer 领域权威 newsletter）

核心观点: - MCP 在 2024-2026 年间统一了工具连接层（整个 tools 层全新） - Reasoning model 改变了 agent 自主能力（单步 agent 替代部分多步 chain） - Memory 成为第一等架构原语，非 vector DB 附属

Agent Guardrails 3 大教训: 1. Agent guardrails 独立于 LLM guardrails——agent 调用工具、花钱、采取行动 2. "guardrails before action" 模式：工具执行层授权，而非输出层过滤 3. OWASP 发布 MCP Top 10（beta）——首个 MCP 安全清单

2. AI Agents Simplified — "The 2026 Path to Learning AI Agents"

链接: https://aiagentssimplified.substack.com/p/the-2026-path-to-learning-ai-agents 作者: AI Agents Simplified 可信度: 中高

核心观点: - 2026 年 AI agent 学习路径：系统设计 > 工具合约设计 > 检索工程 > 可靠性工程 > 安全 > 评估 - 现代 agent = LLM + tools + memory + planning + orchestration - 演进：2020-2022（stateless LLM wrapper）→ 2023（tool+memory）→ 2024（graph orchestration）→ 2025（MCP+structured memory）→ 2026（coordinated clusters）

3. Alex Beyond Data — "What 1,000+ Job Descriptions Reveal About the AI Engineer Role in 2026"

链接: https://alexeyondata.substack.com/p/what-1000-job-descriptions-reveal 可信度: 中高（基于真实 JD 统计）

核心数据: - AI-first roles（约70%）: RAG、agents、evaluation、生产部署 - AI-support roles（约28.5%）: 基础设施、GPU/inference、数据 pipeline - Traditional ML/DL roles（<2%）

4. Micheal Lanham — "Comparative Analysis of RAG Architectures: Pipeline, Agentic, and Knowledge Graph (2026 Landscape)"

链接: https://micheallanham.substack.com/p/comparative-analysis-of-rag-architectures 可信度: 中高

Pipeline RAG 最佳场景: - 单跳问题（简单事实查询） - 约束优化（延迟和成本预算紧张） - 文档形态语料（手册、FAQ、SOP）

5. Rakesh Gohel — "10 Types of RAG Architectures and Their Use Cases in 2026"

链接: https://rakeshgohel.substack.com/p/10-types-of-rag-architectures-and-their-use-cases-in-2026 可信度: 中

评价: 提供了 2026 年 RAG 架构全景图，但需结合权威来源核验

六、arXiv 近期相关论文

高价值

1. "Evaluating Multi-Hop Reasoning in RAG Systems" (arXiv:2604.18234)

  • 会议: ECIR 2026 SynIRG Workshop
  • 主题: 多跳推理 RAG 系统的 LLM-based retriever 评估策略对比
  • 可信度: 高（顶会 workshop 论文）
  • 行动建议: 精读评估方法论

2. "Agentic Retrieval-Augmented Generation: A Survey" (arXiv:2501.09136v4)

  • 主题: Agentic RAG 全面综述
  • 可信度: 高
  • 行动建议: 归档到 RAG 主题页参考

3. "Systematic Evaluation of RAG Pipelines" (arXiv:2605.27444v1)

  • 主题: RAG pipeline 系统性评估
  • 可信度: 高
  • 行动建议: 评估方法参考

4. "Evaluating Retrieval-Augmented Generation" (arXiv:2605.14488)

  • 主题: Deepchecks 框架——RAG 评估综合框架
  • 可信度: 高
  • 行动建议: 关注框架工具化可行性

分类标签

github-trending huggingface RAG vLLM inference-engineering agent substack arXiv AI-engineering memory-systems

建议写入路径

/shared/research-kb/inbox/jay/2026-09-20-github-trending-rag-vllm-substack.md

精读 / 审稿 / 更新建议

  • 精读: security-audit-skill README、HF State of Open Models 报告、vLLM Disaggregation 博客、ECIR 2026 multi-hop RAG 论文
  • 主题页更新: RAG 最佳实践（6个必须层级）、AI Agent Stack 2026（工具层变化）、Hugging Face 下载榜单趋势
  • 去重: 检查 2026-09-14~16 的 2026-09-14T1335-jay-hf-state-openmodels... 和 2026-09-13T... 相关草稿，避免重复归档 Qwen/HF 榜单内容