NVIDIA/GenerativeAIExamples · 上手攻略

  • 仓库：NVIDIA/GenerativeAIExamples
  • 链接：https://github.com/NVIDIA/GenerativeAIExamples
  • 分类：RAG · Agentic AI · NVIDIA 生态
  • 作者：Tom
  • 更新：2026-08-11

是什么

NVIDIA/GenerativeAIExamples 是 NVIDIA 官方的生成式 AI 参考工作流仓库，针对加速基础设施（GPU/NIM 微服务）做了深度优化，涵盖 RAG 管道、Agentic 工作流、知识图谱、视觉 NIM 工作流、Data Flywheel 完整闭环等场景。当前最新 release 为 v0.8.x（2025 年），目录结构已完成重大重构。

核心定位：帮助开发者将 NVIDIA 软件生态（NeMo 微服务、NIM 推理微服务、RAPIDS）与自己的技术栈无缝集成。覆盖 LangChain、LlamaIndex、Haystack 等主流框架的端到端 Notebook 示例，Docker Compose 一键部署。

解决什么问题

企业在构建 RAG 系统时，往往面临：向量数据库选型、NIM 微服务部署、Guardrails 安全护栏、Evaluation 评估体系、Fine-tuning 流程等多个环节各自为政、集成困难的问题。该仓库提供了经过 NVIDIA 优化、可直接跑的参考实现，开发者无需从零踩坑：

  • 5 分钟跑起一个带 LangChain 的基础 RAG
  • 用 NeMo Guardrails 给 LLM 加安全护栏
  • 用 Knowledge Graph RAG 提升复杂关系的检索质量
  • 用 Data Flywheel 闭环持续优化模型

快速安装

前置条件

  • NVIDIA API Key（NVIDIA API Catalog 免费注册获取）
  • Docker 与 Docker Compose
  • Git（递归克隆以获取子模块）

最小可跑命令（基础 RAG）

# 1. 克隆仓库（含子模块）
git clone https://github.com/NVIDIA/GenerativeAIExamples.git --recurse-submodules
cd GenerativeAIExamples

# 2. 设置 NVIDIA API Key
export NVIDIA_API_KEY=nvapi-你的密钥

# 3. 启动基础 RAG（LangChain 版）
cd RAG/examples/basic_rag/langchain
docker compose up -d --build

# 4. 访问 RAG Playground
open https://localhost:8090/

# 5. 停止
docker compose down

⚠️ Docker 启动时会拉取多个 NVIDIA NIM 容器镜像（LLM / Embedding / Reranker），首次需要下载，磁盘空间建议预留 20GB+。

Vision NIM 工作流（需递归克隆）

git clone https://github.com/NVIDIA/GenerativeAIExamples --recurse-submodules
cd GenerativeAIExamples/vision_workflows
# 详见各子目录 README

核心用法

Data Flywheel（数据飞轮）

Data Flywheel 是一种自强化循环：用户交互产生数据 → 用数据改进 AI 模型 → 更好的模型吸引更多用户 → 数据质量持续提升。仓库提供了两个完整端到端教程：

  1. Tool Calling 微调闭环：用 xLAM 函数调用数据集微调 Llama-3.2-1B-Instruct → NIM 推理 → NeMo Evaluator 评估 → NeMo Guardrails 安全护栏

  2. Embedding 微调闭环：embedding 微调 → NIM 推理 → 评估 → Guardrails

核心链路：

xLAM 数据集 → NeMo Customizer 微调 → NIM 推理 → NeMo Evaluator 评估 → NeMo Guardrails

RAG 示例体系

v0.8 重构后，RAG 示例分为 basic_rag 和 advanced_rag 两档：

Basic RAG： - LangChain 基础 RAG（langchain_basic_RAG.ipynb） - LlamaIndex 基础 RAG（llamaindex_basic_RAG.ipynb）

Advanced RAG： - Multi-turn RAG（带 Reranker 模型） - Agentic RAG with NeMo Retriever NIM - NeMo Guardrails 集成 RAG - Knowledge Graph RAG（GPU 加速 + RAPIDS + Milvus）

Vision NIM 工作流

视觉类 NIM 工作流（在 vision_workflows/ 目录，需递归克隆）：

工作流 说明
VLM 视频监控 用 VLMs 自动监控视频流，自定义事件检测
NV-CLIP 图像搜索 自然语言搜图（多模态）
视觉文本提取 VLMs + LLMs + CV 模型联合管道
NVDINOv2 Few-shot 分类 少量样本分类（embedding + Milvus）

NeMo Guardrails（安全护栏）

NVIDIA 官方 LLM 安全护栏工具，支持： - 输入/输出内容的 Rail 定义 - 多条 Rails 并行推理降低延迟 - 与 LangChain、LlamaIndex 深度集成

# 示例：LangChain + NeMo Guardrails
# 详见 RAG/notebooks/langchain/NeMo_Guardrails_with_LangChain_RAG.ipynb

NeMo Evaluator（模型评估）

用 Llama 3.1 8B Instruct 对微调后的模型做量化评估，支持自定义评估集和指标体系。

⚠️ 具体评估指标和数据格式请参考 notebook 内的说明，NVIDIA 官方文档未给出统一量化标准。

典型适用场景

  • 企业 RAG 系统搭建：需要对接 NVIDIA NIM 微服务的生产级 RAG（金融、医疗、法律文档问答）
  • Agentic AI 研发：需要 Tool Calling / 多 Agent 协作的复杂推理场景
  • 合规受监管行业：需要 Guardrails 安全护栏的 AI 系统（NVIDIA 官方支持，企业级）
  • GPU 加速知识图谱：大规模知识图谱 RAG（用 RAPIDS + NIM 微服务）
  • 视觉+语言多模态应用：VLM 驱动的视频监控、图像搜索

坑与注意

⚠️ 磁盘空间要求高：Docker Compose 会拉取多个 NIM 容器镜像（每个 5-10GB），建议预留 30GB+ 磁盘空间。

⚠️ 首次拉取慢：NVIDIA NGC 镜像在国内访问可能较慢，建议配置镜像加速器。

⚠️ 递归克隆必须：vision_workflows 等目录是子模块，不加 --recurse-submodules 会导致目录为空，Notebook 无法运行。

⚠️ NVIDIA API Key 依赖：所有示例都需要有效的 NVIDIA_API_KEY 环境变量，云端 NIM 推理按量计费，本地部署需单独配置 NIM 许可（企业版）。

⚠️ 版本迭代快：v0.8 有重大目录重构（如 RetrievalAugmentedGeneration → RAG），参考 older 版本教程时注意区分。

⚠️ 硬件门槛：GPU 加速功能需要 NVIDIA GPU（RTX 3090+ / A100 等），纯 CPU 环境部分功能无法运行。

⚠️ LangChain 版本兼容：README 提到已更新到最新 langchain-nvidia-ai-endpoints，但部分 older Notebook 可能仍用旧版 LangChain v0.1 API，运行时注意报错信息。

⚠️ 知识图谱 RAG 需要 Milvus：Knowledge Graph RAG 依赖 Milvus 向量数据库，Docker Compose 已包含 Milvus 服务，但生产环境需要单独考虑高可用部署。

与同类对比

仓库 定位 框架支持 NIM 集成 硬件要求
NVIDIA/GenerativeAIExamples 官方参考工作流 LangChain/LlamaIndex/Haystack 深度集成 GPU 推荐
NVIDIA/NeMo 模型训练框架 自主 深度集成 多 GPU
run-llama/llama-index 通用 RAG 框架 LlamaIndex 官方连接器 任意
langchain-ai/langchain LLM 应用框架 LangChain 官方连接器 任意

NVIDIA/GenerativeAIExamples 的差异化在于NVIDIA 官方认证 + NIM 微服务 + NeMo 全链路，不是通用 RAG 教程库，而是 NVIDIA 生态专用参考实现，适合已经用或计划用 NVIDIA 软硬件的企业。

一句话推荐结论

NVIDIA 生态一站式 RAG 与 Agent 参考实现——官方出品，Docke Compose 一键跑通，适合已有或计划上 NVIDIA 硬件/ NIM 微服务的企业开发者快速验证 RAG、Agent、Guardrails 全链路。 纯 CPU 环境或不想绑定 NVIDIA 生态的团队建议看 LangChain / LlamaIndex 官方示例。

原始 commit：https://github.com/NVIDIA/GenerativeAIExamples/commit/main