Osmantic/ODS · 上手攻略

仓库：Osmantic/ODS
链接：https://github.com/Osmantic/ODS
分类：AI 基础设施 / 本地 AI 服务器
作者：Tom
更新：2026-09-28

§0 速览

ODS（Osmantic Deployment System）将 Ollama、Open WebUI、n8n、ComfyUI 等多个开源 AI 组件一键打包成本地 AI 服务器。一条命令把 PC / Mac / Linux 变成私有 AI 工作站：本地推理、聊天界面、控制面板、语音 / Agent / 工作流、RAG 本地搜索、图片生成，全部无需云端、不用订阅。

⚠️ 当前处于 V3 公开测试阶段（v3.0.0 为快照版本），官方明确声明完整车队验证尚未完成，见 RELEASE_NOTES_3.0.0.md。

§1 是什么 / 解决什么问题

在 ODS 出现之前，在家里或实验室搭一套本地 AI 工作站，需要手动整合 Ollama（推理）、Open WebUI（聊天界面）、n8n（工作流自动化）、ComfyUI（图片生成）等十余个服务，手写 Docker 配置、处理端口冲突、解决服务间鉴权——通常要花一个周末。

ODS 解决的核心问题： - 本地 AI 部署的"最后一公里"：一条命令搞定全套服务编排 - 不用理解 Docker Compose / 服务发现 / 端口管理 - 让不懂技术的用户也能在本地跑起完整的私有 AI 栈 - 数据完全留在本地，无云依赖

不适合： 超大规模部署（应找正经 MLOps 方案）、完全没有硬件的纯云端使用（ODS 本质是 local-first）。

§2 快速安装

⚠️ v3.0.0 为 V3 公开测试快照，生产环境建议等官方正式发布。Linux/macOS 安装前需确保 Docker 已运行。

Linux / macOS（一条命令）

curl -fsSL https://install.osmantic.com/ods.sh | bash

安装完成后会自动检测 GPU 类型并下载适配模型，Open WebUI 在 http://localhost:3000，控制面板 Pixel Portal 在 http://localhost:3001/pixel。

Windows（PowerShell + WSL2）

$ProgressPreference = "SilentlyContinue"
$odsSrc = Join-Path $env:TEMP ("ods-install-" + [guid]::NewGuid().ToString("N"))
$odsZip = Join-Path $odsSrc "ods-main.zip"
New-Item -ItemType Directory -Path $odsSrc | Out-Null
Invoke-WebRequest "https://github.com/Osmantic/ODS/archive/refs/heads/main.zip" -OutFile $odsZip
Expand-Archive -LiteralPath $odsZip -DestinationPath $odsSrc -Force
cd (Get-ChildItem -LiteralPath $odsSrc -Directory | Select-Object -First 1).FullName
Set-ExecutionPolicy -Scope Process -ExecutionPolicy Bypass
.\install.ps1

⚠️ Windows 安装前建议将 NVIDIA 驱动升级到 570+；不需要管理员 PowerShell，脚本会在需要时申请权限后自动重启。

云端回退模式（无 GPU 或临时使用）

# 不装本地模型，走 OpenAI/Anthropic/Together API
curl -fsSL https://install.osmantic.com/ods.sh | bash -s -- --cloud

手动从源码安装（Linux）

git clone https://github.com/Osmantic/ODS.git
cd ODS/ods
./install.sh

§3 核心用法

3.1 服务访问地址

服务	地址	说明
Pixel Portal（控制面板）	http://localhost:3001/pixel	管理模型、服务、GPU 状态、扩展
Open WebUI（聊天）	http://localhost:3000	ChatGPT 风格对话界面
Ollama API（本地推理）	http://localhost:11434	llama-server Linux Docker；macOS/Windows Metal 直连 http://localhost:8080

3.2 模型管理

在 Pixel Portal（http://localhost:3001/pixel）中： - 查看可用模型列表 - 下载新模型（Hugging Face GGUF 格式） - 激活 / 切换模型 - 调整上下文长度（context size） - 卸载 / 恢复模型

3.3 工作流自动化（n8n）

ODS 内置 n8n 实例，支持连接各 AI 服务构建自动化流程。n8n 通常在 Docker 网络内通过服务名访问，具体端口见 .env.example 或容器日志。

3.4 图片生成（ComfyUI）

⚠️ ComfyUI 在 Docker 内运行，通过 Open WebUI 或专用 UI 访问。首次使用需在 ComfyUI 界面内加载官方工作流模板。

3.5 自定义端口

# 例：将 WebUI 端口改为 9090
WEBUI_PORT=9090 ./install.sh

完整环境变量列表见 .env.example：

cat ods/.env.example

3.6 服务管理命令

cd ~/ods

# 卸载（Linux/macOS）
./ods-uninstall.sh --force

# 卸载（Windows 原生安装）
cd $env:USERPROFILE\ods
.\ods.ps1 uninstall --force

3.7 WSL2 GPU 访问（Windows NVIDIA）

WSL2 内 NVIDIA GPU 直通需满足： 1. Windows 驱动 570+ 2. Docker Desktop WSL2 后端开启 GPU 支持

AMD GPU 在 Windows 上通过 Lemonade 加速路径运行。详见 WSL2 GPU Guide。

§4 典型适用场景

隐私敏感 AI 使用：病历、客户数据、代码等不希望上传到 OpenAI/Anthropic 的场景
离线 AI 开发环境：网络不稳定或完全离线的实验室 / 办公室
家庭实验室 homelab：用一台旧服务器搭全家可用的 AI 中控
AI 工作流自动化：n8n 工作流连接本地模型，适合自动化文案、客服、报表生成
低成本 AI 体验：用自己的游戏 PC 或 Mac 跑量化模型，不用月付 API 费用
企业和组织的 AI 主权：数据完全在本地，满足合规要求

§5 坑与注意

坑点	说明
V3 公开测试阶段	官方明确表示"完整车队验证尚未完成"，生产级部署应等正式版
Docker 依赖（Linux/macOS）	安装前必须装好 Docker Desktop 并启动；WSL2 + Docker Desktop 是 Windows 用户的唯一路径
Windows NVIDIA 驱动要求 570+	老显卡用户需先升级驱动，否则 GPU 加速不可用
首次模型下载耗时长	bootstrap 模式会立即给你一个可用的"种子模型"，但完整大模型下载可能需要 30 分钟至数小时
WSL2 GPU 支持有限	NVIDIA 支持较好，AMD 在 WSL2 内通过 Lemonade 走特殊路径，不保证所有场景可用
内存占用可观	一个 7B 模型 + 多个 Docker 服务，宿主机建议 ≥16GB RAM
ODS_REF 环境变量	使用代理或网络受限环境时，需设置 `ODS_REF` 指定兼容的仓库版本
卸载不删除其他安装	Windows 原生安装和 WSL2 安装相互独立，卸载脚本不会互相影响

§6 与同类对比

维度	ODS	Ollama	LocalAI	Jan	Open WebUI（自搭）
安装复杂度	⭐ 一键	简单	中等	简单	较高
组件完整度	全家桶	仅推理	中等	较全	单一 UI
n8n/ComfyUI 内置	✅	❌	❌	❌	❌
控制面板	✅ Pixel Portal	❌	❌	✅	❌
多平台支持	Linux/macOS/Win	全平台	全平台	全平台	全平台
V3 成熟度	公开测试	成熟	成熟	成熟	成熟
私有化程度	完全本地	完全本地	完全本地	完全本地	完全本地

一句话结论： ODS = Ollama + Open WebUI + n8n + ComfyUI + 控制面板，一键打包。如果你只需要本地推理，Ollama 更轻；如果需要全套本地 AI 工作站，ODS 是目前门槛最低的方案。

§7 一句话推荐结论

本地 AI 全家桶的"交钥匙"方案，特别适合想快速在家庭/办公室搭建私有 AI 站且不想折腾 Docker 编排的用户。但当前 V3 仍在公开测试，正式项目建议等官方正式发布后再上生产。