Omnigent 是一个开源的 AI Agent 元编排框架（metaharness）：在它之上，你可以同时运行和编排 Claude Code、Codex、Cursor、OpenCode、Pi 以及自己写的自定义 Agent，无需重写任何 Agent 代码。它不是一个新 Agent，而是一个通用的 Agent 管理层——像一层胶水，把各种主流 Agent 产…
仓库攻略
540 篇 · 535 个项目 · LLM 基础设施
Graphify 是一个让 AI 编程助手（Claude Code、Cursor、Codex 等）把任意代码仓库转化为可查询知识图谱的工具。本质是一个 Claude Code / AI Coding Agent 的 /graphify 技能（Skill）：输入 /graphify .，它便将项目代码、文档、图片、视频全部映射为一张节点边图谱，之后你可以用自然…
Memori 是面向 AI Agent 的记忆基础设施（Agentnative Memory Infrastructure）。它的核心定位是：解决 AI Agent「每次对话从零开始」的根本痛点——让 Agent 不仅记得「说过什么」，更记得「做过什么」，并能将执行过程中的决策、工具调用、结果都结构化地持久化，以便下次调用时精准召回。 与简单的向量数据库检索…
HandsOn Large Language Models（O'Reilly，2024）是 Jay Alammar（《The Illustrated GPT2》作者）和 Maarten Grootendorst（Hugging Face 社区明星博主）合著的技术书籍，其官方配套代码仓库。仓库以 Jupyter Notebook 形式覆盖了从语言模型基础、To…
Vane 是一个注重隐私的 AI 问答引擎，运行在你自己的硬件上。它结合了互联网搜索结果和本地 LLM（通过 Ollama）、云端模型（OpenAI、Claude、Gemini、Groq），给出带引用来源的精准答案，所有搜索记录完全本地保存。 类比来说，Vane 是一个可私有部署的 Perplexity，强调： 不把搜索数据交给第三方 支持本地模型（Olla…
DBGPT 是一个开源的 Agentic AI 数据助手，服务于"AI + Data"下一代产品。它的核心理念是：用自然语言与你的数据库、文件、数据仓库对话——AI 自动写 SQL、自动执行分析、自动生成图表和报告。 它不只是问答，而是一个能真正执行任务的 Agent：连接数据源 → 理解业务问题 → 规划执行步骤 → 写 SQL/代码 → 沙箱执行 → 产…
Haystack 是由 deepset（一家专注于 NLP 和 LLM 的德国公司）维护的开源 AI 编排框架，用于构建生产就绪的 LLM 应用。它的核心理念是"透明编排"——对检索（Retrieval）、路由（Routing）、记忆（Memory）和生成（Generation）每一步都有显式控制，开发者清楚知道数据在管道中如何流转。 简单说：Haystac…
MindsHub（GitHub 仓库名 mindsdb/minds，原 MindsDB 主仓库）是 MindsHub Cowork 的开源超级项目——一个"委派任务，结果自动交付"的 AI Agent 工作空间。它的核心定位是：把一个需要多步协作的完整项目（应用、网站、研究报告、自动化流程、数据分析）交给 AI Agent，Agent 在沙箱中逐步执行，最后…
Mooncake 是月之暗面（Moonshot AI）为旗下 Kimi 大模型服务开发的生产级 LLM Serving 平台，核心创新是 KVCache 中心化的 PrefillDecode 分离架构（PD 分离），将 LLM 推理的预填充（Prefill）和解码（Decode）阶段拆分到不同集群，并通过利用 GPU 集群中闲置的 CPU DRAM 和 SS…
Xinference（Xorbits Inference）是 xorbitsai 团队开源的统一推理服务平台，一行代码替换 GPT 为任意开源 LLM。它让你在本地、云端或笔记本上运行开源语言模型、语音模型和多模态模型，通过统一的 OpenAI 兼容 API 提供服务。 Xinference 的核心差异化在于：支持最多的推理引擎（vLLM、SGLang、ll…
ColossalAI 是 HPCAI Tech 开源的分布式深度学习训练框架，核心目标是让大模型训练更便宜、更快、更普惠。它整合了多维并行（数据并行、流水线并行、张量并行）、ZeRO 优化、异构训练、FP8 低精度等技术，支持从单卡到大规模 GPU 集群的各类场景。 ColossalAI 最著名的成就是支撑了开源视频生成项目 OpenSora 的训练——让研…
DeepSpeed 是微软开源的深度学习优化库，专为大规模分布式训练和推理而设计。它让训练千亿、万亿参数模型不再是巨头的专利，普通研究团队也能在有限硬件上跑起来。 DeepSpeed 的核心创新是 ZeRO（Zero Redundancy Optimizer） 系列技术，通过分片优化器状态、梯度、参数，大幅降低单 GPU 显存占用。此外还支持 3D 并行（数…
browseruse 是让 AI Agent 操作浏览器的 Python 库——AI 描述任务，浏览器替你完成：点按钮、填表单、滚动页面、抓取内容。2026 年 7 月 Stars 104k+，Odysseys 排行榜第一（87.4% 平均准确率），领先 OpenAI、Anthropic、Google、Microsoft 的同类产品。 有两种使用方式：CLI…
AI Engineering Hub 是一个收录了 93+ 个生产就绪 AI 项目的开源教程库，涵盖 LLM、RAG、AI Agent 的完整实战项目，每个项目都附带可运行的代码和详细说明。 它不是一个大模型或框架本身，而是一个学习路径 + 项目索引：从最基础的 OCR 识别、聊天机器人，到高级的 Agent 编排、模型微调、生产部署，全部都有按难度分类的实…
Agent Reach 是一个互联网能力集成层（capability layer），专为 AI 编程助手设计。它的核心功能是：让 AI Agent 能够读取 Twitter、Reddit、YouTube、B 站、小红书、GitHub、RSS 源等互联网平台的内容——无需你手动配置任何 API Key 或工具链。 你只需要把一句话发给 Agent，Agent …
Letta 是一个面向有状态 Agent 的开发平台，核心特点是让 AI Agent 具备持久记忆——不只是处理当前对话，还能记住之前讨论的内容、积累用户偏好、持续自我进化。 传统 LLM 对话是「失忆」的：每次新建对话，模型不知道你是谁、上次讨论了什么。Letta 的解法是给 Agent 挂上一层结构化的记忆系统（Memory Block），让 Agent…
Phoenix 是 Arize 开源的可观测性平台，专为 LLM 应用设计，提供追踪（Tracing）、评估（Evaluation）、数据集管理和实验对比四大核心能力。 在 LLM 应用开发中，最大的痛点之一是「看不见内部」——你不知道 RAG 检索到了什么文档、Token 消耗了多少、哪次调用拖慢了整体响应。Phoenix 用 OpenTelemetry …
NextChat（曾用名 ChatGPTNextWeb）是一个轻量级跨平台 AI 助手，Stars 高达 88k，是 GitHub 上最受欢迎的 AI 对话应用之一。支持 Web、iOS、macOS、Android、Linux、Windows 全平台，核心特点是一键 Vercel 部署即可拥有自己的私有 ChatGPT 前端，同时支持 OpenAI、Clau…
Sim 是 Sim Studio 团队打造的一个AI Agent 编排与管理工作流平台，定位是"AI Agent 的中央智能层"（central intelligence layer）。它让用户可以可视化地构建、部署和编排 AI Agent 与多步骤工作流，支持 1000+ 第三方集成（Slack、Notion、HubSpot、Salesforce、各类数据…
system_prompts_leaks 是一个系统提示词泄漏文档仓库（dataset + documentation），持续追踪并公开记录主流 AI 产品和 Agent 工具的系统提示词（System Prompt / System Message）。覆盖范围包括： 每个记录通常包含完整系统提示词原文、更新日期、以及与上一版本的diff 链接。Stars …
Firecrawl 官方 MCP Server，将 Firecrawl 网页抓取和搜索能力接入所有兼容 MCP 的 AI Agent。支持 AI 通过自然语言搜索网页、提取内容、发现站点结构、自动重试和限流，还有云端和自托管两种部署方式。对于需要让 AI 实时获取网页信息的场景，这是目前最完整的开源方案之一。 支持无 Key 免密访问（限速），或带 API …
GGML（ggmlorg/ggml）是一个用纯 C/C++ 编写的机器学习张量库，专为在消费级硬件上高效运行神经网络推理而设计。它是 llama.cpp 和 whisper.cpp 的底层引擎，也是本地大模型推理的事实标准基础设施。 GGML 的核心哲学：极简、便携、内存高效、零外部依赖。它用标准 C 编译器即可编译，生成的可执行文件通常小于 1 MB，可在…
Composio 是一个 AI Agent 工具集成平台，为 AI Agent 提供 1000+ 预认证工具包（Toolkit），覆盖 GitHub、Gmail、Slack、Linear、Notion、Salesforce 等主流 SaaS。它解决的问题是：让 Agent 不只是"聊天"，而是真正"执行操作"——创建 issue、发送邮件、管理日历、查询数据…
Langflow 是一款可视化 AI Workflow 构建平台，通过拖拽节点编排 LLM 应用流程，无需（或只需少量）代码即可完成 RAG、Agent、多步推理等复杂 AI 系统的搭建与测试。它既是低代码/无代码工具，也是 Python 开发框架——你可以用可视化界面快速原型，也可以直接修改任意组件的 Python 源码做深度定制。 核心特性：可视化 Fl…
微软官方出品的 21 节生成式 AI 入门课程，覆盖从 LLM 基础理论到 AI Agent 开发完整路径。每节包含讲解视频（YouTube）+ 文字课程 + Python/TypeScript 双语言代码示例，并配套 50+ 语言的社区翻译。Stars 约 112k，是微软 GitHub 最受欢迎的教育类仓库之一。 课程默认使用 Azure OpenAI …
内容待复核
josephmisiti/awesome-machine-learning · 上手攻略
awesomemachinelearning 是机器学习领域最老牌、最全的资源列表之一，由 Joseph Misiti 维护（Stars 73,273，周增 +112）。它按编程语言分类，收录了几乎所有主流机器学习框架、库和工具，堪称 ML 领域的"黄页"。 仓库不提供代码，仅做资源导航，是发现和调研 ML 工具的首选起点。 ⚠️ 注意（2026年4月维护者…
内容待复核
ashishps1/awesome-system-design-resources · 上手攻略
awesomesystemdesignresources 是一个免费系统设计（System Design）学习资源的精选列表，由独立开发者 ashishps1 维护。它不是代码库，而是一个"导航帖"——把散落各处的优质文章、视频、课程、面试题整理成目录，供读者按图索骥。 截至 2026 年，Stars 约 39,494，周增 +119，是系统设计领域增长最快…
Pathway llmapp 是一套开箱即用的 RAG（检索增强生成）与 AI 流水线云模板集合。它基于 Pathway Live Data Framework，核心解决"数据源实时变化 → RAG 系统如何及时感知并更新索引"这个问题。与传统 VectorDB（如 Pinecone、Milvus）需要独立 ETL 管道不同，Pathway 在内存中直接处理…
NirDiamant/GenAI_Agents 是一个 GenAI Agent 教程与实现集合，由 AI 教育博主 Nir Diamant 维护，当前收录 50+ 教程，覆盖从最简单的对话机器人到复杂多 Agent 系统的全谱系。每一个教程都是一个独立的 Jupyter Notebook，包含完整代码、逐步解释和可直接运行的示例。 这不是一个框架，而是一个学…
Vercel AI SDK（ai）是 Vercel 官方推出的 TypeScript AI 开发工具包，旨在让开发者用最少的代码在 React、Next.js、Svelte、Vue、Angular、Node.js 等框架和运行时中构建 AI 应用和 Agent。核心定位是"AI 应用的统一 API 层"——换模型提供商只需改两行代码，无需重写业务逻辑。 当前…