仓库攻略

awesomemachinelearning 是机器学习领域最老牌、最全的资源列表之一，由 Joseph Misiti 维护（Stars 73,273，周增 +112）。它按编程语言分类，收录了几乎所有主流机器学习框架、库和工具，堪称 ML 领域的"黄页"。 仓库不提供代码，仅做资源导航，是发现和调研 ML 工具的首选起点。 ⚠️ 注意（2026年4月维护者…

awesomesystemdesignresources 是一个免费系统设计（System Design）学习资源的精选列表，由独立开发者 ashishps1 维护。它不是代码库，而是一个"导航帖"——把散落各处的优质文章、视频、课程、面试题整理成目录，供读者按图索骥。 截至 2026 年，Stars 约 39,494，周增 +119，是系统设计领域增长最快…

Pathway llmapp 是一套开箱即用的 RAG（检索增强生成）与 AI 流水线云模板集合。它基于 Pathway Live Data Framework，核心解决"数据源实时变化 → RAG 系统如何及时感知并更新索引"这个问题。与传统 VectorDB（如 Pinecone、Milvus）需要独立 ETL 管道不同，Pathway 在内存中直接处理…

Lore 是 Epic Games 开源的新一代版本控制系统，由 Epic Games 的工程师团队开发（Rust 语言，MIT 许可证）。它脱胎于 Epic 内部工具 Unreal Revision Control——曾是《Fortnite》 UEFN（Unreal Editor for Fortnite）创作工具的内置版本控制。2026 年 6 月，Ep…

NirDiamant/GenAI_Agents 是一个 GenAI Agent 教程与实现集合，由 AI 教育博主 Nir Diamant 维护，当前收录 50+ 教程，覆盖从最简单的对话机器人到复杂多 Agent 系统的全谱系。每一个教程都是一个独立的 Jupyter Notebook，包含完整代码、逐步解释和可直接运行的示例。 这不是一个框架，而是一个学…

X4G 是一个现代化的 VLESS 代理网关（Gateway），用于在 Railway 等平台上快速部署个人代理节点。它提供 Web 管理面板 + Telegram 机器人双入口，支持为每个连接配置流量上限、限速、IP 并发限制和到期时间，适合自建科学上网节点并分享给多人使用。⚠️ 注意：该项目属于网络代理工具，请确保在合法合规的场景下使用。 解决什么问题：…

Oumi 是一个开源的 LLM 全生命周期管理平台，覆盖从数据准备、微调训练、评估评测到部署上线的完整流程。它用统一 CLI（oumi）串联起 Transformers、TRL、vLLM、veRL 等主流训练推理库，让你用同一套配置在不同硬件规模（单卡 135M 到千卡 405B）下无缝切换。 支持 Gemma 4、Qwen3.5、Qwen3.6、GPTos…

vllmascend 是华为昇腾（Ascend）NPU 的官方 vLLM 硬件插件，让 vLLM 高性能推理框架能跑在昇腾芯片上。它由 vLLM 社区维护，遵循 vLLM 的硬件可插拔接口（Hardware Pluggable RFC），是昇腾后端在 vLLM 生态的推荐方案。 通俗理解：vLLM 是 LLM 推理的"操作系统"，vllmascend 就是让…

UITARSdesktop 是字节跳动开源的多模态 GUI Agent 桌面应用，基于 UITARS 模型。它能像人一样操控电脑（点击、输入、浏览网页），通过视觉理解界面并执行操作。目前支持： Computer Operator：操控本机桌面应用 同属 TARS 项目家族的还有 Agent TARS（终端 CLI + Web UI 版本）。 Stars 37…

MediaPipe 是 Google 开源的端侧机器学习框架，专注于在手机（Android/iOS）、Web、桌面、边缘设备和 IoT 上实时运行 ML 模型。它不是训练框架，而是推理框架——帮你把 Google 训练好的模型快速部署到各类设备上，以低延迟处理图像、视频、音频和文本。 Google 于 2023 年将 MediaPipe 主开发文档迁移至 d…

Portkey AI Gateway 是一个开源的 AI 网关（LLM Router），用单一 API 接口聚合 1600+ 语言、视觉、音频和图像模型。它既是路由层（自动重试、负载均衡、降级），也是安全层（Guardrails 内容审查），同时自带可观测性（监控、日志、成本追踪）。本质上，它是你所有 AI 应用访问大模型的统一入口。 核心定位：不再需要在代…

BentoML 是一个 Python 库，用于构建和部署 AI 模型推理服务。它将任意 AI/ML 模型的推理代码，通过几行装饰器注解，自动变成可扩展的 HTTP API，并支持 Docker 镜像打包、模型版本管理、动态批处理、多模型编排等生产级特性。 核心理念："Build Model Inference APIs, Job queues, LLM ap…

OpenRLHF 是一个基于 Ray + vLLM 分布式架构的高性能 RLHF（从人类反馈中强化学习）训练框架，同时首创了统一的 Agent 执行范式。它能将 PPO、REINFORCE++、GRPO、RLOO 等 RL 算法，与单轮/多轮 Agent 执行模式自由组合，支持 70B+ 参数模型的分布式训练，并可通过 vLLM 加速生成阶段（RLHF 中耗…

xLLM 是由京东零售团队开发、现托管于 OpenAtom 基金会的高性能 LLM 推理引擎。它不是面向普通用户的 AI 产品，而是给企业级部署场景用的底层 Infra 工具——目标是让大模型的推理在特定 AI 加速器上跑得更快、更划算。 支持的模型类型不只有 LLM，还包括： LLM（大语言模型） VLM（视觉语言模型） DiT（扩散Transformer…

stas00/mlengineering 是一本机器学习工程开放手册，由 Meta（参与 BLOOM176B 训练）、HuggingFace（参与 BLOOM176B、IDEFICS80B 训练）、Contextual.AI 等一线团队的 ML 工程师 Stas Bekman 多年实战经验沉淀而成。 与一般教程不同，它不是教你怎么用 transformers…

GPT Researcher 是一个开源的自主深度研究 Agent，设计用于对任意主题进行系统性网络调研或本地文档分析。它受 PlanandSolve 和 RAG 论文启发，通过「规划 Agent + 执行 Agent」的并行架构解决传统 LLM 调研的几大痛点：信息陈旧、幻觉、Token 限制、来源单一、结论偏颇。 核心思路是：Planner 生成一组研究…

Milvus 是一款高性能、云原生的向量数据库，专为大规模向量 ANN（近似最近邻）搜索场景设计。它能够存储十亿级向量，支持实时插入与查询，广泛用于 AI 应用中的语义搜索、图像检索、RAG（检索增强生成）等场景。 核心特点： 官方提供完全托管云服务 Zilliz Cloud。 1. 向量数据量大时搜索慢 — 传统数据库无法高效做向量相似度搜索，Milvus…

Loop Engineering 是一个面向 AI 编码 Agent 的循环设计系统与工具集。核心理念来自 Addy Osmani 和 Boris Cherny（Anthropic Claude Code 负责人）的一个观察： "你不应该再自己去 Prompt 编码 Agent 了。你应该设计循环系统，让系统来 Prompt 你的 Agent。" 换句话说：…

LobeHub 是一个首席 Agent 运营平台（Chief Agent Operator），核心理念是把 AI Agent 视为团队成员来管理——招聘（创建）、排班（调度）、汇报（生成报告），让你的 Agent 团队实现 7×24 不间断运转。 当前主流 Agent 的问题是：每次任务单独触发、无上下文、无协作、无法持续运行。LobeHub 改变了这一点，…

这是《Machine Learning for Trading, 3rd Edition》（机器学习与量化交易·第三版）的配套代码库，由量化投资顾问 Stefan Jansen 编写。与前两版不同，第三版从一本技术书彻底重构成了端到端研究生产工作流：从数据获取、因子研究、模型训练、回测评估，到实盘接入经纪商，全流程跑通。 全书配套 6 个生产级 Python…

⚠️ 重要注意：该仓库已于 2026 年 6 月 12 日被官方归档（readonly）。本文档如实记录其功能与用法；后续是否由社区 fork 延续请关注 GitHub。已生产使用的项目请评估替代方案（如 Langfuse、vLLM Gateway 等）。 TensorZero 是一个开源 LLMOps 平台，用 Rust 编写，以单一 Docker 容器交…

Ray 是一个统一分布式 AI 计算框架，用于将 Python 和 AI 应用从单机扩展到集群。核心由两部分组成： 一句话定位：让你用同一套 Python 代码，从笔记本无缝扩展到数千节点集群，不需要懂分布式系统。 ML 和 LLM 工作流的三大挑战： 1. 单机算力不够：大模型训练/推理、微调、SFT 需要多机多卡，单机环境无法承载 2. 分布式门槛高：手…

Kestra 是一个开源的事件驱动编排与调度平台，用于构建数据管道、AI 工作流和基础设施自动化。它的核心设计理念是：Everything as Code + Everything from UI——你既可以在可视化界面里拖拽构建工作流，也可以把 YAML 定义提交到 Git，用 CI/CD 管理版本。 定位上，它接近 Apache Airflow 的功能复…

Dify 是一个开源的 LLM 应用开发平台，将 AI 应用的全生命周期管理浓缩到一个直观的界面中。它同时支持"零代码"可视化编排和后端 API 调用，定位介于 LangChain 的灵活度和 Dify 的开箱即用之间——你不需要写 Python 就能跑起一个完整的 AI 应用，但一旦需要深度定制，Dify 也提供了足够的扩展性。 官方给它的定义是：Prod…

LangBot 是一个生产级的开源 IM 机器人平台，专门用于将大语言模型（LLM）和 Agent 平台连接到主流即时通讯（IM）渠道。用一个统一的代码库，同时把 AI 对话机器人部署到 Discord、Telegram、Slack、QQ、微信、企业微信、飞书、钉钉、LINE、KOOK 等十余个平台，并通过 Web 管理面板进行配置、监控和扩展。 核心特点：…

LLMEngineersHandbook 是 Packt 出版社配套 GitHub 仓库，支撑一本同名实战书籍（Amazon/ Packt 有售）。与其说是"仓库"，不如说是一套完整的 LLM 工程最佳实践参考实现：覆盖数据采集、LLM 训练、RAG 搭建、AWS 生产部署、监控和评测全链路，配有可直接运行的 Python 代码和 ZenML 流水线。 解决…

GraphRAG 是微软研究院开源的模块化图结构 RAG 系统，旨在解决传统向量 RAG 无法处理的"全数据集级别的推理问题"。 传统 RAG 靠向量相似度检索，擅长"找相似片段"，但对"这本小说里最核心的主题是什么"这类需要全局理解的问题力不从心——因为答案分散在大量段落中，向量召回永远只能覆盖局部。 GraphRAG 的核心思路：先用 LLM 将文档内容…

VoltAgent/awesomeclaudecodesubagents 是 154+ 个 Claude Code 专业化子代理（Subagent）的精选合集，按 10 个类别组织，涵盖从前端开发到基础设施、从语言专家到合规审查的完整开发场景。 Subagent 是 Claude Code 的核心扩展机制：一个子代理本质上是一个带有特定角色指令（system…

Opik 是由 Comet 出品的开源 LLM 应用全生命周期管理平台，覆盖从原型开发到生产监控的完整流程。它的核心功能分三大块：可观测性（Observability）、自动化评估（Evaluation）、生产监控（Production Monitoring）。 Opik 脱胎于 Comet 十年在 ML 领域积累的实验管理经验，专门面向 LLM 应用、RA…

Outlines（GitHub: dottxtai/outlines，PyPI 包名 outlines）是一个 Python 库，专门解决 LLM 输出结构化数据的问题。由 .txt 团队开发和维护，被 NVIDIA、Cohere、HuggingFace、vLLM 等知名机构信任使用。 核心价值主张：在生成阶段就保证输出格式正确，而不是生成后再用正则、JSO…