仓库攻略

这是一个由 Aishwarya Naresh Reganti（AWS ML 专家）维护的 Generative AI 综合性学习资源库。它的定位不是某个工具或框架的使用指南，而是一站式 AI 学习路径导航——涵盖大语言模型基础、提示工程、微调、RAG、Agent 开发、模型评估、面试准备、免费课程、论文精读，以及一系列成体系的学习路线图（Roadmap）。 …

Onyx 是 LLM 的应用层——一个功能丰富的开源 AI 平台，支持自托管。它让团队通过 RAG（检索增强生成）、深度研究、自定义 Agent、代码执行、Web 搜索、MCP 等高级能力，把 LLM 接入真实工作流。 核心定位：企业级 AI 平台（类 ChatGPT + RAG + Deep Research + Agents），可一键部署，适合需要数据隐…

llmengineertoolkit 是一个精心整理的 LLM 工具库清单，按功能分类收录了 120+ 个开源 Python 库，涵盖从模型训练、微调、推理、服务化，到 RAG、Agent、数据提取、评测、安全等完整流程的所有环节。 它的定位是"LLM 全栈工程师的工具箱目录"——不是教你某个库怎么用，而是告诉你做某件事有哪些成熟工具可以选择，让你在立项时快…

RAG_Techniques 是一个专注于 RetrievalAugmented Generation（检索增强生成） 高级技术的开源教程仓库，由 Nir Diamant 维护。目前收录 42+ 个可运行的 Jupyter Notebook，覆盖从基础 RAG 到最新前沿技术的完整知识体系，每个技术都配有详细原理解析、代码实现和论文引用。截至 2026 年 …

Helicone 是一个开源的 LLM 可观测性（Observability）与 AI 网关（AI Gateway）平台，定位是帮助 AI 工程师一站式完成模型调用监控、成本分析、流量路由、Prompt 版本管理和微调数据准备。它诞生于 Y Combinator W23 批次，GitHub Stars 已超过 5,900（数据截至 202607），是 LLM…

LitGPT 是 Lightning AI 出品的开源 LLM 训练与推理框架，定位是「一站式解决从零预训练、微调到上线部署的全部流程」。核心设计理念是无抽象层、全部从零实现、代码可直接调试，不依赖 Transformers 库内部的复杂封装。它支持 20+ 主流大模型（MegaSauna 3、Qwen2.5、Phi4、Llama 3/3.1/3.2/3.3…

InkOS 是一个面向故事创作与多语言翻译的 AI Agent 系统（当前版本 1.7.0），应用于小说、剧本、互动影游、开放世界和 IP 内容创作。它由多个专业 Agent 协同完成创作，支持 Studio（网页可视化）、TUI（全屏终端）和 CLI 三种交互形态。 核心定位：让 AI Agent 真正理解创作意图，通过规划 → 写作 → 审稿 → 修订的…

MLflow 是全球规模最大的开源 AI 工程平台，服务于 agents、LLM 和传统 ML 模型的全生命周期。每月下载量超过 6000 万次，数千家企业将其用于生产级 AI 部署。 在 2026 年的 MLflow 3.x 版本中，它已演化为真正统一的平台，同时覆盖传统 ML、深度学习和生成式 AI 应用。核心四大能力： Prompt Registry（…

Graphify 是一个让 AI 编程助手（Claude Code、Cursor、Codex 等）把任意代码仓库转化为可查询知识图谱的工具。本质是一个 Claude Code / AI Coding Agent 的 /graphify 技能（Skill）：输入 /graphify .，它便将项目代码、文档、图片、视频全部映射为一张节点边图谱，之后你可以用自然…

Memori 是面向 AI Agent 的记忆基础设施（Agentnative Memory Infrastructure）。它的核心定位是：解决 AI Agent「每次对话从零开始」的根本痛点——让 Agent 不仅记得「说过什么」，更记得「做过什么」，并能将执行过程中的决策、工具调用、结果都结构化地持久化，以便下次调用时精准召回。 与简单的向量数据库检索…

HandsOn Large Language Models（O'Reilly，2024）是 Jay Alammar（《The Illustrated GPT2》作者）和 Maarten Grootendorst（Hugging Face 社区明星博主）合著的技术书籍，其官方配套代码仓库。仓库以 Jupyter Notebook 形式覆盖了从语言模型基础、To…

PDFMathTranslate（发布名 pdf2zh）是一个保留排版的 PDF 学术论文翻译工具，能将 PDF 文档完整翻译为双语格式（原文+译文对照）或纯译文，同时保留公式、图表、目录结构、注释等复杂元素不走形。 核心特点： 支持 Google、DeepL、OpenAI、Claude、Ollama、MiniMax 等多种翻译服务 提供 CLI、GUI、D…

Haystack 是由 deepset（一家专注于 NLP 和 LLM 的德国公司）维护的开源 AI 编排框架，用于构建生产就绪的 LLM 应用。它的核心理念是"透明编排"——对检索（Retrieval）、路由（Routing）、记忆（Memory）和生成（Generation）每一步都有显式控制，开发者清楚知道数据在管道中如何流转。 简单说：Haystac…

browseruse 是让 AI Agent 操作浏览器的 Python 库——AI 描述任务，浏览器替你完成：点按钮、填表单、滚动页面、抓取内容。2026 年 7 月 Stars 104k+，Odysseys 排行榜第一（87.4% 平均准确率），领先 OpenAI、Anthropic、Google、Microsoft 的同类产品。 有两种使用方式：CLI…

AI Engineering Hub 是一个收录了 93+ 个生产就绪 AI 项目的开源教程库，涵盖 LLM、RAG、AI Agent 的完整实战项目，每个项目都附带可运行的代码和详细说明。 它不是一个大模型或框架本身，而是一个学习路径 + 项目索引：从最基础的 OCR 识别、聊天机器人，到高级的 Agent 编排、模型微调、生产部署，全部都有按难度分类的实…

Graphify 是一款面向 AI 编程助手的代码知识图谱生成工具（code knowledge graph generator）。它的核心思路是：将任意代码仓库（Python、JavaScript、SQL、R、Shell 等）的代码结构转换为一张可查询的知识图谱，替代传统的 grep/全文搜索方式，让 AI 助手可以直接"问问题"获取精准的代码上下文。 形…

Phoenix 是 Arize 开源的可观测性平台，专为 LLM 应用设计，提供追踪（Tracing）、评估（Evaluation）、数据集管理和实验对比四大核心能力。 在 LLM 应用开发中，最大的痛点之一是「看不见内部」——你不知道 RAG 检索到了什么文档、Token 消耗了多少、哪次调用拖慢了整体响应。Phoenix 用 OpenTelemetry …

Agno 是一个生产级的 Agent 平台框架（用 Python 编写），包含两层核心组件： 它的定位比"写一个 Agent 脚本"更高，直接帮你搭建一个多租户、多 Agent、可观测、支持 100+ 工具集成的生产平台。官方口号是"Build, run, and manage your own agent platform"。 当前版本为 Producti…

Composio 是一个 AI Agent 工具集成平台，为 AI Agent 提供 1000+ 预认证工具包（Toolkit），覆盖 GitHub、Gmail、Slack、Linear、Notion、Salesforce 等主流 SaaS。它解决的问题是：让 Agent 不只是"聊天"，而是真正"执行操作"——创建 issue、发送邮件、管理日历、查询数据…

Vercel AI SDK（ai）是 Vercel 官方推出的 TypeScript AI 开发工具包，旨在让开发者用最少的代码在 React、Next.js、Svelte、Vue、Angular、Node.js 等框架和运行时中构建 AI 应用和 Agent。核心定位是"AI 应用的统一 API 层"——换模型提供商只需改两行代码，无需重写业务逻辑。 当前…

Oumi 是一个开源的 LLM 全生命周期管理平台，覆盖从数据准备、微调训练、评估评测到部署上线的完整流程。它用统一 CLI（oumi）串联起 Transformers、TRL、vLLM、veRL 等主流训练推理库，让你用同一套配置在不同硬件规模（单卡 135M 到千卡 405B）下无缝切换。 支持 Gemma 4、Qwen3.5、Qwen3.6、GPTos…

MemPalace 是一个本地优先的 AI 记忆系统，核心卖点是：原文逐字存储（不摘要、不压缩）、可插拔向量后端、96.6% R@5（LongMemEval 基准）以及完全零 API 调用。数据永远留存在本机，通过语义搜索而非总结来召回历史上下文。 它的组织模型借用了"记忆宫殿"的隐喻： 官方文档： | PyPI：mempalace ⚠️ 防骗警告：MemP…

rasbt/LLMsfromscratch 是 Sebastian Raschka 的著作《Build a Large Language Model (From Scratch)》（Manning 出版，ISBN 9781633437166）的官方配套代码库。该仓库从零实现了一个类 GPT 的 LLM，涵盖数据预处理、注意力机制、模型架构、预训练、精调（SF…

AutoGPT 是一个创建、部署和管理持续运行 AI Agent 的平台，目标是让 AI 自动化每个人都能用、都能搭建。它包含三大核心组件： Forge（经典版）：快速构建自定义 Agent 的开发工具包，配有基准测试框架 项目采用双 License：平台核心代码（autogpt_platform/ 文件夹）使用 Polyform Shield Licens…

BentoML 是一个 Python 库，用于构建和部署 AI 模型推理服务。它将任意 AI/ML 模型的推理代码，通过几行装饰器注解，自动变成可扩展的 HTTP API，并支持 Docker 镜像打包、模型版本管理、动态批处理、多模型编排等生产级特性。 核心理念："Build Model Inference APIs, Job queues, LLM ap…

xLLM 是由京东零售团队开发、现托管于 OpenAtom 基金会的高性能 LLM 推理引擎。它不是面向普通用户的 AI 产品，而是给企业级部署场景用的底层 Infra 工具——目标是让大模型的推理在特定 AI 加速器上跑得更快、更划算。 支持的模型类型不只有 LLM，还包括： LLM（大语言模型） VLM（视觉语言模型） DiT（扩散Transformer…

stas00/mlengineering 是一本机器学习工程开放手册，由 Meta（参与 BLOOM176B 训练）、HuggingFace（参与 BLOOM176B、IDEFICS80B 训练）、Contextual.AI 等一线团队的 ML 工程师 Stas Bekman 多年实战经验沉淀而成。 与一般教程不同，它不是教你怎么用 transformers…

⚠️ 重要注意：该仓库已于 2026 年 6 月 12 日被官方归档（readonly）。本文档如实记录其功能与用法；后续是否由社区 fork 延续请关注 GitHub。已生产使用的项目请评估替代方案（如 Langfuse、vLLM Gateway 等）。 TensorZero 是一个开源 LLMOps 平台，用 Rust 编写，以单一 Docker 容器交…

Langfuse 是一个开源 LLM 工程平台，帮助团队协作地开发、监控、评测和调试 AI 应用。2026 年 1 月，Langfuse 团队加入 ClickHouse，继续深耕开源可观测性领域。它同时提供 Langfuse Cloud（托管版，有慷慨的免费额度）和私有化部署（Docker Compose，一键起立）。 核心功能覆盖 LLM 应用全生命周期：…

Cognee（发音接近"cogknee"）是一个开源的 AI 记忆平台，专门为 AI Agent 设计持久化长期记忆能力。它的核心理念是：让 AI 不再是"每次对话都是一张白纸"，而是可以跨会话记住关键信息、实体关系和上下文。 Cognee 的记忆架构结合了向量检索（语义搜索）+ 知识图谱（关系推理）+ 认知科学启发的本体生成，文档不仅能被"按意思找到"，还…