仓库攻略

LocalAI 是一个开源的本地 AI 推理引擎，2026 年 7 月 Stars 约 4.7 万，周增约 +126。核心理念是「小核心 + 按需加载后端」：每个后端（llama.cpp、vLLM、whisper.cpp、stablediffusion、MLX 等）都是独立的 OCI 镜像，只在你需要某类模型时才拉取安装。最新稳定版为 v4.3.0（2026…

JavaGuide 是 GitHub 上规模最大的 Java 后端面试知识库，涵盖 Java 基础、并发、JVM、数据库（MySQL/Redis/MongoDB）、计算机网络、操作系统、数据结构与算法、系统设计、常用框架（Spring/SpringBoot）等核心主题。除面试内容外，还包含 AI 应用开发指南（AIGuide 子仓库），覆盖 LLM、Agen…

MediaPipe 是 Google 开源的端侧机器学习框架，专注于在手机（Android/iOS）、Web、桌面、边缘设备和 IoT 上实时运行 ML 模型。它不是训练框架，而是推理框架——帮你把 Google 训练好的模型快速部署到各类设备上，以低延迟处理图像、视频、音频和文本。 Google 于 2023 年将 MediaPipe 主开发文档迁移至 d…

Portkey AI Gateway 是一个开源的 AI 网关（LLM Router），用单一 API 接口聚合 1600+ 语言、视觉、音频和图像模型。它既是路由层（自动重试、负载均衡、降级），也是安全层（Guardrails 内容审查），同时自带可观测性（监控、日志、成本追踪）。本质上，它是你所有 AI 应用访问大模型的统一入口。 核心定位：不再需要在代…

一个从零开始训练完整大语言模型（LLM）的全链路教程仓库。手写 PyTorch 实现，不依赖 transformers、trl、peft 等高层库，从文本语料处理讲起，一路走到 SFT（监督微调）→ 奖励模型 → RLHF（PPO、DPO、GRPO），覆盖一个小型 LLM 从诞生到"会聊天"的全过程。 项目作者 FareedKhandev 目前在寻找 AI …

stas00/mlengineering 是一本机器学习工程开放手册，由 Meta（参与 BLOOM176B 训练）、HuggingFace（参与 BLOOM176B、IDEFICS80B 训练）、Contextual.AI 等一线团队的 ML 工程师 Stas Bekman 多年实战经验沉淀而成。 与一般教程不同，它不是教你怎么用 transformers…

GPT Researcher 是一个开源的自主深度研究 Agent，设计用于对任意主题进行系统性网络调研或本地文档分析。它受 PlanandSolve 和 RAG 论文启发，通过「规划 Agent + 执行 Agent」的并行架构解决传统 LLM 调研的几大痛点：信息陈旧、幻觉、Token 限制、来源单一、结论偏颇。 核心思路是：Planner 生成一组研究…

Loop Engineering 是一个面向 AI 编码 Agent 的循环设计系统与工具集。核心理念来自 Addy Osmani 和 Boris Cherny（Anthropic Claude Code 负责人）的一个观察： "你不应该再自己去 Prompt 编码 Agent 了。你应该设计循环系统，让系统来 Prompt 你的 Agent。" 换句话说：…

LobeHub 是一个首席 Agent 运营平台（Chief Agent Operator），核心理念是把 AI Agent 视为团队成员来管理——招聘（创建）、排班（调度）、汇报（生成报告），让你的 Agent 团队实现 7×24 不间断运转。 当前主流 Agent 的问题是：每次任务单独触发、无上下文、无协作、无法持续运行。LobeHub 改变了这一点，…

这是《Machine Learning for Trading, 3rd Edition》（机器学习与量化交易·第三版）的配套代码库，由量化投资顾问 Stefan Jansen 编写。与前两版不同，第三版从一本技术书彻底重构成了端到端研究生产工作流：从数据获取、因子研究、模型训练、回测评估，到实盘接入经纪商，全流程跑通。 全书配套 6 个生产级 Python…

Kestra 是一个开源的事件驱动编排与调度平台，用于构建数据管道、AI 工作流和基础设施自动化。它的核心设计理念是：Everything as Code + Everything from UI——你既可以在可视化界面里拖拽构建工作流，也可以把 YAML 定义提交到 Git，用 CI/CD 管理版本。 定位上，它接近 Apache Airflow 的功能复…

Cognee（发音接近"cogknee"）是一个开源的 AI 记忆平台，专门为 AI Agent 设计持久化长期记忆能力。它的核心理念是：让 AI 不再是"每次对话都是一张白纸"，而是可以跨会话记住关键信息、实体关系和上下文。 Cognee 的记忆架构结合了向量检索（语义搜索）+ 知识图谱（关系推理）+ 认知科学启发的本体生成，文档不仅能被"按意思找到"，还…

Dify 是一个开源的 LLM 应用开发平台，将 AI 应用的全生命周期管理浓缩到一个直观的界面中。它同时支持"零代码"可视化编排和后端 API 调用，定位介于 LangChain 的灵活度和 Dify 的开箱即用之间——你不需要写 Python 就能跑起一个完整的 AI 应用，但一旦需要深度定制，Dify 也提供了足够的扩展性。 官方给它的定义是：Prod…

whichllm 是一个本地大模型硬件适配工具，一条命令帮你找出"在你的电脑上真正能跑且表现最好"的本地 LLM。它不是模型本身，而是一个智能选型引擎：读取你机器的 GPU/CPU/RAM 配置，去 HuggingFace 实时拉模型列表和基准测试数据，然后给你一份排名。 核心哲学：参数量不等于性能。一个 27B Q5 量化模型可能比 32B Q2 更快更准…

LLMEngineersHandbook 是 Packt 出版社配套 GitHub 仓库，支撑一本同名实战书籍（Amazon/ Packt 有售）。与其说是"仓库"，不如说是一套完整的 LLM 工程最佳实践参考实现：覆盖数据采集、LLM 训练、RAG 搭建、AWS 生产部署、监控和评测全链路，配有可直接运行的 Python 代码和 ZenML 流水线。 解决…

nanobot 是香港大学研究团队开源的轻量级个人 AI Agent 运行时，定位是"你可以真正拥有的个人 AI 助手"。v0.2.2（Durability Release），MIT 许可证，Python 实现，当前 Stars 超过 45k，是近期增长最快的开源 Agent 项目之一。 核心理念：保持 Agent 核心代码小而可读，将重量级的编排层（如复杂…

GraphRAG 是微软研究院开源的模块化图结构 RAG 系统，旨在解决传统向量 RAG 无法处理的"全数据集级别的推理问题"。 传统 RAG 靠向量相似度检索，擅长"找相似片段"，但对"这本小说里最核心的主题是什么"这类需要全局理解的问题力不从心——因为答案分散在大量段落中，向量召回永远只能覆盖局部。 GraphRAG 的核心思路：先用 LLM 将文档内容…

LangWatch 是一个开源 LLMOps 平台，专注于 LLM 应用的全链路可观测性、评估测试与 Agent 仿真。官方定位是"AI 应用的 ops missing piece"——帮助团队在不自己造轮子的情况下，实现追踪（Trace）→ 数据集（Dataset）→ 评测（Evaluate）→ 优化（Optimize）的完整闭环。 核心能力分为四大模块：…

VoltAgent/awesomeclaudecodesubagents 是 154+ 个 Claude Code 专业化子代理（Subagent）的精选合集，按 10 个类别组织，涵盖从前端开发到基础设施、从语言专家到合规审查的完整开发场景。 Subagent 是 Claude Code 的核心扩展机制：一个子代理本质上是一个带有特定角色指令（system…

这是一个三语（繁中 / English / 简中）AI Agent 学习路线图，核心定位是"学习路径 + 资源精选 + 入门练习"三合一，帮助想学 AI Agent 的人从「不知道从哪开始」到「能设计 multiagent 系统」。 具体规模： 8 个 Stage + 2 条学习路线 + 5 条延伸路径 240+ 精选项目（每个附 Stars、适合人群、关键…

Opik 是由 Comet 出品的开源 LLM 应用全生命周期管理平台，覆盖从原型开发到生产监控的完整流程。它的核心功能分三大块：可观测性（Observability）、自动化评估（Evaluation）、生产监控（Production Monitoring）。 Opik 脱胎于 Comet 十年在 ML 领域积累的实验管理经验，专门面向 LLM 应用、RA…

ohmyclaudecode（简称 OMC）是 Claude Code 的多 Agent 编排插件，用一句话说：让 Claude Code 从一个 AI 编码助手变成一个能调动多角色 AI 团队的"交响乐团指挥"。 它提供 19 个专业 Agent（架构师、代码审查员、安全专家、测试工程师、设计师等），以及 Team、Autopilot、Ralph、Ultr…

Promptfoo 是一个用于评估（Evaluation）和红队（Red Teaming）LLM 应用的 CLI + 库工具。它解决的核心问题是：在 Prompt 工程和 AI 应用迭代过程中，你怎么知道你的改动真的变好了？靠"感觉不错"是不够的。 核心功能三件事： 1. 自动化评估（Eval）：用声明式 YAML 配置，自动跑测试用例、对比多个模型的输出，…

Mastra 是一个面向 AI 驱动应用与 Agents 的现代 TypeScript 框架，定位类似 Next.js之于 Web 开发——让 AI 应用的构建从草稿到生产都有一套统一、类型安全、可扩展的基础设施。 核心定位是一站式 AI 应用框架：不只是一个 Agent 库，而是一套包含 Agent、Workflow、Memory、RAG、MCP Serv…

ZML（Z Machine Learning）是一个生产级 AI 推理技术栈，旨在将任意模型部署到任意硬件加速器上，零妥协。 它基于 Zig 语言、MLIR 编译框架和 Bazel 构建系统实现，支持 NVIDIA CUDA、AMD RoCM、Intel OneAPI、Google TPU、AWS Trainium/Inferentia 2 等多种加速器后端…

LLaMA Factory 是一个统一的大模型微调框架，支持对 100+ 开源 LLM 与 VLM（视觉语言模型）进行高效微调。项目源自学术论文（ACL 2024），定位为工程级生产工具，在 GitHub 已积累超过 7.3 万 Stars，是目前最活跃的 LLM 微调开源项目之一。 其核心定位是：让微调大模型变得像"跑训练命令"一样简单——即便是 7B 参…

Archon 是一个面向 AI 编程智能体的工作流引擎——用 YAML 定义开发流程（计划→实现→验证→审查→PR），让 AI 编程行为从"随机发挥"变成可复现的确定性过程。 它的类比是：Dockerfile 解决了基础设施的可复现，GitHub Actions 解决了 CI/CD 的可复现，而 Archon 解决的是 AI 编程工作流的可复现。 核心思想：…

MiMo Code 是小米 MiMo AI 团队开源的终端原生 AI 编程智能体，基于开源项目 OpenCode 进行二次开发，2026 年 6 月 10 日以 MIT 许可证发布。 它的核心定位是一个"住在你电脑里的 AI 编程搭档"——能读写代码、执行命令、管理 Git，并且通过持久化记忆系统，在多次会话中持续理解项目上下文、自动进化。 MiMo Cod…

guizangsocialcardskill 是一个面向 Claude Code / Codex 等 AI Agent 的图文卡片生成技能（Skill），专门用于从文章、截图、产品笔记、照片或视频素材，自动生成小红书 / Rednote 图文组图、Live Photo 动态卡片，以及公众号 21:9 + 1:1 封面对。 它的核心设计哲学是：把"做一张好看的…

AirLLM 是一个开源 Python 库，实现了一种层间加载（layerwise）推理技术，让超大语言模型在显存极小的 GPU（甚至只有 4GB VRAM 的卡）上运行推理，无需量化、无需蒸馏、无需剪枝。 核心技术原理：用单层加载替代全量加载。传统推理需要把 130GB 的 70B 模型一股脑塞进显存；AirLLM 把模型按 transformer 层拆开…