Pathway llmapp 是一套开箱即用的 RAG（检索增强生成）与 AI 流水线云模板集合。它基于 Pathway Live Data Framework，核心解决"数据源实时变化 → RAG 系统如何及时感知并更新索引"这个问题。与传统 VectorDB（如 Pinecone、Milvus）需要独立 ETL 管道不同，Pathway 在内存中直接处理…
仓库攻略
176 篇 · 174 个项目 · tom · RAG 检索增强
Rig 是用 Rust 构建模块化、可扩展 LLM 应用的库。它提供了一套统一抽象，覆盖 20+ 大模型提供商、10+ 向量数据库，并内置 Agent 编排、RAG、工具调用、多轮对话等能力，全部用 Rust 的类型安全和并发性能加持。 解决什么问题： 在 Rust 生态里，之前缺乏一个统一、好用的 LLM 应用抽象层。开发者要么自己封装各个 Provide…
FastMCP 是构建 MCP（Model Context Protocol）服务器和客户端的 Python 框架，由 Prefect（知名工作流编排平台）维护。它让你用几行 Python 代码就能把任意函数暴露为 MCP 工具，并支持通过 STDIO 或 HTTP 两种传输方式连接 LLM。 解决什么问题： 手写 MCP 服务器要处理协议细节、JSONRP…
LocalAI 是一个开源的本地 AI 推理引擎，2026 年 7 月 Stars 约 4.7 万，周增约 +126。核心理念是「小核心 + 按需加载后端」：每个后端（llama.cpp、vLLM、whisper.cpp、stablediffusion、MLX 等）都是独立的 OCI 镜像，只在你需要某类模型时才拉取安装。最新稳定版为 v4.3.0（2026…
JavaGuide 是 GitHub 上规模最大的 Java 后端面试知识库，涵盖 Java 基础、并发、JVM、数据库（MySQL/Redis/MongoDB）、计算机网络、操作系统、数据结构与算法、系统设计、常用框架（Spring/SpringBoot）等核心主题。除面试内容外，还包含 AI 应用开发指南（AIGuide 子仓库），覆盖 LLM、Agen…
stas00/mlengineering 是一本机器学习工程开放手册，由 Meta（参与 BLOOM176B 训练）、HuggingFace（参与 BLOOM176B、IDEFICS80B 训练）、Contextual.AI 等一线团队的 ML 工程师 Stas Bekman 多年实战经验沉淀而成。 与一般教程不同，它不是教你怎么用 transformers…
GPT Researcher 是一个开源的自主深度研究 Agent，设计用于对任意主题进行系统性网络调研或本地文档分析。它受 PlanandSolve 和 RAG 论文启发，通过「规划 Agent + 执行 Agent」的并行架构解决传统 LLM 调研的几大痛点：信息陈旧、幻觉、Token 限制、来源单一、结论偏颇。 核心思路是：Planner 生成一组研究…
这是《Machine Learning for Trading, 3rd Edition》（机器学习与量化交易·第三版）的配套代码库，由量化投资顾问 Stefan Jansen 编写。与前两版不同，第三版从一本技术书彻底重构成了端到端研究生产工作流：从数据获取、因子研究、模型训练、回测评估，到实盘接入经纪商，全流程跑通。 全书配套 6 个生产级 Python…
Kestra 是一个开源的事件驱动编排与调度平台，用于构建数据管道、AI 工作流和基础设施自动化。它的核心设计理念是：Everything as Code + Everything from UI——你既可以在可视化界面里拖拽构建工作流，也可以把 YAML 定义提交到 Git，用 CI/CD 管理版本。 定位上，它接近 Apache Airflow 的功能复…
Cognee（发音接近"cogknee"）是一个开源的 AI 记忆平台，专门为 AI Agent 设计持久化长期记忆能力。它的核心理念是：让 AI 不再是"每次对话都是一张白纸"，而是可以跨会话记住关键信息、实体关系和上下文。 Cognee 的记忆架构结合了向量检索（语义搜索）+ 知识图谱（关系推理）+ 认知科学启发的本体生成，文档不仅能被"按意思找到"，还…
Dify 是一个开源的 LLM 应用开发平台，将 AI 应用的全生命周期管理浓缩到一个直观的界面中。它同时支持"零代码"可视化编排和后端 API 调用，定位介于 LangChain 的灵活度和 Dify 的开箱即用之间——你不需要写 Python 就能跑起一个完整的 AI 应用，但一旦需要深度定制，Dify 也提供了足够的扩展性。 官方给它的定义是：Prod…
LLMEngineersHandbook 是 Packt 出版社配套 GitHub 仓库，支撑一本同名实战书籍（Amazon/ Packt 有售）。与其说是"仓库"，不如说是一套完整的 LLM 工程最佳实践参考实现：覆盖数据采集、LLM 训练、RAG 搭建、AWS 生产部署、监控和评测全链路，配有可直接运行的 Python 代码和 ZenML 流水线。 解决…
GraphRAG 是微软研究院开源的模块化图结构 RAG 系统，旨在解决传统向量 RAG 无法处理的"全数据集级别的推理问题"。 传统 RAG 靠向量相似度检索，擅长"找相似片段"，但对"这本小说里最核心的主题是什么"这类需要全局理解的问题力不从心——因为答案分散在大量段落中，向量召回永远只能覆盖局部。 GraphRAG 的核心思路：先用 LLM 将文档内容…
LangWatch 是一个开源 LLMOps 平台，专注于 LLM 应用的全链路可观测性、评估测试与 Agent 仿真。官方定位是"AI 应用的 ops missing piece"——帮助团队在不自己造轮子的情况下，实现追踪（Trace）→ 数据集（Dataset）→ 评测（Evaluate）→ 优化（Optimize）的完整闭环。 核心能力分为四大模块：…
VoltAgent/awesomeclaudecodesubagents 是 154+ 个 Claude Code 专业化子代理（Subagent）的精选合集，按 10 个类别组织，涵盖从前端开发到基础设施、从语言专家到合规审查的完整开发场景。 Subagent 是 Claude Code 的核心扩展机制：一个子代理本质上是一个带有特定角色指令（system…
内容待复核
WenyuChiou/awesome-agentic-ai-zh · 上手攻略
这是一个三语（繁中 / English / 简中）AI Agent 学习路线图，核心定位是"学习路径 + 资源精选 + 入门练习"三合一，帮助想学 AI Agent 的人从「不知道从哪开始」到「能设计 multiagent 系统」。 具体规模： 8 个 Stage + 2 条学习路线 + 5 条延伸路径 240+ 精选项目（每个附 Stars、适合人群、关键…
Opik 是由 Comet 出品的开源 LLM 应用全生命周期管理平台，覆盖从原型开发到生产监控的完整流程。它的核心功能分三大块：可观测性（Observability）、自动化评估（Evaluation）、生产监控（Production Monitoring）。 Opik 脱胎于 Comet 十年在 ML 领域积累的实验管理经验，专门面向 LLM 应用、RA…
Promptfoo 是一个用于评估（Evaluation）和红队（Red Teaming）LLM 应用的 CLI + 库工具。它解决的核心问题是：在 Prompt 工程和 AI 应用迭代过程中，你怎么知道你的改动真的变好了？靠"感觉不错"是不够的。 核心功能三件事： 1. 自动化评估（Eval）：用声明式 YAML 配置，自动跑测试用例、对比多个模型的输出，…
Mastra 是一个面向 AI 驱动应用与 Agents 的现代 TypeScript 框架，定位类似 Next.js之于 Web 开发——让 AI 应用的构建从草稿到生产都有一套统一、类型安全、可扩展的基础设施。 核心定位是一站式 AI 应用框架：不只是一个 Agent 库，而是一套包含 Agent、Workflow、Memory、RAG、MCP Serv…
Archon 是一个面向 AI 编程智能体的工作流引擎——用 YAML 定义开发流程（计划→实现→验证→审查→PR），让 AI 编程行为从"随机发挥"变成可复现的确定性过程。 它的类比是：Dockerfile 解决了基础设施的可复现，GitHub Actions 解决了 CI/CD 的可复现，而 Archon 解决的是 AI 编程工作流的可复现。 核心思想：…
AirLLM 是一个开源 Python 库，实现了一种层间加载（layerwise）推理技术，让超大语言模型在显存极小的 GPU（甚至只有 4GB VRAM 的卡）上运行推理，无需量化、无需蒸馏、无需剪枝。 核心技术原理：用单层加载替代全量加载。传统推理需要把 130GB 的 70B 模型一股脑塞进显存；AirLLM 把模型按 transformer 层拆开…
Serena 是一个面向 AI 编程 Agent 的 MCP 工具包，为 Agent 提供 IDE 级别的语义代码检索、编辑、重构和调试能力。它的核心定位是"Agent 的专属 IDE"——让 Agent 能像资深开发者使用 IDE 那样，在符号（symbol）层面理解代码结构，而不是逐文件逐行地猜。 简而言之：没有 Serena，Agent 只能靠"gre…
PageIndex 是一个无向量、基于推理的 RAG（检索增强生成）引擎，由 Vectify AI 开发。其核心理念是：传统向量 RAG 依赖"语义相似度"做检索，但这不等于"真正相关"——尤其在金融报告、法律文书、医疗文献等高度专业化的长文档场景，"相似"和"相关"的差距尤为明显。 PageIndex 模拟人类阅读长文档的方式——先看目录，再顺着结构找答案…
CloakBrowser 是一款"隐身 Chromium"浏览器，专为绕过反机器人检测而设计。与其他工具通过 JavaScript 注入或配置参数"伪装"成浏览器不同，CloakBrowser 在 C++ 源码层面对 Chromium 打补丁，将修改直接编译进二进制，让检测系统看到的是一个"真正的普通浏览器"——因为它本质上就是。 核心卖点：30/30 反检…
ResearchPaperWritingSkills 是一个面向 AI 编程助手（Codex、Claude Code、Gemini）的论文写作 Skill 包，将 ML/CV/NLP 学术论文的写作方法论封装为可复用指令集。 它的核心知识来源是彭思达（Prof. Peng Sida）公开的研究笔记仓库 learning_research，本仓库在此基础上做了…
AgentLearningHub 是 Datawhale 社区维护的一份AI Agent 系统化学习路线，目标是把社区里的优秀分享、官方博客、论文、开源项目和真实工程经验，整理成一份可以照着执行的 AI Agent 学习 todo list。 这不是一个代码工具仓库，而是一个学习导航仓库——README 即全部内容，作者是 Datawhale 成员陈思州（j…
PixelRAG 是一个基于视觉渲染的 RAG（检索增强生成）系统，核心思想：把文档（网页、PDF）渲染成截图切片（screenshot tiles），再对图片做向量检索，而不是解析 HTML 提取文本。传统 RAG 丢掉的表格、图表、排版信息，在 PixelRAG 里完整保留，读者模型可以直接"看"到原始视觉布局。 源自 Berkeley SkyLab、B…
Deep Lake 是 AI 数据运行时（AI Data Runtime），由 Activeloop 提供。其核心定位是：专为 AI 应用设计的多模态数据库，同时支持向量检索、数据版本控制和多模态原始数据存储。 与只存 embedding 的向量数据库不同，Deep Lake 可以存任意类型的原始数据——图片、视频、音频、PDF、文本、embedding 向…
txtai 是由 NeuML 维护的一个一体化 AI 框架，核心理念是把语义搜索、LLM 编排和工作流三大能力整合在同一个 Python 包里。 其核心组件是 Embeddings 数据库——本质上是一个融合了稀疏向量索引、密集向量索引、图网络和关系数据库的统一检索层。这使得 txtai 既能做传统向量检索，也能做 SQL 查询、主题建模、图分析。 架构图：…
DeepTutor 是一个Agent 原生的个性化辅导系统，由香港大学数字智能系统实验室（HKUDS）开发，定位是让 AI tutor 真正介入学习过程、而非仅仅回答问题。它在 2025 年初的 arXiv 论文（arXiv:2604.26962）中被提出，当前最新版本为 v1.5.0（2026.7.4），处于活跃开发状态。 核心设计哲学：学习不是问答，而是…