这是 Decoding AI 杂志社出品的开源实战课程仓库，教你从零搭建一个"Second Brain AI 助手" —— 让你的 Notion / 网页笔记 / 文档作为个人知识库，配合 agent + RAG + 微调 + LLMOps，做出一个能聊你自己的笔记的生产级 AI 助手。MIT 协议、纯 Jupyter Notebook + Python、最…
仓库攻略
540 篇 · 535 个项目 · LLM 基础设施
ChainForge 是一个给 LLM prompt 做对抗测试的开源可视化编程环境（visual programming environment），学术出身 —— 作者 Ian Arawjo 在 Harvard HCI 组做博后期间发表（CHI 2024 论文 "ChainForge: A Visual Toolkit for Prompt Enginee…
Laminar（仓库路径 lmnrai/lmnr，官方域名 laminar.sh，品牌写作"Laminar"——注意跟流体力学的层流同名）是 为 AI Agent 量身打造的开源可观测性平台，由 YC S24 孵化的团队开发，Apache2.0 协议，主仓 ~3.1k Stars、TypeScript/Rust 混合栈，最近一次 release 验证于 20…
AGiXT（AGI eXecution & Tasks）是一个 动态 AI Agent 自动化平台，定位是「多 AI provider 之上的中央神经系统」。它解决的核心问题是：让一套自然语言指令，能在 OpenAI / Anthropic / Google / Azure / 本地模型之间无缝切换，并自动编排复杂任务、执行扩展动作。 核心卖点： 仓库 3.…
TruLens 是 TruEra 公司（已被 Snowflake 收购）维护的、面向 LLM 实验和 AI Agent 的评估与追踪框架。它做两件事： 1. Instrumentation（埋点）：用 OpenTelemetry 拦截你的 LLM / RAG / Agent 调用，把每一次 LLM 生成、检索、工具调用都落成结构化 OTEL span。 2.…
代表攻略
volcengine/OpenViking · 上手攻略
OpenViking 是字节跳动旗下火山引擎（Volcengine）开源的、面向 AI Agent 的「上下文数据库」（Context Database）。它用「文件系统范式（filesystem paradigm）」统一管理 Agent 运行所需的全部上下文：长期记忆（memory）、外部知识与资源（resources）、可调用的技能（skills）。 与…
同类项目 2展开比较
同名 Awesome 仓库已合并展示，原攻略与详情链接均保留。
volcengine/OpenViking
Stars 26,172
代表
volcengine/OpenViking
Stars 26,172
Acontext 是 memodbio 开源的 "Agent Skills 形式的记忆层"——把 agent 运行中学到的经验沉淀成可读、可编辑、可跨 agent 复用的 Markdown skill 文件。它不是又一个向量数据库，而是把"记忆 = skill 文件"做成一等公民：会话消息 → 任务完成事件 → LLM 蒸馏 → Skill Agent 写文…
LoRAX（LoRA eXchange）是 Predibase 开源的 多 LoRA 适配器推理服务器，目标是在一张 GPU 上同时服务成百上千个微调后的 LLM，而吞吐和延迟几乎不打折。它通过"动态加载适配器 + 异构连续批处理 + 适配器交换调度"三大机制，让一份基座模型（如 Mistral7B、Llama3、Qwen）被数千个不同任务的 LoRA 适配…
Agenta 是一个开源的 LLMOps 平台，把 LLM 应用从原型到生产所需的四件事压在一个工作流里：Prompt Playground（交互式调试）、Prompt/Cofig 管理（带版本和分支）、LLM 评估（人评 + 自动评估 + LLMasjudge）、可观测性（Tracing、成本、延迟）。代码以 TypeScript 为主、许可 NOASSE…
OpenKnowledge（内部包名 @inkeep/openknowledge）是一个 AI 原生的 Markdown 编辑器，同时也是一个 LLM Wiki 工具。它的定位是"Notion meets VS Code"——既有 Notion 般的 WYSIWYG（所见即所得）编辑体验，又保留 VS Code 式的本地文件夹操作和 Markdown 文件本…
VLMEvalKit（Python 包名 vlmeval）由上海人工智能实验室 OpenCompass 团队开源，是大型视觉语言模型（LVLM / VLM）的事实标准评估工具包。它的口号是 "一命令评测 220+ LVLM、80+ benchmark" —— 用户只写一个 generate_inner()，剩下的数据下载、预处理、推理、metric 全部由框…
lmmseval（Python 包名 lmmseval，前身为 LMMsEval）是 EvolvingLMMsLab 维护的"统一多模态大模型评估工具包"。目标只有一个：让"同一个模型 + 同一个 benchmark + 同一套参数"在两台机器上跑出来数字一致，并且能覆盖文本、图像、视频、音频四大模态的 100+ 任务、30+ 模型后端。 它脱胎于 Eleu…
llmtwincourse 是 Decoding AI Magazine（Paul Iusztin & Alex Vesa 团队）开源的免费工程课，目标是从零搭建一个能"模仿你写作风格"的生产级 LLM Twin —— 一套完整的端到端 LLM + RAG 系统，覆盖数据采集、CDC 同步、实时特征工程、SFT 微调、RAG 推理、Prompt 监控全部 6…
opendilab/awesomeRLHF 是上海人工智能实验室 OpenDILab 维护的 "RLHF 精选资源列表"，延续 awesome 系列的策展风格：把强化学习与人类反馈（Reinforcement Learning from Human Feedback）相关论文、代码库、数据集、博客、图书按时间线（2020 及以前 → 2026）梳理成一份可阅…
rasbt/reasoningfromscratch 是 Sebastian Raschka（Build a Large Language Model (From Scratch) 的作者）出版的第二本 Manning 图书 Build a Reasoning Model (From Scratch) 的官方配套代码仓库。整本书/仓库的目标是：从一个已经预训…
OASIS（Open Agent Social Interaction Simulations with One Million Agents）是 CAMELAI 团队开源的"百万级 LLM Agent 社交模拟器"。它不是单 Agent 框架，也不是 Chatbot 工具，而是一个离散时间步的社交媒体沙盘：用 LLM 驱动的"虚拟用户"，在仿 Twitte…
Odysseus 是一个自托管的 AI 工作空间，用 Docker 一键部署后，在本地获得一个类似 Notion + ChatGPT + Perplexity + 邮件客户端 + 日历的集合体，但全部支持本地模型和私有数据。 核心功能模块包括： Notes / Tasks / Calendar：笔记、任务、提醒、定时 Agent 任务、CalDAV 日历同步…
ChineseLLaMAAlpaca2 是基于 Meta 开源可商用模型 Llama2 开发的中文 LLaMA2 与 Alpaca2 大模型二期项目，由 ymcui 团队维护。它在原版 Llama2 基础上重新设计了中文词表（55,296 个 token），并使用大规模中文语料进行增量预训练和指令精调，显著提升了模型的中文能力。 | 系列 | 模型 | 参数…
《后端架构师技术图谱》是一份纯中文的 Awesome 列表资源，结构上把后端架构师应当掌握的所有知识点组织成一张可跳转的目录树，覆盖从基础的数据结构与算法、Java 并发、操作系统、设计模式，到中间件（Web Server / 缓存 / 消息队列 / RPC / 数据库中间件 / 配置中心 / API 网关 / 日志系统）、网络协议、数据库（MySQL、No…
astridruntime/book 是 Unicity Astrid OS 的权威技术参考文档，同样基于 mdBook 构建。它是理解 Astrid 操作系统内部设计的完整手册，面向构建 Capsule（胶囊）或深入理解系统架构的开发者。 Astrid OS 是一个专为 AI Agent 设计的操作系统，它的核心设计哲学是：像操作系统对待进程一样对待 AI…
sdkjs 是 Astrid（一个分布式 AI capsule 运行时）的官方 JavaScript / TypeScript SDK，用于将 TypeScript 代码编译为 WASM 组件（.capsule 格式）并被 Astrid 内核加载执行。 Astrid 是一个新兴的开放协议项目，核心设计思想是「kernelisdumb」：内核只负责加载、安全隔…
5ire（读作 "fireer"）是一个跨平台桌面 AI 助手，同时也是一个功能完整的 MCP（Model Context Protocol）客户端。它内置对 OpenAI、Azure OpenAI、Anthropic、Google、Mistral、豆包、Grok、DeepSeek、Ollama 等主流 AI 提供商的支持，并允许用户通过 MCP 协议接入各…
RunAnywhere 是一个端侧 AI 推理 SDK 套件，让你在 iOS、Android、Flutter、React Native 和浏览器里直接跑 LLM、VLM、语音识别（TTS/STT）和语音合成，无需联网、数据不离设备。它用同一套 API 屏蔽了各平台的底层差异：Apple 设备走 Core ML / Metal，安卓走 llama.cpp 或高…
ZenML 是一个面向 ML/AI 工程师的统一 AI 平台，核心价值主张是：一次编写，随处运行——用 Python 装饰器定义管道（pipelines）和步骤（steps），ZenML 自动处理容器化、追踪、部署和基础设施抽象，让你无需改动代码即可在本地、Kubernetes、云端之间切换。 ZenML 的定位介于实验追踪工具（MLflow、W&B）和完整…
awesomepretrainedchinesenlpmodels 是一个由个人开发者（lonePatient）维护的 GitHub 精选列表，收录高质量中文预训练模型、大语言模型、多模态模型及其相关资源。截至 2026 年 7 月 Stars 5574，是中文 NLP 领域最全面的开源模型索引之一。 仓库按模型类型和任务类型双重维度分类，涵盖从 2020 …
sdkjs 是 Astrid OS 的官方 JavaScript / TypeScript SDK，用于构建可在 Astrid 操作系统中运行的 Capsule（胶囊）。Capsule 是 Astrid 的核心应用格式——一种基于 WebAssembly（wasip2 Component Model）的可移植二进制包，既可以用 Rust 编写，也可以用 Ty…
AwesomeLLMOps 是由 tensorchord 团队维护的 GitHub 精选列表（Awesome List），收录了 LLMOps（Large Language Model Operations）领域的优质工具、项目和资源。截至 2026 年 7 月已累计 5879 Stars，周增 +7，是目前最活跃的 LLMOps 专题列表之一。 LLMOp…
Agent Starter Pack（ASP） 是 Google Cloud 官方出的 生产级 GenAI Agent 模板项目：用 Python 包形式提供一整套「Agent + 后端 + 前端 + 部署基础设施 + 监控 + CI/CD」的项目骨架，让开发者只关心 agent 业务逻辑。 它支持多种 agent 框架 / 模式（自带模板）： 重要变更：R…
Upsonic 是一个面向生产场景的 Python AI Agent 框架，强调「可靠性 / Reliability」。它同时提供两类抽象： AutonomousAgent：类似 OpenClaw、Claude Cowork 那样的自治代理，能在受限沙盒里读写文件、跑 shell，适合「给我分析日志 / 处理 CSV」这种开放式任务。 配套能力还包括： Pr…
官方维护的 Amazon SageMaker 示例笔记本仓库，由 AWS SageMaker 团队直接管理。它不是 SDK 本身，而是 SageMaker 各功能（数据准备、训练、推理、监控、Feature Store、SageMakerCore、Studio 等）的 可运行 Jupyter Notebook 示范集合，覆盖从 XGBoost 入门到大规模分…