MetaHarness 是一个自动化 harness 工程的框架，来自斯坦福 IRIS Lab、Cornell 和 MIT，发表在 COLM 2026（arXiv:2603.28052）。 LLM 系统的性能不仅取决于模型权重，还取决于 harness——即围绕固定基础模型运行的代码，决定存储什么信息、检索什么信息、向模型展示什么。Harness 包括：系统…
仓库攻略
540 篇 · 535 个项目 · LLM 基础设施
LearnPrompt 是一个永久免费开源的中文 AI 学习教程仓库，由 B站 up 主"卡尔的AI沃茨"（GitHub @LearnPrompt）维护。它起步于 2023 年的 AIGC 工具教程（ChatGPT、Midjourney、Stable Diffusion），如今已演化为一套面向真实工作场景的 AI Native 教程体系，涵盖 Claude …
latex3/latex2e 是 The LaTeX Project 维护的 LaTeX2e 内核源码仓库。它托管了 LaTeX 核心发行版的开发源码，包括内核本身（base）、文档（doc）、必需工具（tools）、图形与颜色支持（graphics）、数学支持（amsmath）、LaTeX 急救包（firstaid）以及 latexlab 实验性模块。 ⚠…
一份持续更新的 AI 工程面试题库，由印度理工学院（IIT BHU）校友 Amit Shekhar 创建，配套其在线课程平台 Outcome School。仓库收录了 AI Engineer、Gen AI Engineer、LLM Engineer、Agentic AI Engineer、AI Platform Engineer、MLOps/LLMOps E…
Ax 是 TypeScript 版的 DSPy——一个为 LLM 构建的编程模型和训练框架，但用 TypeScript 实现，号称"几乎就是 TypeScript 的官方 DSPy"。它同一个语义核心还编译到 Python、Java、C++、Go 和 Rust，让你写一次 LLM 程序，跨多个语言生态运行。 核心特点： 签名驱动的结构化生成（typed st…
Astrid 是一个能力安全（capabilitysecure）操作系统运行时，专为可组合软件设计。它将 AI Agent 视为"不受信任的代码"——在传统框架里，Agent 拥有你本地文件的读写权限、网络访问权和凭证，而 Astrid 通过 OS 级别的安全边界来约束它，即使 Agent 被越狱、注入了恶意工具或存在 bug，也无法突破其能力授权去访问未明…
KiroCrew 是一个持久化 AI 开发工作空间，核心理念是"工作不随对话结束而消失"。它让 AI Agent 具备记忆、自我学习和自我进化能力，支持从桌面应用、Web Dashboard、CLI 到 Slack/Discord/Telegram 等消息渠道的多端接入。 架构上分为三层： Surface 层（入口）：桌面 App、Web Dashboard…
Intel Neural Compressor 是 Intel 开源的模型压缩库，专注于 LLM/VLM 的低比特量化（Lowbit Quantization），覆盖 INT8、FP8、MXFP8、MXFP4、INT4、NVFP4 等多种低精度数据类型，支持 PyTorch、TensorFlow、JAX 三大框架。 其核心定位是：Intel 官方大模型推理优…
⚠️ 【重要】此仓库已于 2026 年 7 月 9 日被所有者归档（Archive），当前为只读状态，不再接受 PR 或新功能请求。 Protect AI 于 2025 年被 Palo Alto Networks 收购，项目停止维护。如需生产使用，建议评估下方「替代方案」章节中的活跃工具。 LLM Guard 是 Protect AI 出品的 LLM 交互安…
markview.nvim 是一款专为 Neovim 打造的所见即所得富文本预览插件，支持 Markdown、HTML、LaTeX（数学公式）、Typst、AsciiDoc 五种格式的实时渲染。与传统外部预览工具不同，它直接在 Neovim 内部完成渲染，支持混合编辑模式（编辑+预览同步）和分屏预览模式。 核心定位是"hackable"——几乎所有渲染行为都…
NeMo Curator 是 NVIDIA 出品的大规模多模态数据预处理与清洗工具包，专门为 LLM（及其他基础模型）预训练数据构建可复用的 GPU 加速流水线。覆盖文本、图像、视频、音频四种模态，核心能力包括：质量过滤、去重（精确/模糊/子串）、语言检测、分类、合成数据生成（SDG）。它由 RAPIDS（cuDF/cuML/cuGraph）+ Ray 驱动…
Qwen Code 是阿里巴巴 Qwen 团队开源的终端 AI 编程 Agent，对标 Anthropic 的 Claude Code。项目脱胎于 Google Gemini CLI v0.8.2（已停止同步），现发展为独立的多协议、多平台 Agent 框架，核心框架与 Qwen 模型均已开源，无供应商绑定。 其定位是「让 AI 编程能力在终端里随手可得」—…
Pezzo 是一个开源的、开发者优先的 LLMOps 平台，旨在简化 AI 应用开发中的提示词设计、版本管理、即时发布、协作、问题排查和可观测性。核心价值是帮助开发团队在生产环境中高效管理 AI 提示词的生命周期，同时通过缓存等机制节省成本（官方称最高节省 90%）。 平台分为两部分：Pezzo Console（Web UI 控制台）和 Pezzo Clie…
gptme（发音像 "GPTmee"）是一个运行在终端里的 AI 编程 Agent，配备本地工具集：写代码、执行命令、浏览网页、操作文件。你可以在自己的笔记本、SSH 会话、tmux、headless 服务器甚至 CI 流水线里运行它。定位是通用型终端 AI Agent，既是一个强大的编程助手，也可以处理各种知识工作。完全开源，支持 Anthropic、Op…
DiGbench（Discovery in Games）是 2026 年 8 月 12 日由 James C.R. Whittington（牛津大学）联合多位学者发布的新型 AI 评测基准，全称 Discovery in Games。 核心设计：70 个纯文本互动游戏，每个游戏内部有隐藏的「变换规则」，AI 智能体必须通过主动交互和实验来发现这些规则，然后将…
everychatgptgui 是一个持续更新的开源 AI 客户端清单，由开发者 billmei 维护，专门收集整理全球所有可对接 ChatGPT API（以及 Claude、Gemini 等主流 LLM）的图形界面客户端。仓库本身不是客户端，而是一个精选导航列表，按平台分为 Web、浏览器扩展、Obsidian 插件、桌面应用、自托管方案等大类，每个条目包…
Olares（曾用名 TerminusOS）是一个开源的个人云操作系统，基于 Kubernetes 构建，旨在让你用自己的硬件（PC、服务器、NAS 或专用设备 Olares One）运行一个私有化 AI 平台。它的核心定位是：把公有云 AI 的能力（LLM 对话、AI Agent、文档知识库、多模态生成）带回家，同时保证数据完全自主可控。 Olares 2…
Vespa 是 Yahoo（现 Verizon Media）开源的企业级 AI 搜索与推荐平台，定位并非单纯的向量数据库，而是将向量检索、全文搜索、结构化数据查询、分布式模型推理全部整合在单一分布式引擎内。用户无需组合 Elasticsearch + Milvus + 推理服务等多家基础设施，一套 Vespa 就能完成从数据索引到结果排序的全部工作。全球生产…
UltraRAG 是由清华大学 THUNLP、东北大学 NEUIR、OpenBMB、AI9stars 联合推出的低代码 RAG 开发框架，基于 MCP（Model Context Protocol）架构设计。它将 RAG 的核心组件（检索器 Retriever、生成器 Generation、语料处理 Corpus、评估 Evaluation）拆解为独立的 M…
Nasiko 是一个面向 AI Agent 的开发者控制平面（Developer Control Plane），用 Rust 编写，核心定位是：运行多个 Agent 时，用单一进程解决"谁调用谁、谁持有哪个 key、调用成本几何、为什么失败"这四个工程难题。 它基于 A2A 协议（AgenttoAgent Protocol）工作——任何讲 A2A 的 Age…
Genkit 是 Google Firebase 团队开源的全栈 AI 应用开发框架，支持 JavaScript/TypeScript（生产就绪）、Go（生产就绪）、Python（Beta）、Dart（Preview）四种语言，可对接 Google Gemini、OpenAI、Anthropic、Ollama 等主流模型厂商。 核心理念：一套 API 走天下…
IndexTTS 是阿里巴巴 Index 团队开源的零样本（ZeroShot）语音克隆系统，用一段参考音频（10~30秒）即可复刻任意人的音色，生成对应文本的语音。当前稳定版为 IndexTTS2.5（2026年8月10日发布），支持中文、英语、日语、西班牙语、阿拉伯语五种语言，并在多语言跨音色任务上达到了开源 SOTA 水平。 核心能力： IndexTTS…
内容待复核
Zhiyuan-Fan/Awesome-DeepSeek-Harness-Plugins · 上手攻略
DeepSeek Harness（DSH）是 DeepSeek 官方开源的 Agent 执行框架，其核心理念是"一切皆插件"——每个能力（模型供应商、工具、记忆、调度、UI 客户端）都是可插拔的组件。AwesomeDeepSeekHarnessPlugins 是由 ZhiyuanFan 维护的每日精选目录，收录 DSH 生态中公开可用的插件、扩展、技能、工具…
Agent Governance Toolkit (AGT) 是微软在 20252026 年推出的开源 agent runtime governance 工具箱。它不重做 agent 框架，而是在 LangChain / CrewAI / OpenAI Agents / AutoGen / Google ADK 等任意框架外，套一层"policy enfor…
MMagic（Multimodal Advanced, Generative, and Intelligent Creation）是 OpenMMLab 体系下的 AIGC 工具箱，是 MMEditing 与 MMGeneration 合并后的统一继承者。它提供从底层 PyTorch 训练到高层 MMagicInferencer 的全套接口，覆盖图像 / 视…
NVIDIA NemoClaw 是一个 alpha 阶段的参考实现栈（reference stack），把"已经在市面上流通的 AI 智能体 CLI"包进 NVIDIA OpenShell 沙箱里跑。它的目标不是再造一个 agent，而是给"agent 已经能跑了、但我想让它跑得可控、可审计、可回滚"的场景，提供一整套安装、生命周期、网络策略、托管推理、快照…
AI Berkshire 是一套同时兼容 Claude Code 与 Codex 的价值投资研究 Skill 合集，将巴菲特、芒格、段永平、李录四位价值投资大师的方法论系统化、结构化，通过 AI Agent 实现专业级投资研究。仓库声称：一个人 + Claude Code / Codex = 一个投研团队。 核心定位不是"让 AI 告诉你买哪只股票"，而是用…
Vanna 是一个基于检索增强生成（RAG）的 TexttoSQL 开源框架，帮助开发者用自然语言查询 SQL 数据库。v2.0 是完全重写版本（与 v0.x 不兼容），核心定位从「RAG + LLM 生成 SQL」升级为「面向企业的用户感知型数据分析 Agent 平台」——每个组件都知道当前操作用户是谁，并自动做行级别权限过滤。 核心能力： Stars：约…
🐸TTS（coquiai/TTS）是 Mozilla 语音团队孵化的开源文本转语音深度学习工具包，支持从零训练模型、Finetuning 和推理，生产和研究均可用。最新版本 ⓍTTS v2 支持 16 种语言，还支持语音克隆（voice cloning）和语音转换（voice conversion）。它底层基于 TensorFlow / PyTorch，内置…
在 LangChain/LangGraph Agent 执行链中，在调用昂贵 Agent 之前插入一个轻量级分类器/路由步骤，由该步骤判断当前输入是否真的值得跑 Agent。如果分类器判定"不值得"，直接返回轻量级结果（如简单回复、规则匹配、缓存结果），跳过整个 Agent 调用链路，从而节省大量 token 消耗。 核心代码模式（LangChain Exp…