PentestGPT 是一个由 LLM 驱动的自动化渗透测试 Agentic 框架，源自 2024 年 USENIX Security 顶会论文（86.5% 成功率，104 题基准）。它将渗透测试流程（信息收集→漏洞发现→利用→权限维持）封装为可迭代执行的 AI Agent，支持自主运行（Claude Code 驱动）和人机协作（多 LLM 会话协同）两种模…
仓库攻略
201 篇 · 199 个项目 · jay · LLM 基础设施
SIE（Superlinked Inference Engine）是一个开源推理服务器，在一个统一的 HTTP API 下集成 85+ 预配置模型，覆盖 Embedding 编码、语义重排序、文档转 Markdown（OCR/解析）、结构化信息抽取、内容安全审核和大模型生成五大任务。它替代了过去"每个任务配一个模型服务器"的碎片化架构，让 Agent 开发者…
llmengineertoolkit 是一个精心整理的 LLM 工具库清单，按功能分类收录了 120+ 个开源 Python 库，涵盖从模型训练、微调、推理、服务化，到 RAG、Agent、数据提取、评测、安全等完整流程的所有环节。 它的定位是"LLM 全栈工程师的工具箱目录"——不是教你某个库怎么用，而是告诉你做某件事有哪些成熟工具可以选择，让你在立项时快…
hamcp 是 Home Assistant 的非官方 MCP（Model Context Protocol）服务器，让 AI 助手（如 Claude、ChatGPT）能够直接与 Home Assistant 智能家居平台交互，从而用自然语言控制灯光、空调、传感器、自动化规则等所有家居设备。截至 2026 年 7 月 Stars 超过 3900，是增长最快的…
RAG_Techniques 是一个专注于 RetrievalAugmented Generation（检索增强生成） 高级技术的开源教程仓库，由 Nir Diamant 维护。目前收录 42+ 个可运行的 Jupyter Notebook，覆盖从基础 RAG 到最新前沿技术的完整知识体系，每个技术都配有详细原理解析、代码实现和论文引用。截至 2026 年 …
whisper.cpp 是 OpenAI Whisper 自动语音识别（ASR）模型的纯 C/C++ 实现，不依赖任何第三方 ML 框架。相比 Python 原版，它可以脱离 Python 环境、在各类硬件上高效运行，从树莓派、手机到 GPU 服务器都能部署。截至 2026 年 7 月最新稳定版为 v1.9.1，Stars 超过 5.1 万，是目前最流行的本…
MLflow 是全球规模最大的开源 AI 工程平台，服务于 agents、LLM 和传统 ML 模型的全生命周期。每月下载量超过 6000 万次，数千家企业将其用于生产级 AI 部署。 在 2026 年的 MLflow 3.x 版本中，它已演化为真正统一的平台，同时覆盖传统 ML、深度学习和生成式 AI 应用。核心四大能力： Prompt Registry（…
LTX2 是 Lightricks 开源的视频生成模型（当前版本 LTX2.3，22B 参数，2026 年 3 月 5 日发布），基于 DiT（Diffusion Transformer）架构。它是 2026 年视频生成领域里唯一同时具备以下三个特性的开源模型： 同步音视频生成（4K 视频 + 音频，一次扩散过程完成） 原生 4K 50fps 输出 完整开源…
Omnigent 是一个开源的 AI Agent 元编排框架（metaharness）：在它之上，你可以同时运行和编排 Claude Code、Codex、Cursor、OpenCode、Pi 以及自己写的自定义 Agent，无需重写任何 Agent 代码。它不是一个新 Agent，而是一个通用的 Agent 管理层——像一层胶水，把各种主流 Agent 产…
Graphify 是一个让 AI 编程助手（Claude Code、Cursor、Codex 等）把任意代码仓库转化为可查询知识图谱的工具。本质是一个 Claude Code / AI Coding Agent 的 /graphify 技能（Skill）：输入 /graphify .，它便将项目代码、文档、图片、视频全部映射为一张节点边图谱，之后你可以用自然…
Memori 是面向 AI Agent 的记忆基础设施（Agentnative Memory Infrastructure）。它的核心定位是：解决 AI Agent「每次对话从零开始」的根本痛点——让 Agent 不仅记得「说过什么」，更记得「做过什么」，并能将执行过程中的决策、工具调用、结果都结构化地持久化，以便下次调用时精准召回。 与简单的向量数据库检索…
Vane 是一个注重隐私的 AI 问答引擎，运行在你自己的硬件上。它结合了互联网搜索结果和本地 LLM（通过 Ollama）、云端模型（OpenAI、Claude、Gemini、Groq），给出带引用来源的精准答案，所有搜索记录完全本地保存。 类比来说，Vane 是一个可私有部署的 Perplexity，强调： 不把搜索数据交给第三方 支持本地模型（Olla…
Mooncake 是月之暗面（Moonshot AI）为旗下 Kimi 大模型服务开发的生产级 LLM Serving 平台，核心创新是 KVCache 中心化的 PrefillDecode 分离架构（PD 分离），将 LLM 推理的预填充（Prefill）和解码（Decode）阶段拆分到不同集群，并通过利用 GPU 集群中闲置的 CPU DRAM 和 SS…
Xinference（Xorbits Inference）是 xorbitsai 团队开源的统一推理服务平台，一行代码替换 GPT 为任意开源 LLM。它让你在本地、云端或笔记本上运行开源语言模型、语音模型和多模态模型，通过统一的 OpenAI 兼容 API 提供服务。 Xinference 的核心差异化在于：支持最多的推理引擎（vLLM、SGLang、ll…
ColossalAI 是 HPCAI Tech 开源的分布式深度学习训练框架，核心目标是让大模型训练更便宜、更快、更普惠。它整合了多维并行（数据并行、流水线并行、张量并行）、ZeRO 优化、异构训练、FP8 低精度等技术，支持从单卡到大规模 GPU 集群的各类场景。 ColossalAI 最著名的成就是支撑了开源视频生成项目 OpenSora 的训练——让研…
DeepSpeed 是微软开源的深度学习优化库，专为大规模分布式训练和推理而设计。它让训练千亿、万亿参数模型不再是巨头的专利，普通研究团队也能在有限硬件上跑起来。 DeepSpeed 的核心创新是 ZeRO（Zero Redundancy Optimizer） 系列技术，通过分片优化器状态、梯度、参数，大幅降低单 GPU 显存占用。此外还支持 3D 并行（数…
browseruse 是让 AI Agent 操作浏览器的 Python 库——AI 描述任务，浏览器替你完成：点按钮、填表单、滚动页面、抓取内容。2026 年 7 月 Stars 104k+，Odysseys 排行榜第一（87.4% 平均准确率），领先 OpenAI、Anthropic、Google、Microsoft 的同类产品。 有两种使用方式：CLI…
Agent Reach 是一个互联网能力集成层（capability layer），专为 AI 编程助手设计。它的核心功能是：让 AI Agent 能够读取 Twitter、Reddit、YouTube、B 站、小红书、GitHub、RSS 源等互联网平台的内容——无需你手动配置任何 API Key 或工具链。 你只需要把一句话发给 Agent，Agent …
NextChat（曾用名 ChatGPTNextWeb）是一个轻量级跨平台 AI 助手，Stars 高达 88k，是 GitHub 上最受欢迎的 AI 对话应用之一。支持 Web、iOS、macOS、Android、Linux、Windows 全平台，核心特点是一键 Vercel 部署即可拥有自己的私有 ChatGPT 前端，同时支持 OpenAI、Clau…
system_prompts_leaks 是一个系统提示词泄漏文档仓库（dataset + documentation），持续追踪并公开记录主流 AI 产品和 Agent 工具的系统提示词（System Prompt / System Message）。覆盖范围包括： 每个记录通常包含完整系统提示词原文、更新日期、以及与上一版本的diff 链接。Stars …
GGML（ggmlorg/ggml）是一个用纯 C/C++ 编写的机器学习张量库，专为在消费级硬件上高效运行神经网络推理而设计。它是 llama.cpp 和 whisper.cpp 的底层引擎，也是本地大模型推理的事实标准基础设施。 GGML 的核心哲学：极简、便携、内存高效、零外部依赖。它用标准 C 编译器即可编译，生成的可执行文件通常小于 1 MB，可在…
Composio 是一个 AI Agent 工具集成平台，为 AI Agent 提供 1000+ 预认证工具包（Toolkit），覆盖 GitHub、Gmail、Slack、Linear、Notion、Salesforce 等主流 SaaS。它解决的问题是：让 Agent 不只是"聊天"，而是真正"执行操作"——创建 issue、发送邮件、管理日历、查询数据…
内容待复核
josephmisiti/awesome-machine-learning · 上手攻略
awesomemachinelearning 是机器学习领域最老牌、最全的资源列表之一，由 Joseph Misiti 维护（Stars 73,273，周增 +112）。它按编程语言分类，收录了几乎所有主流机器学习框架、库和工具，堪称 ML 领域的"黄页"。 仓库不提供代码，仅做资源导航，是发现和调研 ML 工具的首选起点。 ⚠️ 注意（2026年4月维护者…
内容待复核
ashishps1/awesome-system-design-resources · 上手攻略
awesomesystemdesignresources 是一个免费系统设计（System Design）学习资源的精选列表，由独立开发者 ashishps1 维护。它不是代码库，而是一个"导航帖"——把散落各处的优质文章、视频、课程、面试题整理成目录，供读者按图索骥。 截至 2026 年，Stars 约 39,494，周增 +119，是系统设计领域增长最快…
NirDiamant/GenAI_Agents 是一个 GenAI Agent 教程与实现集合，由 AI 教育博主 Nir Diamant 维护，当前收录 50+ 教程，覆盖从最简单的对话机器人到复杂多 Agent 系统的全谱系。每一个教程都是一个独立的 Jupyter Notebook，包含完整代码、逐步解释和可直接运行的示例。 这不是一个框架，而是一个学…
Vercel AI SDK（ai）是 Vercel 官方推出的 TypeScript AI 开发工具包，旨在让开发者用最少的代码在 React、Next.js、Svelte、Vue、Angular、Node.js 等框架和运行时中构建 AI 应用和 Agent。核心定位是"AI 应用的统一 API 层"——换模型提供商只需改两行代码，无需重写业务逻辑。 当前…
Oumi 是一个开源的 LLM 全生命周期管理平台，覆盖从数据准备、微调训练、评估评测到部署上线的完整流程。它用统一 CLI（oumi）串联起 Transformers、TRL、vLLM、veRL 等主流训练推理库，让你用同一套配置在不同硬件规模（单卡 135M 到千卡 405B）下无缝切换。 支持 Gemma 4、Qwen3.5、Qwen3.6、GPTos…
HexStrike AI 是一个基于 MCP（Model Context Protocol） 的高级网络安全自动化平台。它让 Claude、GPT、Copilot 等 AI 助手通过统一协议直接调用 150+ 网络安全工具，完成自动化渗透测试、漏洞挖掘、漏洞赏金自动化和安全研究——全程用自然语言驱动，无需在终端、扫描器和 AI 客户端之间来回切换。 v6.0…
MemPalace 是一个本地优先的 AI 记忆系统，核心卖点是：原文逐字存储（不摘要、不压缩）、可插拔向量后端、96.6% R@5（LongMemEval 基准）以及完全零 API 调用。数据永远留存在本机，通过语义搜索而非总结来召回历史上下文。 它的组织模型借用了"记忆宫殿"的隐喻： 官方文档： | PyPI：mempalace ⚠️ 防骗警告：MemP…
rasbt/LLMsfromscratch 是 Sebastian Raschka 的著作《Build a Large Language Model (From Scratch)》（Manning 出版，ISBN 9781633437166）的官方配套代码库。该仓库从零实现了一个类 GPT 的 LLM，涵盖数据预处理、注意力机制、模型架构、预训练、精调（SF…