rasbt/LLMsfromscratch 是 Sebastian Raschka 的著作《Build a Large Language Model (From Scratch)》（Manning 出版，ISBN 9781633437166）的官方配套代码库。该仓库从零实现了一个类 GPT 的 LLM，涵盖数据预处理、注意力机制、模型架构、预训练、精调（SF…
仓库攻略
137 篇 · 136 个项目 · jay · 评测基准
AutoGPT 是一个创建、部署和管理持续运行 AI Agent 的平台，目标是让 AI 自动化每个人都能用、都能搭建。它包含三大核心组件： Forge（经典版）：快速构建自定义 Agent 的开发工具包，配有基准测试框架 项目采用双 License：平台核心代码（autogpt_platform/ 文件夹）使用 Polyform Shield Licens…
BentoML 是一个 Python 库，用于构建和部署 AI 模型推理服务。它将任意 AI/ML 模型的推理代码，通过几行装饰器注解，自动变成可扩展的 HTTP API，并支持 Docker 镜像打包、模型版本管理、动态批处理、多模型编排等生产级特性。 核心理念："Build Model Inference APIs, Job queues, LLM ap…
xLLM 是由京东零售团队开发、现托管于 OpenAtom 基金会的高性能 LLM 推理引擎。它不是面向普通用户的 AI 产品，而是给企业级部署场景用的底层 Infra 工具——目标是让大模型的推理在特定 AI 加速器上跑得更快、更划算。 支持的模型类型不只有 LLM，还包括： LLM（大语言模型） VLM（视觉语言模型） DiT（扩散Transformer…
⚠️ 重要注意：该仓库已于 2026 年 6 月 12 日被官方归档（readonly）。本文档如实记录其功能与用法；后续是否由社区 fork 延续请关注 GitHub。已生产使用的项目请评估替代方案（如 Langfuse、vLLM Gateway 等）。 TensorZero 是一个开源 LLMOps 平台，用 Rust 编写，以单一 Docker 容器交…
Langfuse 是一个开源 LLM 工程平台，帮助团队协作地开发、监控、评测和调试 AI 应用。2026 年 1 月，Langfuse 团队加入 ClickHouse，继续深耕开源可观测性领域。它同时提供 Langfuse Cloud（托管版，有慷慨的免费额度）和私有化部署（Docker Compose，一键起立）。 核心功能覆盖 LLM 应用全生命周期：…
OpenDataLoader PDF 是一个面向 AI 工作流的高性能 PDF 解析库，核心目标是：把 PDF 转换成 AI 模型可以直接使用的高质量结构化数据，同时提供 PDF 无障碍（accessibility）自动化能力。 两大核心功能： 1. AI 数据提取：从任意 PDF 提取 Markdown、JSON（含 bounding boxes）、HTM…
SkillOpt 是微软研究院发布的文本空间优化器，用训练神经网络的方式为"冻结"的 LLM 智能体（即不修改模型权重）自动迭代优化自然语言技能文档（Markdown 格式的 best_skill.md），让 AI Agent 在执行特定任务时表现越来越好。 核心思路：把技能文档当作"可训练的权重"，配合专门的优化器模型（GPT5.5 等）分析轨迹、打分、生…
Bifrost 是一个高性能企业级 AI Gateway（AI 网关），用 Go 语言编写，核心卖点是通过单一 OpenAI 兼容 API 统一接入 23+ 家 AI 提供商，并自带自适应负载均衡、自动故障转移、语义缓存、Guardrails、MCP Gateway 等企业级功能。 官方宣称在 5,000 RPS 持续压测下，网关额外延迟仅 ~11 µs（t…
github/awesomecopilot（官网 awesomecopilot.github.com）是 GitHub 官方维护的社区贡献资源库，收录了 GitHub Copilot 的各类扩展定制方案——包括自定义 Agents、Instructions、Skills、Hooks、Workflows 和 Plugins。 GitHub 官方维护这一点的可信…
wshobson/agents 是一个面向 AI 编程 Agent 的插件式市场（Plugin Marketplace），特点是从一份 Markdown 源码同时生成五套主流 Agent 平台的原生插件包：一套源码，Claude Code / Codex CLI / Cursor / OpenCode / Gemini CLI / GitHub Copilo…
WeKnora（维娜拉） 是腾讯开源的企业级 LLM 知识管理框架，定位是"让文档活起来"：把散落在各处的 PDF、Word、飞书文档、Notion 页面变成可查询、可推理、可持续更新的知识资产。 核心三大能力： | 能力 | 说明 | ||| | RAG 快速问答 | 基于文档知识库的精准问答，适合日常知识查询 | | ReAct Agent | 自主编排…
hesreallyhim/awesomeclaudecode 是目前最全面的 Claude Code 生态资源列表，由社区维护，精选收录了与 Anthropic 出品的 AI 编程助手 Claude Code 相关的优质 skills、hooks、slash commands、agent orchestrators、应用与插件。 它不是一个工具，而是一本生态…
OpenCLI 是一个把任意网站变成 CLI 命令的工具，同时支持在你的已登录浏览器上跑 Browser Use，让 AI Agent（Claude Code、Cursor 等）直接操作你浏览器里的网页。 三层核心能力： 1. 现成适配器：B站、知乎、小红书、Twitter/X、Reddit、HackerNews 等 100+ 站点，开箱即用的 CLI 命令…
ds4（DwarfStar）是意大利程序员 Salvatore Sanfilippo（网名 antirez，Redis 作者）用纯 C 语言手写的本地推理引擎，专门针对 DeepSeek V4 Flash 和 V4 PRO 两个权重模型优化。与一般 GGUF 通用加载器不同，它是专为这两款模型定制的闭着眼睛优化路径——不是万金油，而是专精选手。 项目有三大目…
chromedevtoolsmcp 是一个 MCP（Model Context Protocol）服务器，它把完整的 Chrome DevTools 能力暴露给 AI coding agent。使用时，你的 agent（Claude Code、Copilot、Cursor、Codex、OpenClaw 等）可以像人类开发者一样控制浏览器：点击、填表、截图、抓…