Repositories · organized/repo_cards

仓库/Skill 库

1052 个

排序 Stars 周增
rowboatlabs/rowboat
TypeScript · 2026-08-10 Agent 智能体 应用 生产可用 Stars 17101 周增 +224

开源 AI 同事,具备记忆能力Open-source AI coworker, with memory

agentllm-infra
memvid/memvid
Rust · 2026-07-14 Agent 智能体 应用 生产可用 Stars 16207 周增 +35

AI Agents 的记忆层。用无服务器、单文件的记忆层替代复杂的 RAG pipeline,为 agents 提供即时检索与长期记忆。Memory layer for AI Agents. Replace complex RAG pipelines with a serverless, single-file memory layer. Give your agents instant retrieval and long-term memory.

agentragmultimodalengineering
xbtlin/ai-berkshire
Python · 2026-08-23 Agent 智能体 框架 生产可用 Stars 15785 周增 +154

AI 时代的伯克希尔:基于 Claude Code / Codex 的价值投资研究框架。巴菲特·芒格·段永平·李录四大师方法论 + 多Agent并行研究。| AI-era Berkshire: a value investing research framework built for Claude Code / Codex. 4 masters' methodologies + multi-agent adversarial analysis.

agentllm-infra
MemoriLabs/Memori
Python · 2026-07-31 Agent 智能体 应用 生产可用 Stars 15680 周增 +7

Memori 是面向 Agent 的记忆基础设施。它是一个与 LLM 无关的中间层,可将 Agent 执行与对话转化为结构化、持久化的状态,用于生产系统。Memori 面向企业级场景,能够与现有数据基础设施协同工作,无需替换,并支持在托管云、单租户云、VPC 以及本地部署等多种环境中落地。Memori is agent-native memory infrastructure. A LLM-agnostic layer that turns agent execution and conversation into structured, persistent state for production systems. Built for enterprise, Memori works with the data infrastructure you already run, no rip-and-replace, and deploys across managed cloud, single-tenant cloud, VPC, and on-premises.

agentragengineeringllm-infra
dottxt-ai/outlines
Python · 2026-08-11 LLM 基础设施 生产可用 Stars 15565 周增 +35

结构化输出(Structured Outputs)Structured Outputs

llm-infra
alibaba/zvec
C++ · 2026-07-21 数据与向量库 应用 生产可用 Stars 15199 周增 +98

一个轻量、极速的进程内向量数据库。A lightweight, lightning-fast, in-process vector database

agentragdatabasellm-infra
ggml-org/ggml
C++ · 2026-08-07 LLM 基础设施 生产可用 Stars 15147 周增 +14

面向机器学习的 Tensor 库Tensor library for machine learning

llm-infra
gvergnaud/ts-pattern
TypeScript · 2026-08-10 LLM 基础设施 生产可用 Stars 15120 周增 +14

🎨 TypeScript 的穷尽式 Pattern Matching 库,具备智能类型推断。🎨 The exhaustive Pattern Matching library for TypeScript, with smart type inference.

llm-infra
GreyDGL/PentestGPT
Python · 2026-07-14 Agent 智能体 框架 生产可用 Stars 14792 周增 +49

由 LLM 驱动的自动化渗透测试 Agentic 框架Automated Penetration Testing Agentic Framework Powered by Large Language Models

agentllm-infra
GeeeekExplorer/nano-vllm
Python · 2026-04-26 LLM 基础设施 应用 生产可用 Stars 14623 周增 +28

Nano vLLM。Nano vLLM

llm-infra
HBAI-Ltd/Toonflow-app
TypeScript · 2026-07-28 多模态 框架 生产可用 Stars 13701 周增 +126

Toonflow 是开源一站式 AI 短剧创作工具,将小说、剧本快速转化为动画短剧。集成 AI 编剧、智能分镜、角色与视频生成,跨平台桌面端轻量部署,助力创作者低成本批量产出视觉内容。Toonflow is an open-source AI tool that turns stories and scripts into animated short dramas. Features AI scriptwriting, storyboarding, character and video generation. A cross-platform desktop app for efficient content creation.

multimodalllm-infra
Lightning-AI/litgpt
Python · 2026-07-20 工程化 应用 生产可用 Stars 13610 周增 +7

20+ 高性能 LLM,并附带大规模预训练、微调与部署的 recipes20+ high-performance LLMs with recipes to pretrain, finetune and deploy at scale.

llm-infra
CoplayDev/unity-mcp
C# · 2026-08-07 Agent 智能体 应用 生产可用 Stars 13320 周增 +112

Unity MCP 在 AI 助手与 Unity Editor 之间充当桥梁,让 LLM 具备管理资源、控制场景、编辑脚本以及自动化任务的能力。Unity MCP acts as a bridge between AI assistants and your Unity Editor. Give your LLM tools to manage assets, control scenes, edit scripts, and automate tasks within Unity.

multimodalllm-infra
NVIDIA/TensorRT
C++ · 2026-08-04 LLM 基础设施 生产可用 Stars 13239 周增 +14

NVIDIA® TensorRT™ 是在 NVIDIA GPU 上进行高性能深度学习推理的 SDK。本仓库包含 TensorRT 的开源组件。NVIDIA® TensorRT™ is an SDK for high-performance deep learning inference on NVIDIA GPUs. This repository contains the open source components of TensorRT.

llm-infra
neuml/txtai
Python · 2026-08-11 RAG 检索增强 模型 生产可用 Stars 12863 周增 +56

💡 面向语义搜索、LLM 编排与语言模型工作流的一体化 AI 框架💡 All-in-one AI framework for semantic search, LLM orchestration and language model workflows

agentragdatabasellm-infra
Portkey-AI/gateway
TypeScript · 2026-05-25 安全与风险 应用 生产可用 Stars 12685 周增 +14

超快的 AI Gateway,集成 guardrails。通过一个快速友好的 API 路由到 1,600+ LLM 和 50+ AI Guardrails。A blazing fast AI Gateway with integrated guardrails. Route to 1,600+ LLMs, 50+ AI Guardrails with 1 fast & friendly API.

llm-infra
codexu/note-gen
TypeScript · 2026-08-26 LLM 基础设施 应用 生产可用 Stars 12685 周增 +0

先记录,后整理。一款 local-first 的 Markdown 应用,借助 AI 将零散记录转化为清晰的笔记。Capture first. Organize later. A local-first Markdown app that turns scattered records into clear notes with AI.

agentragllm-infra
The-Pocket/PocketFlow-Tutorial-Codebase-Knowledge
Python · 2026-05-31 Agent 智能体 应用 生产可用 Stars 12612 周增 -7

Pocket Flow:代码库到教程Pocket Flow: Codebase to Tutorial

agentllm-infra
steven2358/awesome-generative-ai
未知语言 · 2026-08-03 工程化 收藏榜 生产可用 Stars 12483 周增 +49

现代生成式 AI 项目与服务的精选清单A curated list of modern Generative Artificial Intelligence projects and services

llm-infra
bentoml/OpenLLM
Python · 2026-08-10 LLM 基础设施 框架 生产可用 Stars 12473 周增 +77

在云端以 OpenAI 兼容 API 端点形式运行任意开源 LLM,例如 DeepSeek 和 Llama。Run any open-source LLMs, such as DeepSeek and Llama, as OpenAI compatible API endpoint in the cloud.

multimodalllm-infraengineering
OpenMOSS/MOSS
Python · 2026-05-27 LLM 基础设施 模型 生产可用 Stars 12211 周增 +7

复旦大学开源的工具增强对话语言模型An open-source tool-augmented conversational language model from Fudan University

llm-infra
dataelement/bisheng
Python · 2026-08-11 Agent 智能体 数据集 生产可用 Stars 11846 周增 +28

BISHENG 是面向下一代企业 AI 应用的开放 LLM devops 平台。强大且全面的功能包括:GenAI workflow、RAG、Agent、统一模型管理、评估、SFT、数据集管理、企业级系统管理、可观测性等。BISHENG is an open LLM devops platform for next generation Enterprise AI applications. Powerful and comprehensive features include: GenAI workflow, RAG, Agent, Unified model management, Evaluation, SFT, Dataset Management, Enterprise-level System Management, Observability and more.

agentragevaluationllm-infra
tensorzero/tensorzero
Rust · 2026-06-11 评测基准 框架 生产可用 Stars 11724 周增 +0

TensorZero 是一个开源 LLMOps 平台,统一了 LLM gateway、可观测性、评估、优化与实验TensorZero is an open-source LLMOps platform that unifies an LLM gateway, observability, evaluation, optimization, and experimentation.

evaluationengineeringllm-infra
LMCache/LMCache
Python · 2026-08-11 LLM 基础设施 应用 生产可用 Stars 11101 周增 +49

LMCache:借助最快的 KV Cache 层为你的 LLM 加速。LMCache: Supercharge Your LLM with the Fastest KV Cache Layer

llm-infra
nidhinjs/prompt-master
未知语言 · 2026-06-10 Agent 智能体 工具 实验 Stars 11101 周增 +21

一个 Claude skill,可为任何 AI 工具撰写精准 prompt。零 token 或额度浪费,完整保留上下文与记忆。A Claude skill that writes the accurate prompts for any AI tool. Zero tokens or credits wasted. Full context and memory retention

llm-infra
The-Pocket/PocketFlow
Python · 2026-07-26 Agent 智能体 框架 生产可用 Stars 11096 周增 +21

Pocket Flow:一个仅 100 行代码的 LLM 框架。让 Agent 构建 Agent!Pocket Flow: 100-line LLM framework. Let Agents build Agents!

agentragllm-infra
Arize-ai/phoenix
Python · 2026-08-11 评测基准 应用 生产可用 Stars 10982 周增 +49

AI 可观测性与评估。AI Observability & Evaluation

agentevaluationllm-infra
aws/amazon-sagemaker-examples
Jupyter Notebook · 2026-07-30 LLM 基础设施 教程 生产可用 Stars 10980 周增 -7

示例 📓 Jupyter notebooks,演示如何使用 🧠 Amazon SageMaker 构建、训练和部署机器学习模型。Example 📓 Jupyter notebooks that demonstrate how to build, train, and deploy machine learning models using 🧠 Amazon SageMaker.

llm-infraengineering
0x4m4/hexstrike-ai
Python · 2026-08-03 Agent 智能体 工具 生产可用 Stars 10936 周增 +119

HexStrike AI MCP Agents 是一个高级 MCP 服务器,让 AI agent(Claude、GPT、Copilot 等)能够自主运行 150+ 网络安全工具,用于自动化渗透测试、漏洞发现、漏洞赏金自动化和安全研究,无缝桥接 LLM 与真实世界的攻击性安全能力。HexStrike AI MCP Agents is an advanced MCP server that lets AI agents (Claude, GPT, Copilot, etc.) autonomously run 150+ cybersecurity tools for automated pentesting, vulnerability discovery, bug bounty automation, and security research. Seamlessly bridge LLMs with real-world offensive security capabilities.

agentriskllm-infra
triton-inference-server/server
Python · 2026-08-10 LLM 基础设施 应用 生产可用 Stars 10913 周增 +14

Triton Inference Server 提供针对云端和边缘推理优化的解决方案。The Triton Inference Server provides an optimized cloud and edge inferencing solution.

llm-infra
microsoft/SkillOpt
Python · 2026-07-02 Agent 智能体 应用 生产可用 Stars 10881 周增 +1386

SkillOpt 是一个文本空间优化器,通过轨迹驱动的编辑、验证门控的更新,以及可部署的 best_skill.md artifact,为冻结的 LLM 智能体训练可复用的自然语言技能。SkillOpt is a text-space optimizer that trains reusable natural-language skills for frozen LLM agents through trajectory-driven edits, validation-gated updates, and deployable best_skill.md artifacts.

agentllm-infra
KalyanKS-NLP/llm-engineer-toolkit
未知语言 · 2026-08-02 工程化 收藏榜 生产可用 Stars 10722 周增 +49

120+ LLM 库的分类精选清单A curated list of 120+ LLM libraries category wise.

llm-infra
openvinotoolkit/openvino
C++ · 2026-08-11 LLM 基础设施 工具 生产可用 Stars 10637 周增 +21

OpenVINO™ 是用于优化和部署 AI 推理的开源工具包OpenVINO™ is an open source toolkit for optimizing and deploying AI inference

multimodalllm-infra
ultralytics/yolov3
Python · 2026-08-02 LLM 基础设施 应用 生产可用 Stars 10591 周增 +14

基于 PyTorch 的 YOLOv3、YOLOv3-SPP 和 YOLOv3-tiny 实时目标检测实现,支持训练、验证、推理与多格式导出。PyTorch implementation of YOLOv3, YOLOv3-SPP, and YOLOv3-tiny for real-time object detection with training, validation, inference, and multi-format export.

multimodalllm-infra
alibaba/open-code-review
Go · 2026-07-16 Agent 智能体 工具 生产可用 Stars 10588 周增 +98

开源免费——历经阿里巴巴规模实战检验。混合架构代码审查工具:确定性流水线 + LLM Agent,精确的逐行注释,内置微调规则集(NPE、线程安全、XSS、SQL 注入),兼容 OpenAI 与 Anthropic。Open-source & free — Battle-tested at Alibaba's scale. Hybrid architecture code review tool: deterministic pipelines + LLM Agent, precise line-level comments, built-in fine-tuned ruleset (NPE, thread-safety, XSS, SQL injection), OpenAI & Anthropic compatible.

agentengineeringdatabaserisk
mcp-use/mcp-use
TypeScript · 2026-08-10 Agent 智能体 框架 生产可用 Stars 10474 周增 +14

全栈 MCP 框架,用于开发面向 ChatGPT / Claude 的 MCP Apps 以及面向 AI Agent 的 MCP Servers。The fullstack MCP framework to develop MCP Apps for ChatGPT / Claude & MCP Servers for AI Agents.

agentllm-infra