Repositories · organized/repo_cards

仓库/Skill 库

1052 个

排序 Stars 周增
typedb/typedb
Rust · 2026-08-10 数据与向量库 框架 研究原型 Stars 4408 周增 +7

TypeDB:为系统而生,而非为记录而生。TypeDB: Built for systems, not records

llm-infradatabase
gptme/gptme
Python · 2026-08-11 Agent 智能体 应用 研究原型 Stars 4381 周增 +0

终端中的 Agent,配备本地工具:编写代码、使用终端、浏览网页。在其之上构建你自己的持久化自主 Agent。Your agent in your terminal, equipped with local tools: writes code, uses the terminal, browses the web. Make your own persistent autonomous agent on top!

agentragllm-infra
decodingai-magazine/llm-twin-course
Python · 2026-04-20 RAG 检索增强 应用 研究原型 Stars 4372 周增 -7

免费学习如何使用 LLMOps 最佳实践构建端到端生产级 LLM & RAG 系统:源码 + 12 个实操课程。🤖 𝗟𝗲𝗮𝗿𝗻 for 𝗳𝗿𝗲𝗲 how to 𝗯𝘂𝗶𝗹𝗱 an end-to-end 𝗽𝗿𝗼𝗱𝘂𝗰𝘁𝗶𝗼𝗻-𝗿𝗲𝗮𝗱𝘆 𝗟𝗟𝗠 & 𝗥𝗔𝗚 𝘀𝘆𝘀𝘁𝗲𝗺 using 𝗟𝗟𝗠𝗢𝗽𝘀 best practices: ~ 𝘴𝘰𝘶𝘳𝘤𝘦 𝘤𝘰𝘥𝘦 + 12 𝘩𝘢𝘯𝘥𝘴-𝘰𝘯 𝘭𝘦𝘴𝘴𝘰𝘯𝘴

ragengineeringllm-infra
Nasiko-Labs/nasiko
Rust · 2026-08-11 Agent 智能体 应用 研究原型 Stars 4368 周增 +0

面向 AI Agent 的开发者控制平面Developer Control Plane for your AI Agents

agentriskllm-infra
EvolvingLMMs-Lab/lmms-eval
Python · 2026-08-06 多模态 工具 研究原型 Stars 4355 周增 +7

一个覆盖文本、图像、视频与音频任务的统一多模态评估工具包。One-for-All Multimodal Evaluation Toolkit Across Text, Image, Video, and Audio Tasks

multimodalevaluationllm-infra
open-compass/VLMEvalKit
Python · 2026-08-17 评测基准 评测集 研究原型 Stars 4345 周增 +9

大型多模态模型 LMM 的开源评估工具包,支持 220+ LMM 与 80+ 基准测试。Open-source evaluation toolkit of large multi-modality models (LMMs), support 220+ LMMs, 80+ benchmarks

multimodalevaluationllm-infra
homeassistant-ai/ha-mcp
Python · 2026-08-10 Agent 智能体 收藏榜 研究原型 Stars 4340 周增 +63

非官方的、极好的 Home Assistant MCP Server。The Unofficial and Awesome Home Assistant MCP Server

llm-infra
WeThinkIn/AIGC-Interview-Book
未知语言 · 2026-08-11 Agent 智能体 应用 研究原型 Stars 4304 周增 +63

【三年面试五年模拟】AIGC/LLM/AI Agent算法工程师面试秘籍。涵盖AIGC、LLM大模型、AI Agent、具身智能、传统深度学习、自动驾驶、机器学习、计算机视觉、自然语言处理、强化学习、大数据挖掘、世界模型、元宇宙、AGI等AI行业面试笔试干货经验与核心知识。

agentmultimodalllm-infra
Agenta-AI/agenta
TypeScript · 2026-07-18 评测基准 框架 研究原型 Stars 4303 周增 +21

开源 LLMOps 平台:集成 prompt playground、prompt 管理、LLM 评估和 LLM 可观测性。The open-source LLMOps platform: prompt playground, prompt management, LLM evaluation, and LLM observability all in one place.

agentragevaluationllm-infra
IBM/mcp-context-forge
Python · 2026-08-11 Agent 智能体 工具 研究原型 Stars 4296 周增 +14

一款 AI Gateway、registry 与 proxy,置于任意 MCP、A2A 或 REST/gRPC API 之前,提供统一端点,具备集中化发现、guardrails 与管理能力。优化 Agent 与工具调用,并支持插件。An AI Gateway, registry, and proxy that sits in front of any MCP, A2A, or REST/gRPC APIs, exposing a unified endpoint with centralized discovery, guardrails and management. Optimizes Agent & Tool calling, and supports plugins.

agentllm-infra
algorithmicsuperintelligence/optillm
Python · 2026-07-18 LLM 基础设施 应用 研究原型 Stars 4236 周增 +7

为 LLM 优化推理代理Optimizing inference proxy for LLMs

agentllm-infra
OpenCSGs/csghub
Vue · 2026-08-10 Agent 智能体 数据集 研究原型 Stars 4181 周增 -7

CSGHub 是 OpenCSG 团队开发的全新开源 LLM 管理平台,提供开源与本地化/SaaS 解决方案,功能对标 Hugging Face。兼容 Hugging Face Python SDK,全面掌控 LLM、数据集和 agent 的全生命周期。CSGHub is a brand-new open-source platform for managing LLMs, developed by the OpenCSG team. It offers both open-source and on-premise/SaaS solutions, with features comparable to Hugging Face. Gain full control over the lifecycle of LLMs, datasets, and agents, with Python SDK compatibility with Hugging Face. Join us! ⭐️

agentllm-infra
NVIDIA/GenerativeAIExamples
Jupyter Notebook · 2026-08-05 LLM 基础设施 框架 生产可用 Stars 4144 周增 +14

针对加速基础设施和微服务架构优化的生成式 AI 参考工作流。Generative AI reference workflows optimized for accelerated infrastructure and microservice architecture.

ragllm-infra
llm-d/llm-d
Shell · 2026-08-11 工程化 应用 研究原型 Stars 4007 周增 +14

在 Kubernetes 上借助现代加速器实现 SOTA 推理性能。Achieve state of the art inference performance with modern accelerators on Kubernetes

llm-infra
billmei/every-chatgpt-gui
未知语言 · 2026-07-23 LLM 基础设施 收藏榜 生产可用 Stars 3997 周增 +0

ChatGPT、Claude 等 LLM 的所有前端 GUI 客户端汇总。Every front-end GUI client for ChatGPT, Claude, and other LLMs

llm-infra
zml/zml
Zig · 2026-08-03 LLM 基础设施 框架 研究原型 Stars 3972 周增 +7

任意模型,任意硬件,零妥协。基于 @ziglang / @openxla / MLIR / @bazelbuild 构建。Any model. Any hardware. Zero compromise. Built with @ziglang / @openxla / MLIR / @bazelbuild

llm-infra
hao-ai-lab/FastVideo
Python · 2026-08-11 工程化 框架 研究原型 Stars 3936 周增 +7

用于加速视频生成的统一推理与后训练框架。A unified inference and post-training framework for accelerated video generation.

multimodalllm-infra
IvanMurzak/Unity-MCP
C# · 2026-08-10 Agent 智能体 工具 研究原型 Stars 3859 周增 +91

面向 Unity Engine 的 AI Skills、MCP Tools 与 CLI,覆盖完整的 AI 开发与测试闭环。使用 CLI 快速搭建,高效利用 token,工具功能强大。任意 C# 方法仅需一行即可转换为工具。兼容 Claude Code、Gemini、Copilot、Cursor 及其他任意客户端,完全免费。AI Skills, MCP Tools, and CLI for Unity Engine. Full AI develop and test loop. Use cli for quick setup. Efficient token usage, advanced tools. Any C# method may be turned into a tool by a single line. Works with Claude Code, Gemini, Copilot, Cursor and any other absolutely for free.

llm-infra
predibase/lorax
Python · 2026-05-28 工程化 应用 研究原型 Stars 3823 周增 +0

可扩展至上千个微调 LLM 的 Multi-LoRA 推理服务器Multi-LoRA inference server that scales to 1000s of fine-tuned LLMs

llm-infra
PaddlePaddle/FastDeploy
Python · 2026-08-10 多模态 工具 研究原型 Stars 3703 周增 +7

基于 PaddlePaddle 的高性能 LLM 与 VLM 推理部署工具包。High-performance Inference and Deployment Toolkit for LLMs and VLMs based on PaddlePaddle

llm-infraengineering
memodb-io/Acontext
JavaScript · 2026-07-14 Agent 智能体 应用 研究原型 Stars 3665 周增 +7

作为记忆层的 Agent SkillsAgent Skills as a Memory Layer

agentllm-infra
RUC-NLPIR/FlashRAG
Python · 2026-07-19 RAG 检索增强 应用 研究原型 Stars 3529 周增 +14

⚡FlashRAG:面向高效 RAG 研究的 Python 工具包(WWW2025 Resource)⚡FlashRAG: A Python Toolkit for Efficient RAG Research (WWW2025 Resource)

ragevaluationllm-infra
truera/trulens
Python · 2026-08-10 Agent 智能体 应用 研究原型 Stars 3499 周增 +7

面向 LLM 实验和 AI Agent 的评估与追踪Evaluation and Tracking for LLM Experiments and AI Agents

agentevaluationllm-infra
langwatch/langwatch
TypeScript · 2026-08-10 Agent 智能体 框架 研究原型 Stars 3486 周增 +7

面向 LLM 评估和 AI agent 测试的平台The platform for LLM evaluations and AI agent testing

agentevaluationllm-infra
huggingface/optimum
Python · 2026-08-10 LLM 基础设施 工具 研究原型 Stars 3457 周增 +7

🚀 通过易用的硬件优化工具,加速 🤗 Transformers、Diffusers、TIMM 和 Sentence Transformers 的推理与训练。🚀 Accelerate inference and training of 🤗 Transformers, Diffusers, TIMM and Sentence Transformers with easy to use hardware optimization tools

llm-infra
raullenchai/Rapid-MLX
Python · 2026-08-11 LLM 基础设施 框架 研究原型 Stars 3433 周增 +21

Apple Silicon 上最快的本地 AI 引擎。比 Ollama 快 4.2 倍,缓存 TTFT 仅 0.08s,工具调用支持率 100%。内置 17 种工具解析器、prompt cache、推理分离、云端路由。可作为 OpenAI 的即插即用替代,兼容 Claude Code、Cursor、Aider。The fastest local AI engine for Apple Silicon. 4.2x faster than Ollama, 0.08s cached TTFT, 100% tool calling. 17 tool parsers, prompt cache, reasoning separation, cloud routing. Drop-in OpenAI replacement. Works with Claude Code, Cursor, Aider.

llm-infra
DSXiangLi/DecryptPrompt
未知语言 · 2026-05-06 LLM 基础设施 收藏榜 生产可用 Stars 3432 周增 +7

总结Prompt&LLM论文,开源数据&模型,AIGC应用

agentllm-infra
strukto-ai/mirage
TypeScript · 2026-07-03 Agent 智能体 应用 研究原型 Stars 3274 周增 -7

面向 AI Agents 的统一虚拟文件系统。A Unified Virtual Filesystem For AI Agents

agentllm-infra
pezzolabs/pezzo
TypeScript · 2026-07-29 工程化 工具 生产可用 Stars 3262 周增 +0

🕹️ 一个面向开发者的开源 LLMOps 平台,旨在简化 prompt 设计、版本管理、即时交付、协作、排障与可观测性等全流程。🕹️ Open-source, developer-first LLMOps platform designed to streamline prompt design, version management, instant delivery, collaboration, troubleshooting, observability and more.

llm-infra
inkeep/open-knowledge
TypeScript · 2026-08-01 RAG 检索增强 应用 实验 Stars 3239 周增 +28

漂亮的、AI 原生的 markdown IDE 与 LLM 知识库。Beautiful, AI-native markdown IDE and LLM wiki

agentllm-infra
modelscope/evalscope
Python · 2026-08-10 评测基准 评测集 研究原型 Stars 3218 周增 -7

一个精简且可定制的高效大模型(LLM、VLM、AIGC)评估与性能基准测试框架。A streamlined and customizable framework for efficient large model (LLM, VLM, AIGC) evaluation and performance benchmarking.

ragevaluationllm-infra
Josh-XT/AGiXT
Python · 2026-07-28 Agent 智能体 框架 研究原型 Stars 3209 周增 +0

AGiXT 是一个动态 AI Agent 自动化平台,无缝编排跨多个 AI provider 的指令管理和复杂任务执行,结合自适应记忆、智能特性与可扩展插件系统,提供高效全面的 AI 解决方案。AGiXT is a dynamic AI Agent Automation Platform that seamlessly orchestrates instruction management and complex task execution across diverse AI providers. Combining adaptive memory, smart features, and a versatile plugin system, AGiXT delivers efficient and comprehensive AI solutions.

agentllm-infra
protectai/llm-guard
Python · 2026-07-08 安全与风险 工具 生产可用 Stars 3201 周增 +0

LLM 交互的安全工具包The Security Toolkit for LLM Interactions

riskllm-infra
openvinotoolkit/openvino_notebooks
Jupyter Notebook · 2026-08-10 LLM 基础设施 教程 研究原型 Stars 3195 周增 +0

📚 OpenVINO™ 的 Jupyter notebook 教程。📚 Jupyter notebook tutorials for OpenVINO™

multimodalllm-infra
lmnr-ai/lmnr
TypeScript · 2026-08-10 Agent 智能体 框架 研究原型 Stars 3159 周增 +21

Laminar —— 专为 AI agent 打造的开源可观测性平台,YC S24。Laminar - open-source observability platform purpose-built for AI agents. YC S24.

agentevaluationllm-infra
synthetic-sciences/openscience
TypeScript · 2026-08-10 Agent 智能体 工具 研究原型 Stars 3147 周增 +98

面向科学研究场景的开源 AI 工作台。The open-source AI workbench for scientific research

agentllm-infra