Repositories · organized/repo_cards

仓库/Skill 库

1052 个

排序 Stars 周增
clearml/clearml
Python · 2026-08-11 工程化 应用 生产可用 Stars 6816 周增 +14

ClearML —— 以自动化 CI/CD 简化 AI 工作负载。一站式 MLOps/LLMOps 解决方案,涵盖实验管理、数据管理、pipeline、编排、调度与服务。ClearML - Auto-Magical CI/CD to streamline your AI workload. Experiment Management, Data Management, Pipeline, Orchestration, Scheduling & Serving in one MLOps/LLMOps solution

llm-infraengineering
GoogleCloudPlatform/agent-starter-pack
Python · 2026-07-21 Agent 智能体 框架 生产可用 Stars 6534 周增 -7

数分钟内(而非数月)将 AI Agents 部署到 Google Cloud。提供生产就绪模板,内置 CI/CD、评估和可观测性。Ship AI Agents to Google Cloud in minutes, not months. Production-ready templates with built-in CI/CD, evaluation, and observability.

agentevaluationengineeringllm-infra
genkit-ai/genkit
TypeScript · 2026-08-17 Agent 智能体 框架 生产可用 Stars 6342 周增 +0

用于构建 agentic apps 的开源框架,支持 JavaScript、Go、Dart 与 Python,由 Google 在生产环境中构建并使用。Open-source framework for building agentic apps in JavaScript, Go, Dart, and Python, built and used in production by Google

agentragmultimodalengineering
argmaxinc/argmax-oss-swift
Swift · 2026-08-06 多模态 应用 生产可用 Stars 6317 周增 +7

面向 Apple Silicon 的端侧语音 AI。On-device Speech AI for Apple Silicon

llm-infra
WenyuChiou/awesome-agentic-ai-zh
Python · 2026-08-23 Agent 智能体 收藏榜 研究原型 Stars 6258 周增 +645

三语(繁中 / English / 简中)Agentic AI 学习路线图:从 LLM 基础到多 Agent 系统,收录 240+ 精选资源与动手示例。中文 AI agent 學習地圖。A trilingual (繁中 / English / 简中) learning roadmap for agentic AI: from LLM basics to multi-agent systems, with 240+ curated resources and hands-on examples. 中文 AI agent 學習地圖。

agentragllm-infra
kvcache-ai/Mooncake
C++ · 2026-08-11 LLM 基础设施 框架 生产可用 Stars 6231 周增 +56

Mooncake 是 Moonshot AI 旗下领先 LLM 服务 Kimi 的服务平台。Mooncake is the serving platform for Kimi, a leading LLM service provided by Moonshot AI.

llm-infra
Andyyyy64/whichllm
Python · 2026-08-05 评测基准 评测集 生产可用 Stars 6205 周增 +21

找到在你的硬件上真正能跑且性能最优的本地 LLM。排名基于真实且时新的基准测试,而非参数量。一条命令,即刻运行。Find the local LLM that actually runs and performs best on your hardware. Ranked by real, recency-aware benchmarks, not parameter count. One command, run it instantly.

llm-infraevaluation
Eigenwise/atomic-agents
Python · 2026-08-11 Agent 智能体 应用 生产可用 Stars 6160 周增 +28

原子化构建 AI AgentBuilding AI agents, atomically

agentllm-infra
heilcheng/awesome-agent-skills
TypeScript · 2026-04-05 Agent 智能体 收藏榜 研究原型 Stars 6081 周增 +7

教程、指南与 Agent Skill 目录。Tutorials, Guides and Agent Skills Directories

agentllm-infra
Helicone/helicone
TypeScript · 2026-07-25 评测基准 框架 生产可用 Stars 6051 周增 +7

🧊 开源 LLM 可观测性平台,一行代码即可实现监控、评估与实验。YC W23 🍓🧊 Open source LLM observability platform. One line of code to monitor, evaluate, and experiment. YC W23 🍓

agentevaluationllm-infra
vllm-project/vllm-omni
Python · 2026-08-11 LLM 基础设施 模型 生产可用 Stars 6027 周增 +77

面向全模态模型的高效推理框架。A framework for efficient model inference with omni-modality models

multimodalllm-infra
tensorchord/Awesome-LLMOps
Shell · 2026-05-21 LLM 基础设施 收藏榜 生产可用 Stars 5914 周增 +14

为开发者精选的 LLMOps 工具 awesome 列表An awesome & curated list of best LLMOps tools for developers

engineeringllm-infra
Giskard-AI/giskard-oss
Python · 2026-08-10 Agent 智能体 生产可用 Stars 5744 周增 +7

🐢 面向 LLM Agent 的开源评估与测试库🐢 Open-Source Evaluation & Testing library for LLM Agents

agentragevaluationengineering
amazon-science/chronos-forecasting
Python · 2026-07-02 工程化 应用 生产可用 Stars 5695 周增 +35

Chronos:面向时间序列预测的预训练模型Chronos: Pretrained Models for Time Series Forecasting

llm-infra
coze-dev/coze-loop
Go · 2026-08-11 Agent 智能体 框架 生产可用 Stars 5685 周增 +7

下一代 AI Agent 优化平台:Cozeloop 提供从开发、调试、评估到监控的全生命周期管理能力,解决 AI agent 开发中的挑战。Next-generation AI Agent Optimization Platform: Cozeloop addresses challenges in AI agent development by providing full-lifecycle management capabilities from development, debugging, and evaluation to monitoring.

agentevaluationllm-infra
drumih/turbo-fieldfare
Swift · 2026-08-10 LLM 基础设施 应用 研究原型 Stars 5668 周增 +448

Gemma 4 26B-A4B 在任意 M 系列 MacBook 上以约 2 GB 内存进行推理。Gemma 4 26B-A4B inference in ~2 GB of RAM on any M-series MacBook

llm-infra
OpenBMB/UltraRAG
Python · 2026-08-11 Agent 智能体 框架 生产可用 Stars 5668 周增 +0

用于构建复杂创新 RAG 流水线的低代码 MCP 框架A Low-Code MCP Framework for Building Complex and Innovative RAG Pipelines

ragmultimodalllm-infraengineering
ageerle/ruoyi-ai
Java · 2026-08-04 Agent 智能体 框架 生产可用 Stars 5618 周增 +14

用于构建 AI agent 的企业级 AI 开发框架。它提供多 provider LLM 的统一管理、具备高精度检索的安全企业知识库、可视化工作流编排与多 agent 协作。兼容主流 Agent Skill 标准,使开发者能够高效构建生产级 [原文未完整]。An enterprise AI development framework for building AI agents. It provides unified management of multi-provider LLMs, secure enterprise knowledge bases with high-precision retrieval, visual workflow orchestration and multi-agent coordination. Compatible with mainstream Agent Skill standards, it enables developers to efficiently build production-gra

agentragengineeringllm-infra
lonePatient/awesome-pretrained-chinese-nlp-models
Python · 2026-06-19 工程化 收藏榜 生产可用 Stars 5580 周增 +0

Awesome Pretrained Chinese NLP Models,高质量中文预训练模型&大模型&多模态模型&大语言模型集合

llm-infra
zenml-io/zenml
Python · 2026-08-11 Agent 智能体 框架 生产可用 Stars 5551 周增 +0

ZenML 🙏:从 Pipeline 到 Agent 的一站式 AI 平台。https://zenml.ioZenML 🙏: One AI Platform from Pipelines to Agents. https://zenml.io.

agentengineeringllm-infra
fla-org/flash-linear-attention
Python · 2026-08-11 LLM 基础设施 生产可用 Stars 5543 周增 +28

🚀 新兴模型架构的高效实现🚀 Efficient implementations for emerging model architectures

llm-infra
the-open-agent/openagent
Go · 2026-08-07 Agent 智能体 教程 生产可用 Stars 5509 周增 -28

⚡️ 下一代个人 AI 助手,由 LLM、RAG 和 Agent 循环驱动,支持 computer-use、browser-use 和 coding agent,演示地址:https://demo.openagentai.org⚡️next-generation personal AI assistant powered by LLM, RAG and agent loops, supporting computer-use, browser-use and coding agent, demo: https://demo.openagentai.org

agentragllm-infra
gpustack/gpustack
Python · 2026-08-11 LLM 基础设施 模型 生产可用 Stars 5465 周增 +21

用于高性能 AI 模型服务(vLLM、SGLang)和按需 SSH 访问 GPU 实例的 GPU 集群管理器。A GPU cluster manager for high-performance AI model serving (vLLM, SGLang) and on-demand SSH-accessible GPU instances.

llm-infra
opensquilla/opensquilla
Python · 2026-07-03 Agent 智能体 应用 生产可用 Stars 5378 周增 +42

OpenSquilla——token 高效的 AI Agent,同等预算,更高智能密度OpenSquilla — Token-Efficient AI Agent with same budget, higher intelligence density

agentllm-infra
nanbingxyz/5ire
TypeScript · 2026-07-15 Agent 智能体 模型 生产可用 Stars 5337 周增 +14

5ire 是一款跨平台桌面 AI 助手与 MCP 客户端,兼容主流服务提供商,通过 model context protocol server 支持本地知识库与工具调用。5ire is a cross-platform desktop AI assistant, MCP client. It compatible with major service providers, supports local knowledge base and tools via model context protocol servers .

llm-infra
PacktPublishing/LLM-Engineers-Handbook
Python · 2026-04-22 RAG 检索增强 应用 生产可用 Stars 5235 周增 +21

LLM 实战指南:从基础到使用 LLMOps 最佳实践将 LLM 和 RAG 应用部署到 AWSThe LLM's practical guide: From the fundamentals to deploying advanced LLM and RAG apps to AWS using LLMOps best practices

ragevaluationengineeringllm-infra
beclab/Olares
Go · 2026-08-11 Agent 智能体 应用 生产可用 Stars 5206 周增 +0

面向常驻 Agent 的开源个人云操作系统。Open-Source Personal Cloud OS for Always-On Agents

agentllm-infra
tencentmusic/cube-studio
未知语言 · 2026-07-11 LLM 基础设施 框架 生产可用 Stars 5076 周增 -7

cube studio开源云原生一站式机器学习/深度学习/大模型AI平台,mlops算法链路全流程,算力租赁平台,notebook在线开发,拖拉拽任务流pipeline编排,多机多卡分布式训练,超参搜索,推理服务VGPU虚拟化,边缘计算,标注平台自动化标注,deepseek等大模型sft微调/奖励模型/强化学习训练,vllm/ollama/mindie大模型多机推理,私有知识库,AI模型市场,支持国产cpu/gpu/npu 昇腾生态,支持RDMA,支持pytorch/tf/mxnet/deepspeed/paddle/colossalai/horovod/ray/volcano等分布式

llm-infraengineering
camel-ai/oasis
Python · 2026-08-07 Agent 智能体 应用 研究原型 Stars 5018 周增 +35

🏝️ OASIS:基于一百万 Agent 的开放社交交互仿真。🏝️ OASIS: Open Agent Social Interaction Simulations with One Million Agents.

agentllm-infra
rasbt/reasoning-from-scratch
Jupyter Notebook · 2026-08-04 工程化 教程 研究原型 Stars 4951 周增 +14

从零开始一步步用 PyTorch 实现一个推理 LLM。Implement a reasoning LLM in PyTorch from scratch, step by step

llm-infra
vitali87/code-graph-rag
Python · 2026-08-22 RAG 检索增强 应用 研究原型 Stars 4779 周增 +441

面向 monorepo 的终极 RAG。借助 AI 与知识图谱的能力,对多语言代码库进行查询、理解与编辑。The ultimate RAG for your monorepo. Query, understand, and edit multi-language codebases with the power of AI and knowledge graphs

ragdatabasellm-infra
FareedKhan-dev/kimi-k3-in-c
C · 2026-08-07 LLM 基础设施 框架 研究原型 Stars 4709 周增 +889

一个 2.78 万亿参数的 Kimi K3,在仅 8.24 GB 内存的单颗 CPU 上运行推理。可移植的 C99:无需 BLAS,无需框架,无需 GPU。A 2.78-trillion-parameter Kimi K3 running inference on a single CPU in 8.24 GB of RAM. Portable C99: no BLAS, no framework, no GPU.

llm-infra
OpenNMT/CTranslate2
C++ · 2026-08-05 LLM 基础设施 应用 研究原型 Stars 4617 周增 +7

Transformer 模型的高速推理引擎。Fast inference engine for Transformer models

llm-infra
luban-agi/Awesome-AIGC-Tutorials
未知语言 · 2024-03-31 LLM 基础设施 收藏榜 生产可用 Stars 4531 周增 -7

精选的 LLM、AI 绘画等领域的教程和资源。Curated tutorials and resources for Large Language Models, AI Painting, and more.

multimodalllm-infra
opendilab/awesome-RLHF
未知语言 · 2026-05-20 工程化 收藏榜 研究原型 Stars 4421 周增 +0

RLHF 精选资源列表(持续更新)。A curated list of reinforcement learning with human feedback resources (continually updated)

llm-infra
openvinotoolkit/open_model_zoo
Python · 2026-07-09 LLM 基础设施 模型 研究原型 Stars 4415 周增 +7

高质量且极速的预训练深度学习模型与 demo。Pre-trained Deep Learning models and demos (high quality and extremely fast)

llm-infra