Repositories · organized/repo_cards

仓库/Skill 库

487 个 · 应用 · AI 核心

排序 Stars 周增
Eigenwise/atomic-agents
Python · 2026-08-11 Agent 智能体 应用 生产可用 Stars 6160 周增 +28

原子化构建 AI AgentBuilding AI agents, atomically

agentllm-infra
microsoft/agent-governance-toolkit
Python · 2026-08-12 Agent 智能体 应用 生产可用 Stars 5892 周增 +0

AI Agent 治理工具包 —— 提供策略执行、零信任身份、运行沙箱与可靠性工程,覆盖 OWASP Agentic Top 10 全部 10 项。AI Agent Governance Toolkit — Policy enforcement, zero-trust identity, execution sandboxing, and reliability engineering for autonomous AI agents. Covers 10/10 OWASP Agentic Top 10.

agentrisk
amazon-science/chronos-forecasting
Python · 2026-07-02 工程化 应用 生产可用 Stars 5695 周增 +35

Chronos:面向时间序列预测的预训练模型Chronos: Pretrained Models for Time Series Forecasting

llm-infra
PacktPublishing/LLM-Engineers-Handbook
Python · 2026-04-22 RAG 检索增强 应用 生产可用 Stars 5235 周增 +21

LLM 实战指南:从基础到使用 LLMOps 最佳实践将 LLM 和 RAG 应用部署到 AWSThe LLM's practical guide: From the fundamentals to deploying advanced LLM and RAG apps to AWS using LLMOps best practices

ragevaluationengineeringllm-infra
beclab/Olares
Go · 2026-08-11 Agent 智能体 应用 生产可用 Stars 5206 周增 +0

面向常驻 Agent 的开源个人云操作系统。Open-Source Personal Cloud OS for Always-On Agents

agentllm-infra
camel-ai/oasis
Python · 2026-08-07 Agent 智能体 应用 研究原型 Stars 5018 周增 +35

🏝️ OASIS:基于一百万 Agent 的开放社交交互仿真。🏝️ OASIS: Open Agent Social Interaction Simulations with One Million Agents.

agentllm-infra
OpenNMT/CTranslate2
C++ · 2026-08-05 LLM 基础设施 应用 研究原型 Stars 4617 周增 +7

Transformer 模型的高速推理引擎。Fast inference engine for Transformer models

llm-infra
gptme/gptme
Python · 2026-08-11 Agent 智能体 应用 研究原型 Stars 4381 周增 +0

终端中的 Agent,配备本地工具:编写代码、使用终端、浏览网页。在其之上构建你自己的持久化自主 Agent。Your agent in your terminal, equipped with local tools: writes code, uses the terminal, browses the web. Make your own persistent autonomous agent on top!

agentragllm-infra
decodingai-magazine/llm-twin-course
Python · 2026-04-20 RAG 检索增强 应用 研究原型 Stars 4372 周增 -7

免费学习如何使用 LLMOps 最佳实践构建端到端生产级 LLM & RAG 系统:源码 + 12 个实操课程。🤖 𝗟𝗲𝗮𝗿𝗻 for 𝗳𝗿𝗲𝗲 how to 𝗯𝘂𝗶𝗹𝗱 an end-to-end 𝗽𝗿𝗼𝗱𝘂𝗰𝘁𝗶𝗼𝗻-𝗿𝗲𝗮𝗱𝘆 𝗟𝗟𝗠 & 𝗥𝗔𝗚 𝘀𝘆𝘀𝘁𝗲𝗺 using 𝗟𝗟𝗠𝗢𝗽𝘀 best practices: ~ 𝘴𝘰𝘶𝘳𝘤𝘦 𝘤𝘰𝘥𝘦 + 12 𝘩𝘢𝘯𝘥𝘴-𝘰𝘯 𝘭𝘦𝘴𝘴𝘰𝘯𝘴

ragengineeringllm-infra
Nasiko-Labs/nasiko
Rust · 2026-08-11 Agent 智能体 应用 研究原型 Stars 4368 周增 +0

面向 AI Agent 的开发者控制平面Developer Control Plane for your AI Agents

agentriskllm-infra
WeThinkIn/AIGC-Interview-Book
未知语言 · 2026-08-11 Agent 智能体 应用 研究原型 Stars 4304 周增 +63

【三年面试五年模拟】AIGC/LLM/AI Agent算法工程师面试秘籍。涵盖AIGC、LLM大模型、AI Agent、具身智能、传统深度学习、自动驾驶、机器学习、计算机视觉、自然语言处理、强化学习、大数据挖掘、世界模型、元宇宙、AGI等AI行业面试笔试干货经验与核心知识。

agentmultimodalllm-infra
algorithmicsuperintelligence/optillm
Python · 2026-07-18 LLM 基础设施 应用 研究原型 Stars 4236 周增 +7

为 LLM 优化推理代理Optimizing inference proxy for LLMs

agentllm-infra
llm-d/llm-d
Shell · 2026-08-11 工程化 应用 研究原型 Stars 4007 周增 +14

在 Kubernetes 上借助现代加速器实现 SOTA 推理性能。Achieve state of the art inference performance with modern accelerators on Kubernetes

llm-infra
predibase/lorax
Python · 2026-05-28 工程化 应用 研究原型 Stars 3823 周增 +0

可扩展至上千个微调 LLM 的 Multi-LoRA 推理服务器Multi-LoRA inference server that scales to 1000s of fine-tuned LLMs

llm-infra
memodb-io/Acontext
JavaScript · 2026-07-14 Agent 智能体 应用 研究原型 Stars 3665 周增 +7

作为记忆层的 Agent SkillsAgent Skills as a Memory Layer

agentllm-infra
RUC-NLPIR/FlashRAG
Python · 2026-07-19 RAG 检索增强 应用 研究原型 Stars 3529 周增 +14

⚡FlashRAG:面向高效 RAG 研究的 Python 工具包(WWW2025 Resource)⚡FlashRAG: A Python Toolkit for Efficient RAG Research (WWW2025 Resource)

ragevaluationllm-infra
truera/trulens
Python · 2026-08-10 Agent 智能体 应用 研究原型 Stars 3499 周增 +7

面向 LLM 实验和 AI Agent 的评估与追踪Evaluation and Tracking for LLM Experiments and AI Agents

agentevaluationllm-infra
agentscope-ai/ReMe
Python · 2026-08-12 Agent 智能体 应用 研究原型 Stars 3301 周增 +0

ReMe:面向 Agent 的记忆管理工具包——Remember Me, Refine Me.ReMe: Memory Management Kit for Agents - Remember Me, Refine Me.

agentrag
lackeyjb/playwright-skill
JavaScript · 2026-08-11 Agent 智能体 应用 研究原型 Stars 3013 周增 +0

面向编码 Agent 的通用 Playwright 自动化。General-purpose Playwright automation for coding agents

agent
pytorch/ao
Python · 2026-08-10 LLM 基础设施 应用 研究原型 Stars 2936 周增 +14

PyTorch 原生的量化和稀疏化方案,支持训练与推理PyTorch native quantization and sparsity for training and inference

llm-infra
decodingai-magazine/second-brain-ai-assistant-course
Jupyter Notebook · 2026-04-06 Agent 智能体 应用 研究原型 Stars 2877 周增 +21

学习使用 LLM、agent、RAG、微调、LLMOps 和 AI 系统技术构建你的 Second Brain AI 助手。Learn to build your Second Brain AI assistant with LLMs, agents, RAG, fine-tuning, LLMOps and AI systems techniques.

agentragengineeringllm-infra
skyhook-io/radar
Go · 2026-08-11 Agent 智能体 应用 研究原型 Stars 2838 周增 +98

缺失的开源 Kubernetes UI,内置 MCP 服务器,面向 AI Agent。可查看故障、原因及变更。Issues、Topology、事件时间线、Helm、GitOps、实时服务流量和集群审计——全部打包在一个 Go 二进制文件中。The missing open-source Kubernetes UI with a built-in MCP server for AI agents. See what's broken, why, and what changed. Issues, Topology, event timeline, Helm, GitOps, live service traffic, and cluster audits - all in one Go binary.

agent
superlinked/sie
Python · 2026-08-10 Agent 智能体 应用 研究原型 Stars 2757 周增 +175

开源推理服务器与生产级集群,支持 Agent 所需的全部模型Open-source inference server and production cluster for all the models your agent needs.

agentragllm-infraengineering
vllm-project/vllm-ascend
C++ · 2026-08-11 LLM 基础设施 应用 研究原型 Stars 2600 周增 +49

为 vLLM 在 Ascend 上的社区维护硬件插件Community maintained hardware plugin for vLLM on Ascend

llm-infraengineering
apache/burr
Python · 2026-08-09 Agent 智能体 应用 研究原型 Stars 2506 周增 +0

构建可自主决策的应用(chatbot、agent、simulation 等)。支持在你的基础设施上进行监控、追踪、持久化与执行。Build applications that make decisions (chatbots, agents, simulations, etc...). Monitor, trace, persist, and execute on your own infrastructure.

agentengineeringllm-infra
pykeio/ort
Rust · 2026-08-08 LLM 基础设施 应用 研究原型 Stars 2443 周增 +14

基于 Rust 的 ONNX 模型快速 ML 推理与训练Fast ML inference & training for ONNX models in Rust

llm-infra
google/XNNPACK
C · 2026-08-10 LLM 基础设施 应用 研究原型 Stars 2421 周增 -7

高效的浮点神经网络推理算子,覆盖移动端、服务端和 WebHigh-efficiency floating-point neural network inference operators for mobile, server, and Web

llm-infra
roboflow/inference
Python · 2026-08-10 LLM 基础设施 应用 研究原型 Stars 2411 周增 +7

将任意电脑或边缘设备打造为计算机视觉项目的指挥中心Turn any computer or edge device into a command center for your computer vision projects.

agentmultimodalllm-infraengineering
bionic-gpt/bionic-gpt
Rust · 2026-08-03 LLM 基础设施 应用 研究原型 Stars 2349 周增 +7

Bionic 是 ChatGPT 的本地化部署替代方案,在保持严格数据机密性的同时提供生成式 AI 的能力Bionic is an on-premise replacement for ChatGPT, offering the advantages of Generative AI while maintaining strict data confidentiality

llm-infra
tensorchord/envd
Go · 2026-07-25 Agent 智能体 应用 研究原型 Stars 2219 周增 +0

🏕️ 为开发者和 Agent 提供可复现的开发环境🏕️ Reproducible development environment for humans and agents

agentllm-infraengineering
dstackai/dstack
Python · 2026-08-11 工程化 应用 研究原型 Stars 2210 周增 +7

厂商无关的训练、推理与 Agent 负载编排,覆盖 NVIDIA、AMD、TPU 和 Tenstorrent,部署在云端、Kubernetes 和裸金属环境上Vendor-agnostic orchestration for training, inference and agentic workloads across NVIDIA, AMD, TPU, and Tenstorrent on clouds, Kubernetes, and bare metal.

agentllm-infra
mcp-router/mcp-router
TypeScript · 2026-08-03 Agent 智能体 应用 研究原型 Stars 2120 周增 +7

统一管理 MCP Server 的应用(MCP Manager)。A Unified MCP Server Management App (MCP Manager).

llm-infra
onestardao/WFGY
Jupyter Notebook · 2026-08-15 Agent 智能体 应用 研究原型 Stars 1778 周增 +0

WFGY 正迈向 WFGY 5.0 Polaris Protocol,面向 AI reasoning、RAG、agents 与真实工作流的重要开源版本,包含 Problem Map、Global Debug Card、WFGY 4.0 与 CFV Easter EggWFGY is heading toward WFGY 5.0 Polaris Protocol, a major open-source release for AI reasoning, RAG, agents, and real-world workflows. Includes Problem Map, Global Debug Card, WFGY 4.0, and the CFV Easter Egg.

agentragevaluationrisk
beam-cloud/beta9
Go · 2026-08-18 LLM 基础设施 应用 研究原型 Stars 1746 周增 +0

超快速 serverless GPU 推理、沙箱和后台任务Ultrafast serverless GPU inference, sandboxes, and background jobs

llm-infra
trymirai/uzu
Rust · 2026-08-10 LLM 基础设施 应用 研究原型 Stars 1670 周增 +0

高性能 AI 模型推理引擎A high-performance inference engine for AI models

llm-infra
langwatch/better-agents
TypeScript · 2026-06-03 Agent 智能体 应用 研究原型 Stars 1553 周增 +0

构建 Agent 的更高标准Standards for building agents, better

agentllm-infra