Repositories · organized/repo_cards

仓库/Skill 库

58 个 · 库 · AI 核心

排序 Stars 周增
ggml-org/whisper.cpp
C++ · 2026-08-07 多模态 生产可用 Stars 52799 周增 +70

OpenAI Whisper 模型的 C/C++ 移植版本。Port of OpenAI's Whisper model in C/C++

llm-infra
milvus-io/milvus
Go · 2026-08-24 数据与向量库 生产可用 Stars 45770 周增 +86

Milvus 是一款高性能、云原生的向量数据库,专为可扩展的向量 ANN 搜索而构建。Milvus is a high-performance, cloud-native vector database built for scalable vector ANN search

ragmultimodaldatabasellm-infra
deepspeedai/DeepSpeed
Python · 2026-08-11 LLM 基础设施 生产可用 Stars 42900 周增 +28

DeepSpeed 是一个深度学习优化库,使分布式训练和推理变得简单、高效且有效。DeepSpeed is a deep learning optimization library that makes distributed training and inference easy, efficient, and effective.

llm-infraengineering
nanocoai/nanoclaw
TypeScript · 2026-08-10 Agent 智能体 生产可用 Stars 30486 周增 +21

OpenClaw 的轻量级替代方案,在容器中运行以保障安全。可连接 WhatsApp、Telegram、Slack、Discord、Gmail 等消息应用,具备 memory、定时任务能力,直接基于 Anthropic Agents SDK 运行。A lightweight alternative to OpenClaw that runs in containers for security. Connects to WhatsApp, Telegram, Slack, Discord, Gmail and other messaging apps,, has memory, scheduled jobs, and runs directly on Anthropic's Agents SDK

agentrisk
JaidedAI/EasyOCR
Python · 2025-12-05 多模态 生产可用 Stars 29861 周增 +0

开箱即用的 OCR,支持 80+ 种语言及所有主流书写系统,包括拉丁文、中文、阿拉伯文、天城文、西里尔文等。Ready-to-use OCR with 80+ supported languages and all popular writing scripts including Latin, Chinese, Arabic, Devanagari, Cyrillic and etc.

ragmultimodal
NirDiamant/RAG_Techniques
Jupyter Notebook · 2026-07-31 RAG 检索增强 生产可用 Stars 29013 周增 +21

该仓库展示了多种面向 Retrieval-Augmented Generation (RAG) 系统的高级技术,每个技术均配有详细的 notebook 教程。This repository showcases various advanced techniques for Retrieval-Augmented Generation (RAG) systems. Each technique has a detailed notebook tutorial.

agentragdatabasellm-infra
facebookresearch/fastText
HTML · 2024-03-22 LLM 基础设施 生产可用 Stars 26547 周增 +0

用于快速文本表示与分类的库。Library for fast text representation and classification.

volcengine/OpenViking
Python · 2026-06-29 Agent 智能体 生产可用 Stars 26172 周增 +0

OpenViking 是专为 AI Agent(如 openclaw)设计的开源上下文数据库,以文件系统范式统一管理 Agent 所需的上下文(memory、资源与 Skill),支持分层上下文交付与自我演进。OpenViking is an open-source context database designed specifically for AI Agents(such as openclaw). OpenViking unifies the management of context (memory, resources, and skills) that Agents need through a file system paradigm, enabling hierarchical context delivery and self-evolving.

agentragdatabasellm-infra
vercel/ai
TypeScript · 2026-08-11 Agent 智能体 生产可用 Stars 26121 周增 +42

TypeScript 的 AI 工具包。由 Next.js 创作者打造,AI SDK 是一个免费开源库,用于构建 AI 驱动的应用和 Agent。The AI Toolkit for TypeScript. From the creators of Next.js, the AI SDK is a free open-source library for building AI-powered applications and agents

agentllm-infra
dottxt-ai/outlines
Python · 2026-08-11 LLM 基础设施 生产可用 Stars 15565 周增 +35

结构化输出(Structured Outputs)Structured Outputs

llm-infra
ggml-org/ggml
C++ · 2026-08-07 LLM 基础设施 生产可用 Stars 15147 周增 +14

面向机器学习的 Tensor 库Tensor library for machine learning

llm-infra
gvergnaud/ts-pattern
TypeScript · 2026-08-10 LLM 基础设施 生产可用 Stars 15120 周增 +14

🎨 TypeScript 的穷尽式 Pattern Matching 库,具备智能类型推断。🎨 The exhaustive Pattern Matching library for TypeScript, with smart type inference.

llm-infra
NVIDIA/TensorRT
C++ · 2026-08-04 LLM 基础设施 生产可用 Stars 13239 周增 +14

NVIDIA® TensorRT™ 是在 NVIDIA GPU 上进行高性能深度学习推理的 SDK。本仓库包含 TensorRT 的开源组件。NVIDIA® TensorRT™ is an SDK for high-performance deep learning inference on NVIDIA GPUs. This repository contains the open source components of TensorRT.

llm-infra
RunanywhereAI/runanywhere-sdks
C++ · 2026-08-11 LLM 基础设施 生产可用 Stars 10301 周增 -7

用于本地运行 AI 的生产就绪工具包。Production ready toolkit to run AI locally

multimodalllm-infraengineering
traceloop/openllmetry
Python · 2026-08-10 LLM 基础设施 生产可用 Stars 7367 周增 +7

基于 OpenTelemetry,为你的 GenAI 或 LLM 应用提供开源可观测性。Open-source observability for your GenAI or LLM application, based on OpenTelemetry

llm-infra
datajuicer/data-juicer
Python · 2026-08-11 LLM 基础设施 生产可用 Stars 6865 周增 +56

面向并利用基础模型的数据处理!🍎 🍋 🌽 ➡️ ➡️🍸 🍹 🍷Data processing for and with foundation models! 🍎 🍋 🌽 ➡️ ➡️🍸 🍹 🍷

engineeringllm-infra
Giskard-AI/giskard-oss
Python · 2026-08-10 Agent 智能体 生产可用 Stars 5744 周增 +7

🐢 面向 LLM Agent 的开源评估与测试库🐢 Open-Source Evaluation & Testing library for LLM Agents

agentragevaluationengineering
fla-org/flash-linear-attention
Python · 2026-08-11 LLM 基础设施 生产可用 Stars 5543 周增 +28

🚀 新兴模型架构的高效实现🚀 Efficient implementations for emerging model architectures

llm-infra
huggingface/huggingface.js
TypeScript · 2026-08-10 LLM 基础设施 研究原型 Stars 2487 周增 -7

在 JavaScript 中使用 Hugging FaceUse Hugging Face with JavaScript

llm-infra
mozilla-ai/any-llm
Python · 2026-08-10 LLM 基础设施 研究原型 Stars 2150 周增 +0

通过统一接口对接 LLM 服务商Communicate with an LLM provider using a single interface

llm-infra
supervc-stack/VectorChord
Rust · 2026-08-06 数据与向量库 研究原型 Stars 1767 周增 +0

在 Postgres 中可扩展、快速且节省磁盘的向量搜索,pgvecto.rs 的继任者。Scalable, fast, and disk-friendly vector search in Postgres, the successor of pgvecto.rs.

databasellm-infra
vndee/llm-sandbox
Python · 2026-08-23 LLM 基础设施 生产可用 Stars 1110 周增 +0

轻量、可移植的 LLM 沙箱运行时(代码解释器)Python 库。Lightweight and portable LLM sandbox runtime (code interpreter) Python library.

llm-infra
xberg-io/html-to-markdown
HTML · 2026-08-23 工程化 生产可用 Stars 854 周增 +0

高性能且兼容 CommonMark 的 HTML 转 Markdown 转换器。由 Kreuzberg 团队维护。Kreuzberg 是一个以 Rust 为核心的快速多语言文档智能引擎,基于流式解析器与内置 OCR,支持从 98+ 文档格式中抽取结构化数据。High performance and CommonMark compliant HTML to Markdown converter. Maintained by the Kreuzberg team. Kreuzberg is a fast, polyglot document intelligence engine with a Rust core. It extracts structured data from 98+ document formats using streaming parsers and built-in OCR.

rag
lycohana/BiliSum
Python · 2026-08-15 多模态 研究原型 Stars 471 周增 +0

为 Bilibili、YouTube 及本地视频提供 AI 视频摘要和知识库.AI video summarizer and knowledge base for Bilibili, YouTube and local videos.

ragmultimodal
GizClaw/flowcraft
Go · 2026-08-20 Agent 智能体 研究原型 Stars 416 周增 +0

生产级 Go SDK,用于构建具备长期记忆、知识检索与语音能力的 AI agent,可作为库、守护进程或实时管道运行。Production-grade Go SDK for building AI agents with long-term memory, knowledge retrieval, and voice — runnable as a library, a daemon, or a real-time pipeline.

agentragengineeringllm-infra
Zchary1106/agent-interview-hub
HTML · 2026-08-11 Agent 智能体 实验 Stars 155 周增 +0

AI Agent 工程师面试资料库 - 国内大厂面经、岗位要求、高频面试题

agentragllm-infra
r-uby-dev/llm
Ruby · 2026-08-16 LLM 基础设施 实验 Stars 136 周增 +0

cruby 的全能 AI runtime。cruby's capable AI runtime

agentragllm-infra
Nayjest/ai-microcore
Python · 2026-08-14 LLM 基础设施 生产可用 Stars 107 周增 +0

一款便捷的 lib,用于流畅地与大语言模型(LLM)交互及构建 AI 应用。A handy lib for smooth interaction with large language models (LLMs) and crafting AI apps.

ragdatabasellm-infra
langfuse/langfuse-java
Java · 2026-08-14 LLM 基础设施 生产可用 Stars 72 周增 +0

🪢 Langfuse API 的自动生成 Java 客户端。🪢 Auto-generated Java Client for Langfuse API

llm-infra
NatLabRockies/elm
Python · 2026-08-23 LLM 基础设施 实验 Stars 69 周增 +0

ELM 是将 LLM 应用于能源研究的一系列工具集合。ELM is a collection of utilities to apply Large Language Models (LLMs) to energy research.

llm-infra
SpartanLabsXyz/simmer-sdk
Python · 2026-08-14 Agent 智能体 实验 Stars 48 周增 +0

Agentic 预测市场交易的 Python SDKPython SDK for Agentic Prediction Market trading

agent
richkuo/rk-skills
JavaScript · 2026-08-23 Agent 智能体 生产可用 Stars 47 周增 +0

Claude Code workflow skills——GitHub issue/PR/release 自动化与基于 Fable 的规划。可通过 npx 或作为 Claude Code 插件安装。Claude Code workflow skills — GitHub issue/PR/release automation and Fable-driven planning. Install via npx or as a Claude Code plugin.

agent
xulihang/ImageTrans_plugins
B4X · 2026-08-11 多模态 实验 Stars 36 周增 +0

ImageTrans 插件集合。Plugins for ImageTrans

multimodalllm-infra
blackwell-systems/gcf
未知语言 · 2026-08-11 LLM 基础设施 实验 Stars 32 周增 +0

AI 原生的结构化数据 wire 格式。在每个前沿模型上实现 100% 理解,比 JSON 减少 50-92% token,跨 17 种格式完成 43B+ 无损往返。Spec v3.4 Stable。The AI-native wire format for structured data. 100% comprehension on every frontier model. 50-92% fewer tokens than JSON. 43B+ lossless round-trips across 17 formats. Spec v3.4 Stable.

agentevaluationllm-infra
WSE-research/LoRiS-LLM-generated-Representations-of-SPARQL-queries
Python · 2026-08-23 RAG 检索增强 研究原型 Stars 8 周增 +0
llm-infra
knownagents/node-sdk
TypeScript · 2026-08-11 Agent 智能体 实验 Stars 8 周增 +0

Known Agents 的官方 Node.js SDK:AI agent 分析(bot 流量)、LLM 引荐来源追踪、自动生成 robots.txt。The official Node.js SDK for Known Agents: AI agent analytics (bot traffic), LLM referral tracking, automatic robots.txt

agentriskllm-infra