Repositories · organized/repo_cards

仓库/Skill 库

23 个 · LLM 基础设施 · 模型

排序 Stars 周增
AI4Finance-Foundation/FinGPT
Jupyter Notebook · 2026-08-02 LLM 基础设施 模型 生产可用 Stars 21073 周增 +28

FinGPT:开源金融大语言模型!革命性 🔥 已在 HuggingFace 发布训练好的模型。FinGPT: Open-Source Financial Large Language Models! Revolutionize 🔥 We release the trained model on HuggingFace.

llm-infra
ymcui/Chinese-LLaMA-Alpaca
Python · 2026-04-19 LLM 基础设施 模型 生产可用 Stars 18942 周增 +0

中文LLaMA&Alpaca大语言模型+本地CPU/GPU训练部署 (Chinese LLaMA & Alpaca LLMs)

llm-infra
OpenMOSS/MOSS
Python · 2026-05-27 LLM 基础设施 模型 生产可用 Stars 12211 周增 +7

复旦大学开源的工具增强对话语言模型An open-source tool-augmented conversational language model from Fudan University

llm-infra
Tiiny-AI/PowerInfer
C++ · 2026-05-11 LLM 基础设施 模型 生产可用 Stars 9704 周增 +21

面向本地部署的高速 LLM 服务High-speed Large Language Model Serving for Local Deployment

llm-infraengineering
bentoml/BentoML
Python · 2026-08-03 LLM 基础设施 模型 生产可用 Stars 8776 周增 +7

提供 AI 应用和模型服务的最简方式 —— 构建模型推理 API、任务队列、LLM 应用、多模型 pipeline 等。The easiest way to serve AI apps and models - Build Model Inference APIs, Job queues, LLM apps, Multi-model pipelines, and more!

multimodalllm-infraengineering
MoonshotAI/Kimi-K3
未知语言 · 2026-08-06 LLM 基础设施 模型 生产可用 Stars 8340 周增 +161

开放式前沿智能Open Frontier Intelligence

ymcui/Chinese-LLaMA-Alpaca-2
Python · 2026-04-19 LLM 基础设施 模型 生产可用 Stars 7132 周增 +0

中文LLaMA-2 & Alpaca-2大模型二期项目 + 64K超长上下文模型 (Chinese LLaMA-2 & Alpaca-2 LLMs with 64K long context models)

llm-infra
vllm-project/vllm-omni
Python · 2026-08-11 LLM 基础设施 模型 生产可用 Stars 6027 周增 +77

面向全模态模型的高效推理框架。A framework for efficient model inference with omni-modality models

multimodalllm-infra
gpustack/gpustack
Python · 2026-08-11 LLM 基础设施 模型 生产可用 Stars 5465 周增 +21

用于高性能 AI 模型服务(vLLM、SGLang)和按需 SSH 访问 GPU 实例的 GPU 集群管理器。A GPU cluster manager for high-performance AI model serving (vLLM, SGLang) and on-demand SSH-accessible GPU instances.

llm-infra
MiniMax-AI/MiniMax-H3
Python · 2026-08-10 LLM 基础设施 模型 研究原型 Stars 4611 周增 +4445
openvinotoolkit/open_model_zoo
Python · 2026-07-09 LLM 基础设施 模型 研究原型 Stars 4415 周增 +7

高质量且极速的预训练深度学习模型与 demo。Pre-trained Deep Learning models and demos (high quality and extremely fast)

llm-infra
IDEA-CCNL/Fengshenbang-LM
Python · 2026-06-08 LLM 基础设施 模型 生产可用 Stars 4126 周增 +7

Fengshenbang-LM(封神榜大模型)是IDEA研究院认知计算与自然语言研究中心主导的大模型开源体系,成为中文AIGC和认知智能的基础设施。

multimodal
intel/neural-compressor
Python · 2026-08-11 LLM 基础设施 模型 研究原型 Stars 2697 周增 +0

SOTA 低比特 LLM 量化(INT8/FP8/MXFP8/INT4/MXFP4/NVFP4)与稀疏化方案;面向 PyTorch、TensorFlow 与 ONNX Runtime 的领先模型压缩技术SOTA low-bit LLM quantization (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) & sparsity; leading model compression techniques on PyTorch, TensorFlow, and ONNX Runtime

llm-infra
MiaAI-Lab/DeepSeek-v4-Flash-One-DGX-Spark
Python · 2026-08-24 LLM 基础设施 模型 实验 Stars 215 周增 +0

DeepSeek v4 Flash EXL3 运行于单台 DGX SparkDeepSeek v4 Flash EXL3 on one DGX Spark

hwdsl2/docker-ollama
Shell · 2026-08-18 LLM 基础设施 模型 实验 Stars 10 周增 +0

运行 Ollama 本地 LLM 服务的 Docker 镜像。默认安全,所有 API 请求需 Bearer token(首次启动时自动生成)。OpenAI 兼容 API。支持首次启动模型预拉取、NVIDIA GPU (CUDA) 加速和持久化模型存储。多架构:amd64、arm64。Docker image to run an Ollama local LLM server. Secure by default, all API requests require a Bearer token (auto-generated on first start). OpenAI-compatible API. Supports first-start model pre-pull, NVIDIA GPU (CUDA) acceleration, and persistent model storage. Multi-arch: amd64, arm64.

ragmultimodalllm-infra
LONGshenyizu/tox21-research
Python · 2026-08-21 LLM 基础设施 模型 实验 Stars 2 周增 +0

Tox21 多终点毒性预测:可复现的研究与推理制品(冻结模型、FastAPI 服务、已审计的安全机制)Tox21 multi-endpoint toxicity prediction: a reproducible research and inference artifact (frozen model, FastAPI service, audited security)

llm-infrarisk
souvikDevloper/kvbridge
Python · 2026-08-17 LLM 基础设施 模型 实验 Stars 1 周增 +0

面向生产环境的、有内存约束的跨模型 KV-cache 传输,具备受保护的回退机制与可复现研究工具链。Production-oriented, memory-bounded cross-model KV-cache transfer with guarded fallback and reproducible research tooling.

llm-infraengineering
licheng-xu-echo/MolWeaver
Python · 2026-08-11 LLM 基础设施 模型 实验 Stars 1 周增 +0

论文《Controllable molecular graph generation from natural-language chemical constraints》(基于自然语言化学约束的可控分子图生成)的代码仓库。This is repository for "Controllable molecular graph generation from natural-language chemical constraints"

llm-infra
rudy-07/QaptaanLM-0.75B
Python · 2026-08-22 LLM 基础设施 模型 实验 Stars 0 周增 +0

Experimental Qwen3.5-derived 752M LLM:基于 Qwen3.5 的实验性 752M 参数 LLM,采用 CPT + SFT 两阶段流程,面向编码、技术推理与指令跟随。Experimental Qwen3.5-derived 752M LLM: a two-phase CPT + SFT pipeline for coding, technical reasoning, and instruction following.

engineeringllm-infra
microsoft/MAI-Code
未知语言 · 2026-08-11 LLM 基础设施 模型 生产可用 Stars 0 周增 +0

MAI-Code 模型的官方仓库,用于发布 MAI-Code 模型版本与更新,并通过 issue 与反馈与开发者社区互动。Official repo for MAI-Code models, where we publish MAI-Code model releases and updates and engage with developer community on issues and feedback.

agentllm-infra
branded12345/Geo-Llama
Python · 2026-08-22 LLM 基础设施 模型 实验 Stars 0 周增 +0

🌐 通过 Geo-Llama 利用几何深度学习增强语言理解,结合 conformal manifolds 和递归等距变换提升 AI 模型性能。🌐 Enhance language understanding through geometric deep learning with Geo-Llama, leveraging conformal manifolds and recursive isometries for improved AI models.

ragllm-infra
Andrii-Mykuliak/RIFT
Jupyter Notebook · 2026-08-18 LLM 基础设施 模型 实验 Stars 0 周增 +0

RIFT — Race-state Inference From Telemetry。一项可复现研究实现,仅基于位置遥测重建具备事件感知的关联性比赛状态,涵盖路线进度、共享事件标识、检查点通过、物理顺序、前车关系、间距与间隔。RIFT — Race-state Inference From Telemetry. A reproducible research implementation for reconstructing occurrence-aware relational race state from positional telemetry alone, including route progress, shared occurrence identity, checkpoint crossings, physical order, car-ahead relations, gaps and intervals.

llm-infra
Ahmadrezanourozii/Project-Time-Series
Python · 2026-08-23 LLM 基础设施 模型 研究原型 Stars 0 周增 +0

目标:将 State Space Models(SSM)/ Mamba 用于医学时间序列分析;总体研究问题:Mamba 模型能否提升基于步态信号检测帕金森病的分类模型性能: To use State Space Models (SSM)/ Mamba for medical time series analysis General research question: Can Mamba models improve the performance of classification models trained to detect Parkinson's disease using gait signals.