Repositories · organized/repo_cards

仓库/Skill 库

46 个 · LLM 基础设施 · 工具

排序 Stars 周增
ollama/ollama
Go · 2026-07-31 LLM 基础设施 工具 生产可用 Stars 177685 周增 +0

快速上手 Kimi-K2.6、GLM-5.2、MiniMax、DeepSeek、gpt-oss、Qwen、Gemma 等模型Get up and running with Kimi-K2.6, GLM-5.2, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other models.

llm-infra
nomic-ai/gpt4all
C++ · 2025-05-27 LLM 基础设施 工具 生产可用 Stars 77407 周增 +0

GPT4All:在任意设备上运行本地 LLM。开源且可用于商业用途。GPT4All: Run Local LLMs on Any Device. Open-source and available for commercial use.

llm-infra
chatanywhere/GPT_API_free
未知语言 · 2026-07-28 LLM 基础设施 工具 生产可用 Stars 40079 周增 +140

免费大模型API,支持免费调用GPT、DeepSeek等主流模型,免费额度10000点,每日刷新!另付费价格最低官方1-2折!

agentllm-infra
Wei-Shaw/sub2api
Go · 2026-08-11 LLM 基础设施 工具 生产可用 Stars 36568 周增 +287

Sub2API 是一款开源中继平台,将 Claude、OpenAI、Gemini 与 Antigravity 订阅统一为单一端点,支持账号共享与费用分摊,兼容原生工具调用。Sub2API 一站式开源中转服务,让 Claude、Openai 、Gemini、Grok订阅统一接入,支持拼车共享,更高效分摊成本,原生工具无缝使用。

linshenkx/prompt-optimizer
TypeScript · 2026-07-27 LLM 基础设施 工具 实验 Stars 32909 周增 +0

一个 AI 提示词优化器,用于编写更好的提示词并获得更好的 AI 结果。An AI prompt optimizer for writing better prompts and getting better AI results.

llm-infra
yamadashy/repomix
TypeScript · 2026-08-11 LLM 基础设施 工具 生产可用 Stars 27752 周增 +63

📦 Repomix 是一个强大的工具,能将整个仓库打包为单个对 AI 友好的文件。非常适合需要将代码库喂给 LLM 或其他 AI 工具(如 Claude、ChatGPT、DeepSeek、Perplexity、Gemini、Gemma、Llama、Grok 等)的场景。📦 Repomix is a powerful tool that packs your entire repository into a single, AI-friendly file. Perfect for when you need to feed your codebase to Large Language Models (LLMs) or other AI tools like Claude, ChatGPT, DeepSeek, Perplexity, Gemini, Gemma, Llama, Grok, and more.

llm-infra
decolua/9router
JavaScript · 2026-08-05 LLM 基础设施 工具 生产可用 Stars 25148 周增 +154

无限免费 AI 编程。通过 40+ 提供商将 Claude Code、Codex、Cursor、Cline、Copilot、Antigravity 连接至免费的 Claude/GPT/Gemini。支持自动回退,RTK 减少 40% tokens,永不触及限额。Unlimited FREE AI coding. Connect Claude Code, Codex, Cursor, Cline, Copilot, Antigravity to FREE Claude/GPT/Gemini via 40+ providers. Auto-fallback, RTK -40% tokens, never hit limits.

agentllm-infra
JustVugg/colibri
C · 2026-08-10 LLM 基础设施 工具 生产可用 Stars 23805 周增 +1169

在现有硬件上运行前沿 MoE 模型——纯 C 实现、零依赖、专家权重从磁盘流式加载。轻量引擎,海量模型。🐦Run frontier MoE models on hardware you already own — pure C, zero deps, experts streamed from disk. Tiny engine, immense model. 🐦

openvinotoolkit/openvino
C++ · 2026-08-11 LLM 基础设施 工具 生产可用 Stars 10637 周增 +21

OpenVINO™ 是用于优化和部署 AI 推理的开源工具包OpenVINO™ is an open source toolkit for optimizing and deploying AI inference

multimodalllm-infra
lidge-jun/opencodex
TypeScript · 2026-08-11 LLM 基础设施 工具 研究原型 Stars 9000 周增 +658

OpenAI Codex 与 Claude Code 的通用 provider 代理 —— 可在 Codex CLI、App、SDK 及 Claude Code 中使用任意 LLM(Claude、Gemini、Grok、DeepSeek、Ollama…)。Universal provider proxy for OpenAI Codex & Claude Code — use any LLM (Claude, Gemini, Grok, DeepSeek, Ollama…) with Codex CLI, App, SDK, and Claude Code

llm-infra
huggingface/optimum
Python · 2026-08-10 LLM 基础设施 工具 研究原型 Stars 3457 周增 +7

🚀 通过易用的硬件优化工具,加速 🤗 Transformers、Diffusers、TIMM 和 Sentence Transformers 的推理与训练。🚀 Accelerate inference and training of 🤗 Transformers, Diffusers, TIMM and Sentence Transformers with easy to use hardware optimization tools

llm-infra
NVIDIA-NeMo/Curator
Python · 2026-08-19 LLM 基础设施 工具 研究原型 Stars 1723 周增 +7

可扩展的 LLM 数据预处理与清洗工具集Scalable data pre processing and curation toolkit for LLMs

engineeringllm-infra
lynote-ai/humanize-text
Python · 2026-08-05 LLM 基础设施 工具 研究原型 Stars 1558 周增 +21

面向 AI 辅助草稿的可读性与自然节奏改进的开源 pipeline 与参考实现。Open-source pipeline and reference implementations for improving the readability and natural cadence of AI-assisted drafts.

engineering
utkuozdemir/nvidia_gpu_exporter
Go · 2026-08-07 LLM 基础设施 工具 生产可用 Stars 1527 周增 +14

基于 nvidia-smi 二进制工具的 Nvidia GPU Prometheus exporterNvidia GPU exporter for prometheus using nvidia-smi binary

llm-infra
yjh051108/dsh-routing-suite
PowerShell · 2026-08-15 LLM 基础设施 工具 实验 Stars 1504 周增 +0

dsh-routing-suite——注入器 + 路由标准套件:先安装运行时注入器,再安装任务感知的推理模式路由预设(已实测 P1-P23)。dsh-routing-suite — injector + router-standard kit: install the runtime injector first, then the task-aware reasoning-mode router preset (measured P1-P23).

brontoguana/krasis
C++ · 2026-08-20 LLM 基础设施 工具 研究原型 Stars 512 周增 +3

Krasis 是一个混合 LLM 运行时,专注于在消费级 VRAM 受限硬件上高效运行大模型Krasis is a Hybrid LLM runtime which focuses on efficient running of larger models on consumer grade VRAM limited hardware

llm-infra
gvzdv/claudish-to-english
Shell · 2026-08-11 LLM 基础设施 工具 实验 Stars 341 周增 +0
pingmike2/freebuff2api-wokers
JavaScript · 2026-08-11 LLM 基础设施 工具 实验 Stars 236 周增 +0
langfuse/langfuse-docs
MDX · 2026-08-13 LLM 基础设施 工具 实验 Stars 234 周增 +5

🪢 Langfuse 文档——Langfuse 是开源 LLM 工程平台,提供可观测性、评估、Prompt 管理、Playground 与指标,用于调试与改进 LLM 应用🪢 Langfuse documentation -- Langfuse is the open source LLM Engineering Platform. Observability, evals, prompt management, playground and metrics to debug and improve LLM apps

agentllm-infra
chigwell/llm7.io
TypeScript · 2026-08-11 LLM 基础设施 工具 实验 Stars 193 周增 +0

LLM7.io 提供单一 API 网关,可连接来自多家供应商的众多领先 AI 模型LLM7.io offers a single API gateway that connects you to a wide array of leading AI models from various providers.

llm-infra
trefeon/freebuff-proxy
Go · 2026-08-16 LLM 基础设施 工具 实验 Stars 85 周增 +112

FreeBuff 编码模型的 OpenAI 兼容网关。Token 池、会话生命周期、TLS stealth、嵌入式管理后台。无广告、无 CLI,只有 /v1/chat/completions。OpenAI-compatible gateway for FreeBuff coding models. Token pool, session lifecycle, TLS stealth, embedded admin dashboard. No ads, no CLI, just /v1/chat/completions.

agentllm-infra
cyanheads/repo-map
Python · 2026-08-14 LLM 基础设施 工具 实验 Stars 60 周增 +0

repo-map 生成由 LLM 增强的软件仓库摘要与分析,为开发者提供关于项目结构、文件用途以及跨编程语言潜在考量的洞察。repo-map generates LLM-enhanced summaries and analysis of software repositories, providing developers with valuable insights into project structures, file purposes, and potential considerations across various programming languages.

llm-infra
daveshap/LiteratureReviewBot
Python · 2022-09-27 LLM 基础设施 工具 实验 Stars 51 周增 +0

使用 GPT-3 辅助撰写基金申请书的实验Experiment to use GPT-3 to help write grant proposals.

ai-action/setup-ollama
TypeScript · 2026-08-17 LLM 基础设施 工具 实验 Stars 14 周增 +0

🦙 使用 Ollama CLI 配置 GitHub Actions。🦙 Set up GitHub Actions with Ollama CLI.

llm-infra
yonro/memory-os-cli
JavaScript · 2026-08-13 LLM 基础设施 工具 实验 Stars 12 周增 +0

Memory OS CLI 和 npm 包Memory OS CLI and npm package

Architect2040/metalQwen3
C++ · 2026-08-15 LLM 基础设施 工具 实验 Stars 7 周增 +0

💻 在 macOS 上借助 Metal GPU 实现 Qwen3 Transformer 模型,获得加速且高效的性能,并支持关键架构特性💻 Implement Qwen3 transformer model on macOS using Metal GPU for accelerated, efficient performance with support for key architecture features.

llm-infra
styleio/ShikishaTerm
Rust · 2026-08-25 LLM 基础设施 工具 实验 Stars 3 周增 +2

并行运行 Claude Code、Codex 与 Gemini,并支持彼此交接任务。面向 AI CLI 的便携 Windows 终端。Run Claude Code, Codex and Gemini side by side — and let them hand work to each other. Portable Windows terminal for AI CLIs.

agentllm-infra
nora3233/Free-LLM
Python · 2026-08-11 LLM 基础设施 工具 实验 Stars 3 周增 +0
agentengineeringllm-infra
LvvUP/academic-writing-assistant
Python · 2026-08-18 LLM 基础设施 工具 实验 Stars 3 周增 +0

A field-adaptive academic writing Skill for Chinese and English research papers. | 面向中英文学术论文的领域自适应写作 Skill。

engineering
shyringo/deepseek-v4-flash-0731-in-c
C · 2026-08-17 LLM 基础设施 工具 实验 Stars 2 周增 +0

Run the native 284B-A13B DeepSeek-V4-Flash-0731 LLM locally on a single laptop CPU: pure C, 8 GB RAM minimum, no GPU, best TPOT 0.892 s/token. | 在笔记本单颗 CPU 上本地运行原生 284B-A13B DeepSeek-V4-Flash-0731 大模型:纯 C,最低 8 GB 内存,无需 GPU,最优 TPOT 0.892 秒/token。

llm-infra
Alperrusul123a/prompt-optimizer
TypeScript · 2026-08-11 LLM 基础设施 工具 实验 Stars 2 周增 +0

轻松优化面向 AI 系统的 prompt,借助直观工具与特性提升性能🚀 Optimize your prompts for AI systems easily and boost performance with intuitive tools and features designed for better results.

llm-infra
SpectrAI-Initiative/ai-reviewer-ready-writing
Python · 2026-08-18 LLM 基础设施 工具 实验 Stars 1 周增 +0

一个可复用的 Codex Skill,用于证据对齐、AI 与人工审稿人就绪的学术写作。A reusable Codex skill for evidence-aligned, AI- and human-reviewer-ready academic writing.

llm-infraengineering
RuriLothlorien/codex-deepseek-routing-suite
JavaScript · 2026-08-22 LLM 基础设施 工具 实验 Stars 1 周增 +0

Codex + DeepSeek 的任务感知推理模式路由(spec/react/weak)Task-aware reasoning-mode router for Codex + DeepSeek | Codex+DeepSeek 思维模式路由(spec/react/weak)

agent
YiTonLee/TS_Feature_Ext
Jupyter Notebook · 2026-08-20 LLM 基础设施 工具 研究原型 Stars 0 周增 +0

本代码库提供个人研究成果《Deep Learning Approach in Time Series Forecasting: Literature Review and Extension on Feature Extraction》的代码与报告存档。This repository provides code and report archive of individual research: Deep Learning Approach in Time Series Forecasting: Literature Review and Extension on Feature Extraction

yifan1207/convergence-gap-instruction-tuning
Python · 2026-08-11 LLM 基础设施 工具 实验 Stars 0 周增 +0

The Convergence Gap 的代码与 artifact:指令微调模型何时收敛到下一 token 预测Code and artifacts for The Convergence Gap: when instruction-tuned models settle on next-token predictions.

llm-infra
YanzheShi/prompt-box
Vue · 2026-08-22 LLM 基础设施 工具 实验 Stars 0 周增 +0

prompt工具箱

ragllm-infra