Repositories · organized/repo_cards

仓库/Skill 库

135 个 · LLM 基础设施 · AI 核心

排序 Stars 周增
OpaceDigitalAgency/ai-core-integration-hub-prompt-engine-wordpress-plugin
PHP · 2026-08-14 LLM 基础设施 框架 生产可用 Stars 1 周增 +0

WordPress 共享 AI 基础设施:provider 凭证、实时模型、提示词、标准化请求及 AI-Scribe 和兼容插件的使用记录。Shared AI infrastructure for WordPress: provider credentials, live models, prompts, normalised requests and usage records for AI-Scribe and compatible plugins.

agentllm-infra
licheng-xu-echo/MolWeaver
Python · 2026-08-11 LLM 基础设施 模型 实验 Stars 1 周增 +0

论文《Controllable molecular graph generation from natural-language chemical constraints》(基于自然语言化学约束的可控分子图生成)的代码仓库。This is repository for "Controllable molecular graph generation from natural-language chemical constraints"

llm-infra
KevinHaylett/Geofinitism
未知语言 · 2026-08-12 LLM 基础设施 实验 Stars 1 周增 +0

几何有限主义:语言与思维的几何学Geofinitism: The Geometry of Language and Thought

llm-infra
afaryy/cloudai-platform
TypeScript · 2026-08-17 LLM 基础设施 框架 生产可用 Stars 1 周增 +0

构建安全、有治理、可观测、成本可控的云与 AI 平台能力的实用参考框架。A practical reference framework for building secure, governed, observable, and cost-aware Cloud & AI platform capabilities.

agentragllm-infra
yifan1207/convergence-gap-instruction-tuning
Python · 2026-08-11 LLM 基础设施 工具 实验 Stars 0 周增 +0

The Convergence Gap 的代码与 artifact:指令微调模型何时收敛到下一 token 预测Code and artifacts for The Convergence Gap: when instruction-tuned models settle on next-token predictions.

llm-infra
YanzheShi/prompt-box
Vue · 2026-08-22 LLM 基础设施 工具 实验 Stars 0 周增 +0

prompt工具箱

ragllm-infra
shaikn6/llm-gateway
Python · 2026-08-20 LLM 基础设施 工具 生产可用 Stars 0 周增 +0

生产级 LLM 网关:兼容 OpenAI 的 API,支持语义缓存,可在 Claude/OpenAI/Ollama 之间进行智能路由与成本分析。Production LLM gateway: OpenAI-compatible API, semantic caching, intelligent routing across Claude/OpenAI/Ollama, cost analytics.

engineeringllm-infra
seriedes7322/Qwen3.5-TurboQuant-MLX-LM
C++ · 2026-08-24 LLM 基础设施 工具 实验 Stars 0 周增 +0

使用 TurboQuant 和 MLX 在 Windows 上运行 Qwen3.5 语言模型,实现快速的本地推理。Run the Qwen3.5 language model on Windows using TurboQuant and MLX for fast local performance.

agentmultimodalriskllm-infra
rudy-07/QaptaanLM-0.75B
Python · 2026-08-22 LLM 基础设施 模型 实验 Stars 0 周增 +0

Experimental Qwen3.5-derived 752M LLM:基于 Qwen3.5 的实验性 752M 参数 LLM,采用 CPT + SFT 两阶段流程,面向编码、技术推理与指令跟随。Experimental Qwen3.5-derived 752M LLM: a two-phase CPT + SFT pipeline for coding, technical reasoning, and instruction following.

engineeringllm-infra
Pogud/MegaQwen
Cuda · 2026-08-11 LLM 基础设施 应用 实验 Stars 0 周增 +0

通过 MegaQwen CUDA megakernel 加速 Qwen3-0.6B 推理,在 RTX 3090 上达到 531 tok/s decode,较 HuggingFace 提升 3.9×🚀 Achieve faster Qwen3-0.6B inference with the MegaQwen CUDA megakernel, delivering 531 tok/s decode on RTX 3090—3.9x faster than HuggingFace.

ragllm-infra
ninhnguyen01/LLM-AI-Project
Jupyter Notebook · 2026-08-12 LLM 基础设施 教程 实验 Stars 0 周增 +0

大语言模型(LLM)是一种人工智能(AI)程序,能够识别并生成文本,以及执行其他任务。A large language model (LLM) is a type of artificial intelligence (AI) program that can recognize and generate text, among other tasks.

agentragllm-infra
nick19patrick/qwen36-dual-3090
未知语言 · 2026-08-11 LLM 基础设施 工具 实验 Stars 0 周增 +0

在双 RTX 3090 GPU 上以 262K 上下文长度并发流运行 Qwen3.6-27B,开发工作已迁移至 club-3090。Run Qwen3.6-27B at 262K context with concurrent streams on dual RTX 3090 GPUs. Development moved to club-3090.

multimodalllm-infra
murilonerdx/anydoc-studio
JavaScript · 2026-08-14 LLM 基础设施 应用 实验 Stars 0 周增 +0

完全在浏览器中通过 WebAssembly 实现文档转换、检查、OCR 与翻译。保留版式的翻译,全程本地、离线优先。Convert, inspect, OCR, and translate any document entirely in the browser via WebAssembly. Layout-preserving translation, fully local, offline-first.

ragllm-infra
Mrdodo446/ModelForge
TypeScript · 2026-08-11 LLM 基础设施 工具 实验 Stars 0 周增 +0

使用支持 macOS 和 Windows 平台的开源工具高效构建与定制机器学习模型Build and customize machine learning models efficiently with an open-source tool that supports macOS and Windows platforms.

agentllm-infra
microsoft/MAI-Code
未知语言 · 2026-08-11 LLM 基础设施 模型 生产可用 Stars 0 周增 +0

MAI-Code 模型的官方仓库,用于发布 MAI-Code 模型版本与更新,并通过 issue 与反馈与开发者社区互动。Official repo for MAI-Code models, where we publish MAI-Code model releases and updates and engage with developer community on issues and feedback.

agentllm-infra
Michelinboard436/inference-learn
C · 2026-08-18 LLM 基础设施 框架 实验 Stars 0 周增 +0

使用纯 C 从零构建 LLM 推理引擎,不依赖任何框架。Build an LLM inference engine from scratch in pure C with no frameworks.

llm-infradatabase
magiodev/llmm
Go · 2026-08-11 LLM 基础设施 工具 实验 Stars 0 周增 +0

通过单一严格的 YAML 清单统一管理本地 LLM 运行时——支持状态查看、健康检查、启动、停止,基于原生 systemd 与 Docker。Manage local LLM runtimes from one strict YAML manifest — status, doctor, start, stop over native systemd and Docker.

engineeringllm-infra
lars-ulaval/metaScreener
Python · 2026-08-17 LLM 基础设施 应用 实验 Stars 0 周增 +0

metaScreener——基于插件的桌面应用,用于 human-in-the-loop systematic literature screening。在顺序可审计的 pipeline 中结合确定性启发式过滤与 LLM 推理,通过 SHA-256 校验包实现完全可复现。MIT 协议。metaScreener — a plugin-based desktop application for human-in-the-loop systematic literature screening. Combines deterministic heuristic filters with LLM inference in a sequential, auditable pipeline. SHA-256 verified bundles for full reproducibility. MIT licensed.

llm-infraengineering
Khomyakov-Vladimir/llm-context-window-governance
Python · 2026-08-23 LLM 基础设施 框架 生产可用 Stars 0 周增 +0

面向 LLM 的阶段感知上下文窗口治理框架。提供不变的上下文长度上限、基于熵的稳定性控制,以及针对降级(碎片化)状态的概率性保证,适用于生产级 LLM 系统。Phase-aware context window governance framework for Large Language Models (LLMs). Provides invariant context length caps, entropy-based stability control, and probabilistic guarantees against degraded (fragmentation) states for production LLM systems.

ragllm-infraengineering
Jugurthakebaili1/vLLM-Kunlun
Python · 2026-08-13 LLM 基础设施 应用 实验 Stars 0 周增 +0

🛠 通过此硬件插件提升 vLLM 在 Kunlun XPU 上的性能,无缝集成主流 AI 模型并优化执行效率🛠 Enhance vLLM performance on Kunlun XPU with this hardware plugin, offering seamless integration for popular AI models and optimized execution.

llm-infra
guoanjie1994-lang/arkg-ai-demo
JavaScript · 2026-08-11 LLM 基础设施 教程 实验 Stars 0 周增 +0

适用于 DeepSeek、Qwen、GLM 及多种 AI 模型的 OpenAI 兼容 API 示例。OpenAI Compatible API examples for DeepSeek, Qwen, GLM and multiple AI models.

agentllm-infra
friedpotato04/CUDA-L2
Cuda · 2026-08-22 LLM 基础设施 评测集 实验 Stars 0 周增 +0

🚀 使用强化学习优化半精度通用矩阵乘法(HGEMM)CUDA kernel,性能超越 cuBLAS 及其他基准。🚀 Optimize Half-precision General Matrix Multiply (HGEMM) CUDA kernels using reinforcement learning, surpassing cuBLAS and other benchmarks with superior performance.

evaluationllm-infra
edgeai1/speculative-decoding-knowledge-base
Python · 2026-08-11 LLM 基础设施 收藏榜 实验 Stars 0 周增 +0

截至 2026-08-10 的投机解码研究知识库:66 篇核心论文全文精读、方法谱系、系统比较与研究空白

llm-infra
cenZO00/autopack
Python · 2026-08-15 LLM 基础设施 工具 生产可用 Stars 0 周增 +0

🚀 通过 autopack 简化 Hugging Face 模型的运行、分享与发布,自动完成量化与多格式导出🚀 Simplify running, sharing, and shipping Hugging Face models with autopack; it quantizes and exports to multiple formats effortlessly.

llm-infra
branded12345/Geo-Llama
Python · 2026-08-22 LLM 基础设施 模型 实验 Stars 0 周增 +0

🌐 通过 Geo-Llama 利用几何深度学习增强语言理解,结合 conformal manifolds 和递归等距变换提升 AI 模型性能。🌐 Enhance language understanding through geometric deep learning with Geo-Llama, leveraging conformal manifolds and recursive isometries for improved AI models.

ragllm-infra
Barist3142/deepseek-v4-flash-0731-in-c
C · 2026-08-18 LLM 基础设施 应用 实验 Stars 0 周增 +0

使用纯 C99 MoE 推理引擎在 CPU 上原生运行 DeepSeek-V4-Flash-0731,无需 GPU、CUDA 或 PyTorch。Run native DeepSeek-V4-Flash-0731 on CPU with a pure C99 MoE inference engine — no GPU, CUDA, or PyTorch needed.

llm-infra
assim7557/ai-orchestrator-hub
HTML · 2026-08-14 LLM 基础设施 工具 生产可用 Stars 0 周增 +0

AI-Core 2026:面向 OpenAI、Anthropic、Gemini 与 Grok API 管理的集中化 WordPress AI Provider 中枢。AI-Core 2026: Centralized WordPress AI Provider Hub for OpenAI, Anthropic, Gemini & Grok API Management

agentllm-infra