Wallawalla47/Infernix

  • 类型:github
  • 标识:Wallawalla47/Infernix
  • 链接:https://github.com/Wallawalla47/Infernix
  • 主题:llm-infra
  • 主分类:llm-infra
  • 形态:app
  • 分类:trending
  • Stars:54
  • 周增:+0
  • 语言:C++
  • 许可:Apache-2.0
  • 最近提交:2026-10-09
  • 简介:C++/CUDA single-GPU inference engine for Qwen3.8 (incl. Qwen3.8-Flash-Next with offloaded experts) on the RTX 5090; grew from NInfer
  • 上次采集:2026-10-10
  • 首次采集:2026-10-10
  • 待LLM分类:否
  • 成熟度:experimental
  • 简介中文:面向 Qwen3.8(含支持专家卸载的 Qwen3.8-Flash-Next)的 C++/CUDA 单 GPU 推理引擎,运行于 RTX 5090;源自 NInfer。
  • 来源文件:
  • [GitHub Search]