alibaba/rtp-llm

  • 类型:github
  • 标识:alibaba/rtp-llm
  • 链接:https://github.com/alibaba/rtp-llm
  • 主题:llm-infra
  • 主分类:llm-infra
  • 形态:app
  • 分类:ai
  • Stars:1296
  • 周增:+0
  • 语言:Cuda
  • 许可:Apache-2.0
  • 最近提交:2026-08-05
  • 简介:RTP-LLM: Alibaba's high-performance LLM inference engine for diverse applications.
  • 上次采集:2026-08-06
  • 首次采集:2026-07-05
  • 待LLM分类:否
  • 成熟度:research
  • 简介中文:RTP-LLM:阿里巴巴面向多样化应用的高性能 LLM 推理引擎。
  • 来源文件
  • [GitHub Search]