vllm-project/vllm

  • 类型:github
  • 标识:vllm-project/vllm
  • 链接:https://github.com/vllm-project/vllm
  • 主题:llm-infra
  • 主分类:llm-infra
  • 形态:app
  • 分类:trending
  • Stars:88728
  • 周增:+259
  • 语言:Python
  • 许可:Apache-2.0
  • 最近提交:2026-08-11
  • 简介:A high-throughput and memory-efficient inference and serving engine for LLMs
  • 上次采集:2026-08-11
  • 简介中文:面向 LLM 的高吞吐、内存高效的推理与 serving 引擎。
  • 待LLM分类:否
  • 成熟度:production
  • 首次采集:2026-06-30
  • 来源文件
  • [GitHub Search]