NVIDIA/kvpress

  • 类型:github
  • 标识:NVIDIA/kvpress
  • 链接:https://github.com/NVIDIA/kvpress
  • 主题:llm-infra
  • 主分类:llm-infra
  • 形态:app
  • 分类:ai
  • Stars:1222
  • 周增:+0
  • 语言:Python
  • 许可:Apache-2.0
  • 最近提交:2026-10-01
  • 简介:LLM KV cache compression made easy
  • 上次采集:2026-10-02
  • 首次采集:2026-10-02
  • 待LLM分类:否
  • 成熟度:research
  • 简介中文:让 LLM KV cache 压缩变得更简单
  • 来源文件:
  • [GitHub Search]