bentoml/OpenLLM

• 类型：github
• 标识：bentoml/OpenLLM
• 链接：https://github.com/bentoml/OpenLLM
• 主题：multimodal, llm-infra, engineering
• 主分类：llm-infra
• 形态：framework
• 分类：ai
• Stars：12473
• 周增：+77
• 语言：Python
• 许可：Apache-2.0
• 最近提交：2026-08-10
• 简介：Run any open-source LLMs, such as DeepSeek and Llama, as OpenAI compatible API endpoint in the cloud.
• 上次采集：2026-08-11
• 简介中文：在云端以 OpenAI 兼容 API 端点形式运行任意开源 LLM，例如 DeepSeek 和 Llama。
• 待LLM分类：否
• 成熟度：production
• 场景：llm serving、deployment、openai api
• 首次采集：2026-06-30
• 来源文件：
• [GitHub Search]