xorbitsai/inference

• 类型：github
• 标识：xorbitsai/inference
• 链接：https://github.com/xorbitsai/inference
• 主题：multimodal, llm-infra, engineering
• 主分类：multimodal
• 形态：app
• 分类：ai
• Stars：9486
• 周增：+0
• 语言：Python
• 许可：Apache-2.0
• 最近提交：2026-08-11
• 简介：Swap GPT for any LLM by changing a single line of code. Xinference lets you run open-source, speech, and multimodal models on cloud, on-prem, or your laptop — all through one unified, production-ready inference API.
• 上次采集：2026-08-11
• 简介中文：通过修改一行代码即可将 GPT 替换为任意 LLM。Xinference 让你在云端、本地或笔记本上运行开源、语音和多模态模型，全部通过统一的生产就绪推理 API。
• 副分类：llm-infra
• 待LLM分类：否
• 成熟度：production
• 首次采集：2026-06-30
• 来源文件：
• [GitHub Search]