shaikn6/llm-gateway
- 类型:github
- 标识:shaikn6/llm-gateway
- 链接:https://github.com/shaikn6/llm-gateway
- 主题:engineering, llm-infra
- 主分类:llm-infra
- 形态:tool
- 分类:ai
- Stars:0
- 周增:+0
- 语言:Python
- 许可:MIT
- 最近提交:2026-08-20
- 简介:Production LLM gateway: OpenAI-compatible API, semantic caching, intelligent routing across Claude/OpenAI/Ollama, cost analytics.
- 上次采集:2026-08-20
- 首次采集:2026-08-20
- 待LLM分类:否
- 成熟度:production
- 简介中文:生产级 LLM 网关:兼容 OpenAI 的 API,支持语义缓存,可在 Claude/OpenAI/Ollama 之间进行智能路由与成本分析。
- 场景:llm-routing、semantic-cache、cost-analytics
- 来源文件:
- [GitHub Search]