shaikn6/llm-gateway

  • 类型:github
  • 标识:shaikn6/llm-gateway
  • 链接:https://github.com/shaikn6/llm-gateway
  • 主题:engineering, llm-infra
  • 主分类:llm-infra
  • 形态:tool
  • 分类:ai
  • Stars:0
  • 周增:+0
  • 语言:Python
  • 许可:MIT
  • 最近提交:2026-08-20
  • 简介:Production LLM gateway: OpenAI-compatible API, semantic caching, intelligent routing across Claude/OpenAI/Ollama, cost analytics.
  • 上次采集:2026-08-20
  • 首次采集:2026-08-20
  • 待LLM分类:否
  • 成熟度:production
  • 简介中文:生产级 LLM 网关:兼容 OpenAI 的 API,支持语义缓存,可在 Claude/OpenAI/Ollama 之间进行智能路由与成本分析。
  • 场景:llm-routing、semantic-cache、cost-analytics
  • 来源文件
  • [GitHub Search]