raullenchai/Rapid-MLX

• 类型：github
• 标识：raullenchai/Rapid-MLX
• 链接：https://github.com/raullenchai/Rapid-MLX
• 主题：llm-infra
• 主分类：llm-infra
• 形态：framework
• 分类：ai
• Stars：3433
• 周增：+21
• 语言：Python
• 许可：Apache-2.0
• 最近提交：2026-08-11
• 简介：The fastest local AI engine for Apple Silicon. 4.2x faster than Ollama, 0.08s cached TTFT, 100% tool calling. 17 tool parsers, prompt cache, reasoning separation, cloud routing. Drop-in OpenAI replacement. Works with Claude Code, Cursor, Aider.
• 上次采集：2026-08-11
• 简介中文：Apple Silicon 上最快的本地 AI 引擎。比 Ollama 快 4.2 倍，缓存 TTFT 仅 0.08s，工具调用支持率 100%。内置 17 种工具解析器、prompt cache、推理分离、云端路由。可作为 OpenAI 的即插即用替代，兼容 Claude Code、Cursor、Aider。
• 待LLM分类：否
• 成熟度：research
• 场景：Apple Silicon推理、本地LLM
• 首次采集：2026-06-30
• 来源文件：
• [GitHub Search]