Rapid-MLX: 面向 Apple Silicon 的高性能本地 AI 引擎• 基于 MLX 原生优化，支持连续批处理、提示缓存和量化 KV Cache，本地推理速度表现很强• 提供兼容 OpenAI 与 Anthropic 的 API 接口，可直接接入 Claude Code、Aider、Codex CLI 等开发工具链• 覆盖文本、音频、视频、嵌入与工具调用场景，适合在 Mac 上快速搭建统一的本地 AI 服务层

1. 

   折腾啥

   Rapid-MLX: 面向 Apple Silicon 的高性能本地 AI 引擎• 基于 MLX 原生优化，支持连续批处理、提示缓存和量化 KV Cache，本地推理速度表现很强• 提供兼容 OpenAI 与 Anthropic 的 API 接口，可直接接入 Claude Code、Aider、Codex CLI 等开发工具链• 覆盖文本、音频、视频、嵌入与工具调用场景，适合在 Mac 上快速搭建统一的本地 AI 服务层

   6小时前

   

   ×

   

   Rapid-MLX: 面向 Apple Silicon 的高性能本地 AI 引擎
   
   • 基于 MLX 原生优化，支持连续批处理、提示缓存和量化 KV Cache，本地推理速度表现很强
   
   • 提供兼容 OpenAI 与 Anthropic 的 API 接口，可直接接入 Claude Code、Aider、Codex CLI 等开发工具链
   
   • 覆盖文本、音频、视频、嵌入与工具调用场景，适合在 Mac 上快速搭建统一的本地 AI 服务层
   
   https://github.com/raullenchai/Rapid-MLX
   
   GUI: https://rapidmlx.com/desktop
   
   合集 群组 恰饭 联系推广
   
   #本地推理 #模型服务 #工具调用 #AppleSilicon #MLX #OpenAI #ClaudeCode

   6小时前

   本地推理模型服务工具调用AppleSiliconMLXOpenAIClaudeCode