Search: #模型接入

  1. Octopus: 面向个人部署的 LLM API 聚合与统一管理服务• 主要更新了协议转换, 增加了透传, 拦截上游报错不打断 agent 客户端任务, 可视化完整的请求链路

    Octopus: 面向个人部署的 LLM API 聚合与统一管理服务

    • 主要更新了协议转换, 增加了透传, 拦截上游报错不打断 agent 客户端任务, 可视化完整的请求链路

    codex 接入 octopus 后进行对话
    codex 显示 working

    此时 octopus 日志端就会推送一条日志

    点击日志后显示重试请求详情,此时 octopus 会拦截所有的错误,不会返回给 codex, codex 仍在等待

    手动选择渠道后, 渠道正常响应, 透传或者协议转换后发送给 codex

    整个请求链路都是可视化的,任何错误信息都会被 octopus 拦截, 并且不会传给 codex, codex 不会因为上游错误而中止,完全不需要发送 继续


    https://github.com/bestruirui/octopus

    合集 群组 恰饭 联系推广

    #LLM #AI #API #聚合 #模型管理 #协议转换 #费用统计 #自托管 #GitHub #OpenAI #Anthropic

  2. Rapid-MLX: 面向 Apple Silicon 的高性能本地 AI 引擎• 基于 MLX 原生优化,支持连续批处理、提示缓存和量化 KV Cache,本地推理速度表现很强• 提供兼容 OpenAI 与 Anthropic 的 API 接口,可直接接入 Claude Code、Aider、Codex CLI 等开发工具链• 覆盖文本、音频、视频、嵌入与工具调用场景,适合在 Mac 上快速搭建统一的本地 AI 服务层

    Rapid-MLX: 面向 Apple Silicon 的高性能本地 AI 引擎

    • 基于 MLX 原生优化,支持连续批处理、提示缓存和量化 KV Cache,本地推理速度表现很强

    • 提供兼容 OpenAI 与 Anthropic 的 API 接口,可直接接入 Claude Code、Aider、Codex CLI 等开发工具链

    • 覆盖文本、音频、视频、嵌入与工具调用场景,适合在 Mac 上快速搭建统一的本地 AI 服务层

    https://github.com/raullenchai/Rapid-MLX

    GUI: https://rapidmlx.com/desktop

    合集 群组 恰饭 联系推广

    #本地推理 #模型服务 #工具调用 #AppleSilicon #MLX #OpenAI #ClaudeCode

    • ❤️1
  3. Codex 雷达: 面向 Codex 用户的实时额度与模型表现监测站感谢群友 @dheigrb 的分享• 实时汇总 Sol、Terra、Luna 等模型在不同推理强度下的通过率、IQ、耗时、成本与 Token 数据• 提供重置卡到期提醒、官方重置动态和服务状态更新,方便高频用户管理配额节奏• 开放 JSON 状态接口与 RSS 提醒源,适合接入机器人通知、自动化监控和社区数据看板

    Codex 雷达: 面向 Codex 用户的实时额度与模型表现监测站

    感谢群友 @dheigrb 的分享

    • 实时汇总 Sol、Terra、Luna 等模型在不同推理强度下的通过率、IQ、耗时、成本与 Token 数据

    • 提供重置卡到期提醒、官方重置动态和服务状态更新,方便高频用户管理配额节奏

    • 开放 JSON 状态接口与 RSS 提醒源,适合接入机器人通知、自动化监控和社区数据看板

    https://codex-reset-radar.pages.dev

    合集 群组 恰饭 联系推广

    #Codex #AI #模型评测 #额度监控 #开发者工具 #OpenAI #RSS #JSON

    • ❤️2
  4. opencode-to-openai: 把 OpenCode CLI 变成 OpenAI 兼容 REST API 的轻量网关• 将 OpenCode 的免费模型统一转换为标准 /v1 接口,直接接入 Cursor、Claude Code、OpenClaw 等支持 OpenAI 格式的客户端 • 支持 OpenClaw 插件原生集成与独立 Server 两种部署方式,提供 /health、/v1/models 等自检接口便于排障 • 默认禁用工具调用并支持 API Key 鉴权,可按需开启调试日志与隔离 HOME 配置以兼顾安全与稳定

    opencode-to-openai: 把 OpenCode CLI 变成 OpenAI 兼容 REST API 的轻量网关

    • 将 OpenCode 的免费模型统一转换为标准 /v1 接口,直接接入 Cursor、Claude Code、OpenClaw 等支持 OpenAI 格式的客户端
    • 支持 OpenClaw 插件原生集成与独立 Server 两种部署方式,提供 /health、/v1/models 等自检接口便于排障
    • 默认禁用工具调用并支持 API Key 鉴权,可按需开启调试日志与隔离 HOME 配置以兼顾安全与稳定

    https://github.com/dxxzst/opencode-to-openai

    相关: OpenCode AI Proxy: OpenCode 2 API

    #API 网关 #OpenAI 兼容 #OpenCode #OpenClaw #Node.js #AI 客户端 #本地部署 #模型接入 #开源工具 #MIT License

    • ❤️2
  5. 百度输入法魔改🆕 更新默认使用 gpt-4o-mini / gemini-1.5-flash🆕 自动处理 o1 模型的默认 temperature原消息

    折腾啥
    👍 #百度输入法 #魔改 #ChatGPT #Gemini #AI #输入法 #eval #代码 #脚本 #模块 #插件 #Surge #Loon 🆕 新增执行代码/脚本功能 TYPE 填 Gemini KEY 填 Gemini 的 Key API 留空即可 🟢可执行代码, 如图1(需要 return) ; 可快速执行代码, 如图2(不需要 return) 🌝 有字数限制 仅供娱乐 🟢可执行脚本, 如图3(仅支持 📈 Surge 中的 cron 脚本) 🟢搜索第一项插入 ChatGPT/Gemini…
    百度输入法魔改

    🆕 更新默认使用 gpt-4o-mini / gemini-1.5-flash

    🆕 自动处理 o1 模型的默认 temperature

    原消息