Search: #模型管理

  1. Octopus: 面向个人部署的 LLM API 聚合与统一管理服务• 主要更新了协议转换, 增加了透传, 拦截上游报错不打断 agent 客户端任务, 可视化完整的请求链路

    Octopus: 面向个人部署的 LLM API 聚合与统一管理服务

    • 主要更新了协议转换, 增加了透传, 拦截上游报错不打断 agent 客户端任务, 可视化完整的请求链路

    codex 接入 octopus 后进行对话
    codex 显示 working

    此时 octopus 日志端就会推送一条日志

    点击日志后显示重试请求详情,此时 octopus 会拦截所有的错误,不会返回给 codex, codex 仍在等待

    手动选择渠道后, 渠道正常响应, 透传或者协议转换后发送给 codex

    整个请求链路都是可视化的,任何错误信息都会被 octopus 拦截, 并且不会传给 codex, codex 不会因为上游错误而中止,完全不需要发送 继续


    https://github.com/bestruirui/octopus

    合集 群组 恰饭 联系推广

    #LLM #AI #API #聚合 #模型管理 #协议转换 #费用统计 #自托管 #GitHub #OpenAI #Anthropic

  2. Codex 雷达: 面向 Codex 用户的实时额度与模型表现监测站感谢群友 @dheigrb 的分享• 实时汇总 Sol、Terra、Luna 等模型在不同推理强度下的通过率、IQ、耗时、成本与 Token 数据• 提供重置卡到期提醒、官方重置动态和服务状态更新,方便高频用户管理配额节奏• 开放 JSON 状态接口与 RSS 提醒源,适合接入机器人通知、自动化监控和社区数据看板

    Codex 雷达: 面向 Codex 用户的实时额度与模型表现监测站

    感谢群友 @dheigrb 的分享

    • 实时汇总 Sol、Terra、Luna 等模型在不同推理强度下的通过率、IQ、耗时、成本与 Token 数据

    • 提供重置卡到期提醒、官方重置动态和服务状态更新,方便高频用户管理配额节奏

    • 开放 JSON 状态接口与 RSS 提醒源,适合接入机器人通知、自动化监控和社区数据看板

    https://codex-reset-radar.pages.dev

    合集 群组 恰饭 联系推广

    #Codex #AI #模型评测 #额度监控 #开发者工具 #OpenAI #RSS #JSON

    • ❤️2
  3. Metapi: 将分散的 AI 中转站聚合为统一入口的元网关上科技 自动签到• 聚合 New API、One API、OneHub、DoneHub、Veloera、AnyRouter、Sub2API 等多种上游平台,对下游提供一个 API Key 和统一的 /v1/* 入口• 自动发现模型并基于成本、余额、使用率进行智能路由,支持故障切换、失败重试与多通道分流,适合长期稳定供给• 自带可视化控制台,覆盖站点管理、余额看板、签到任务、Token 生命周期、代理日志与告警通知,部署上也支持单 Docker 轻量运行

    Metapi: 将分散的 AI 中转站聚合为统一入口的元网关

    上科技 自动签到

    • 聚合 New API、One API、OneHub、DoneHub、Veloera、AnyRouter、Sub2API 等多种上游平台,对下游提供一个 API Key 和统一的 /v1/* 入口

    • 自动发现模型并基于成本、余额、使用率进行智能路由,支持故障切换、失败重试与多通道分流,适合长期稳定供给

    • 自带可视化控制台,覆盖站点管理、余额看板、签到任务、Token 生命周期、代理日志与告警通知,部署上也支持单 Docker 轻量运行

    https://github.com/cita-777/metapi

    #AI #网关 #API #聚合 #智能路由 #模型中转 #自托管 #Docker #TypeScript #GitHub

    • 🤡2
    • ❤️1