Search: #聚合

  1. Octopus: 面向个人部署的 LLM API 聚合与统一管理服务• 主要更新了协议转换, 增加了透传, 拦截上游报错不打断 agent 客户端任务, 可视化完整的请求链路

    Octopus: 面向个人部署的 LLM API 聚合与统一管理服务

    • 主要更新了协议转换, 增加了透传, 拦截上游报错不打断 agent 客户端任务, 可视化完整的请求链路

    codex 接入 octopus 后进行对话
    codex 显示 working

    此时 octopus 日志端就会推送一条日志

    点击日志后显示重试请求详情,此时 octopus 会拦截所有的错误,不会返回给 codex, codex 仍在等待

    手动选择渠道后, 渠道正常响应, 透传或者协议转换后发送给 codex

    整个请求链路都是可视化的,任何错误信息都会被 octopus 拦截, 并且不会传给 codex, codex 不会因为上游错误而中止,完全不需要发送 继续


    https://github.com/bestruirui/octopus

    合集 群组 恰饭 联系推广

    #LLM #AI #API #聚合 #模型管理 #协议转换 #费用统计 #自托管 #GitHub #OpenAI #Anthropic

  2. Metapi: 将分散的 AI 中转站聚合为统一入口的元网关上科技 自动签到• 聚合 New API、One API、OneHub、DoneHub、Veloera、AnyRouter、Sub2API 等多种上游平台,对下游提供一个 API Key 和统一的 /v1/* 入口• 自动发现模型并基于成本、余额、使用率进行智能路由,支持故障切换、失败重试与多通道分流,适合长期稳定供给• 自带可视化控制台,覆盖站点管理、余额看板、签到任务、Token 生命周期、代理日志与告警通知,部署上也支持单 Docker 轻量运行

    Metapi: 将分散的 AI 中转站聚合为统一入口的元网关

    上科技 自动签到

    聚合 New API、One API、OneHub、DoneHub、Veloera、AnyRouter、Sub2API 等多种上游平台,对下游提供一个 API Key 和统一的 /v1/* 入口

    • 自动发现模型并基于成本、余额、使用率进行智能路由,支持故障切换、失败重试与多通道分流,适合长期稳定供给

    • 自带可视化控制台,覆盖站点管理、余额看板、签到任务、Token 生命周期、代理日志与告警通知,部署上也支持单 Docker 轻量运行

    https://github.com/cita-777/metapi

    #AI #网关 #API #聚合 #智能路由 #模型中转 #自托管 #Docker #TypeScript #GitHub

    • 🤡2
    • ❤️1