Search: #Anthropic

  1. Octopus: 面向个人部署的 LLM API 聚合与统一管理服务• 主要更新了协议转换, 增加了透传, 拦截上游报错不打断 agent 客户端任务, 可视化完整的请求链路

    Octopus: 面向个人部署的 LLM API 聚合与统一管理服务

    • 主要更新了协议转换, 增加了透传, 拦截上游报错不打断 agent 客户端任务, 可视化完整的请求链路

    codex 接入 octopus 后进行对话
    codex 显示 working

    此时 octopus 日志端就会推送一条日志

    点击日志后显示重试请求详情,此时 octopus 会拦截所有的错误,不会返回给 codex, codex 仍在等待

    手动选择渠道后, 渠道正常响应, 透传或者协议转换后发送给 codex

    整个请求链路都是可视化的,任何错误信息都会被 octopus 拦截, 并且不会传给 codex, codex 不会因为上游错误而中止,完全不需要发送 继续


    https://github.com/bestruirui/octopus

    合集 群组 恰饭 联系推广

    #LLM #AI #API #聚合 #模型管理 #协议转换 #费用统计 #自托管 #GitHub #OpenAI #Anthropic

  2. MenuStatus: macOS 菜单栏状态监控 + AI 降智监测群友 @Snowyy6 开发的欢迎关注他的频道 @snowyy0v0• 原生 macOS 菜单栏体验,支持 Atlassian Statuspage 和 incident.io 两类公开状态页,内置 OpenAI 与 Anthropic 提供商• 可快速查看组件分组、运行时长条、当前事故与近期历史,并可跳转官方状态页获取完整上下文• 内置 AI Stupid Level 视图,聚合全球指数、模型排名、厂商对比、推荐、告警与退化信息,适合持续跟踪模型质量变化

    MenuStatus: macOS 菜单栏状态监控 + AI 降智监测

    群友 @Snowyy6 开发的

    欢迎关注他的频道 @snowyy0v0

    • 原生 macOS 菜单栏体验,支持 Atlassian Statuspage 和 incident.io 两类公开状态页,内置 OpenAI 与 Anthropic 提供商

    • 可快速查看组件分组、运行时长条、当前事故与近期历史,并可跳转官方状态页获取完整上下文

    • 内置 AI Stupid Level 视图,聚合全球指数、模型排名、厂商对比、推荐、告警与退化信息,适合持续跟踪模型质量变化

    https://github.com/Snowyyyyyy1/MenuStatus

    合集 群组 恰饭 联系推广

    #macOS #菜单栏工具 #服务监控 #状态页 #AI #OpenAI #Anthropic #Swift #GitHub #开源

  3. oMLX: 面向 Mac 本地部署的高性能 LLM 推理与管理工具• 基于 Apple Silicon 优化,支持连续批处理与分层 KV Cache,可将热缓存放在内存、冷缓存落到 SSD,显著提升本地大模型的响应效率与上下文复用能力• 同一服务可统一承载 LLM、VLM、Embedding 与 Reranker,支持模型自动发现、按需加载、LRU 淘汰、Pin 常驻和 TTL 卸载,适合多模型并行工作流• 提供 macOS 菜单栏应用与 Web 管理面板,兼容 OpenAI / Anthropic API,并内置模型下载、性能测试、聊天界面与 MCP 工具集成,降低本地 AI 服务运维门槛

    oMLX: 面向 Mac 本地部署的高性能 LLM 推理与管理工具

    • 基于 Apple Silicon 优化,支持连续批处理与分层 KV Cache,可将热缓存放在内存、冷缓存落到 SSD,显著提升本地大模型的响应效率与上下文复用能力

    • 同一服务可统一承载 LLM、VLM、Embedding 与 Reranker,支持模型自动发现、按需加载、LRU 淘汰、Pin 常驻和 TTL 卸载,适合多模型并行工作流

    • 提供 macOS 菜单栏应用与 Web 管理面板,兼容 OpenAI / Anthropic API,并内置模型下载、性能测试、聊天界面与 MCP 工具集成,降低本地 AI 服务运维门槛

    https://github.com/jundot/omlx

    #本地大模型 #Mac AI #Apple Silicon #LLM 推理 #KV Cache #多模型服务 #OpenAI API #Anthropic API #MCP #GitHub #AI

    • ❤️1
    • 👍1
  4. onWatch: 面向 AI 开发者的本地化配额监控与历史分析工具• 实时追踪 Synthetic、Z.ai、Anthropic、Codex、GitHub Copilot 等多家服务的 API 配额使用情况,并提供统一仪表盘视图• 以轻量后台 Agent 运行,历史数据落地到 SQLite,支持周期分析、使用趋势、会话级追踪和重置倒计时• 单文件 CLI 部署简单,零遥测设计,所有数据保留在本机,适合重视隐私与成本控制的开发者

    onWatch: 面向 AI 开发者的本地化配额监控与历史分析工具

    • 实时追踪 Synthetic、Z.ai、Anthropic、Codex、GitHub Copilot 等多家服务的 API 配额使用情况,并提供统一仪表盘视图

    • 以轻量后台 Agent 运行,历史数据落地到 SQLite,支持周期分析、使用趋势、会话级追踪和重置倒计时

    • 单文件 CLI 部署简单,零遥测设计,所有数据保留在本机,适合重视隐私与成本控制的开发者

    https://github.com/onllm-dev/onwatch

    #AI #开发工具 #配额监控 #本地优先 #CLI #SQLite #GitHub #Anthropic #Codex #GitHub Copilot #开发者效率

    • ❤️1
  5. Squirrel: 企业级 LLM 网关, 统一代理 OpenAI、Anthropic 及兼容 API• 一次接入统一 API, 兼容 OpenAI Chat、OpenAI Responses 与 Anthropic Messages, 并支持请求/响应/流式互转 • 智能路由与高可用, 支持规则路由、负载均衡、自动重试与故障转移, 可按成本或优先级自动选模型 • 全面可观测性 + 管理面板, 记录 Token 用量/延迟/成本与请求日志, 提供 Next.js 管理后台做供应商、模型映射与 API Key 管理

    Squirrel: 企业级 LLM 网关, 统一代理 OpenAI、Anthropic 及兼容 API

    • 一次接入统一 API, 兼容 OpenAI Chat、OpenAI Responses 与 Anthropic Messages, 并支持请求/响应/流式互转
    • 智能路由与高可用, 支持规则路由、负载均衡、自动重试与故障转移, 可按成本或优先级自动选模型
    • 全面可观测性 + 管理面板, 记录 Token 用量/延迟/成本与请求日志, 提供 Next.js 管理后台做供应商、模型映射与 API Key 管理

    https://github.com/mylxsw/llm-gateway

    #LLM #AI #网关 #代理服务 #OpenAI #Anthropic #可观测性 #负载均衡 #故障转移 #成本优化 #Docker #Nextjs #Python

    • ❤️2
  6. AxonHub: All‑in‑one AI 开发平台负载均衡和自动重试非常哇塞但是少了高级的请求转换功能 这点 new api 比较好• 统一 API,兼容 OpenAI、Anthropic 等多家供应商,实现模型互换无需改动代码 • 线程级追踪与成本监控,实时可观测请求链路与费用 • 细粒度 RBAC 权限和自适应负载均衡,保障安全与高可用

    AxonHub: All‑in‑one AI 开发平台

    负载均衡和自动重试非常哇塞

    但是少了高级的请求转换功能 这点 new api 比较好

    • 统一 API,兼容 OpenAI、Anthropic 等多家供应商,实现模型互换无需改动代码
    • 线程级追踪与成本监控,实时可观测请求链路与费用
    • 细粒度 RBAC 权限和自适应负载均衡,保障安全与高可用

    https://github.com/looplj/axonhub

    #AI #API #网关 #OpenAI #Anthropic #GitHub

    • ❤️2
  7. Everything Claude Code: Claude Code 配置大全,提升 AI 编程效率 • 完整的 agents、skills、hooks、commands、rules 与 MCP 配置,直接复制即用 • 支持 token 优化、记忆持久化、并行子代理编排,实现长上下文高效交互 • 附带简明与进阶双指南,手把手教你从入门到生产级部署

    Everything Claude Code: Claude Code 配置大全,提升 AI 编程效率

    • 完整的 agents、skills、hooks、commands、rules 与 MCP 配置,直接复制即用

    • 支持 token 优化、记忆持久化、并行子代理编排,实现长上下文高效交互

    • 附带简明与进阶双指南,手把手教你从入门到生产级部署

    https://github.com/affaan-m/everything-claude-code

    #Claude #AI #代码自动化 #开源 #Anthropic #GitHub

    • ❤️5