Squirrel: 企业级 LLM 网关, 统一代理 OpenAI、Anthropic 及兼容 API

• 一次接入统一 API, 兼容 OpenAI Chat、OpenAI Responses 与 Anthropic Messages, 并支持请求/响应/流式互转
• 智能路由与高可用, 支持规则路由、负载均衡、自动重试与故障转移, 可按成本或优先级自动选模型
• 全面可观测性 + 管理面板, 记录 Token 用量/延迟/成本与请求日志, 提供 Next.js 管理后台做供应商、模型映射与 API Key 管理

https://github.com/mylxsw/llm-gateway

#LLM #AI #网关 #代理服务 #OpenAI #Anthropic #可观测性 #负载均衡 #故障转移 #成本优化 #Docker #Nextjs #Python