本地部署 | 折腾啥

OpenCode2API: 将运行在本地的 OpenCode 转换为 OpenAI 兼容 API ，以在任何 OpenAI 客户端中使用免费模型@awaEmpty 佬的项目更新了- 默认禁用 OpenCode 自带工具调用，优先保证安全，避免客户端请求直接触发本地内置工具- 它支持外部客户端传入 OpenAI 风格的 tools / function, 通过代理桥接转换成兼容的 tool_calls / function_call 返回- 为避免工具重名冲突，会用内部命名空间隔离外部工具，比如 web_fetch 不会误调用到 OpenCode 容器里的同名工具

Sun, 19 Apr 2026 00:00:00 GMT

OpenCode2API: 将运行在本地的 OpenCode 转换为 OpenAI 兼容 API ，以在任何 OpenAI 客户端中使用免费模型

@awaEmpty 佬的项目更新了

- 默认禁用 OpenCode 自带工具调用，优先保证安全，避免客户端请求直接触发本地内置工具

- 它支持外部客户端传入 OpenAI 风格的 tools / function, 通过代理桥接转换成兼容的 tool_calls / function_call 返回

- 为避免工具重名冲突，会用内部命名空间隔离外部工具，比如 web_fetch 不会误调用到 OpenCode 容器里的同名工具

https://github.com/TiaraBasori/opencode2api

合集群组恰饭联系推广

#OpenCode #OpenAI #API #网关 #本地部署 #Docker #AI #代理 #GitHub #开发工具

OpenCode2API: 将本地 OpenCode 快速封装为 OpenAI 兼容 API 网关来自 @awaEmpty• 兼容 OpenAI 常用接口，包括 /v1/models、/v1/chat/completions 和 /v1/responses，可直接接入现有 OpenAI 客户端与工作流• 支持 SSE 流式输出与推理参数控制，适合需要 reasoning、实时返回和多模型切换的 AI 应用场景• 提供 Docker 一键部署与默认工具调用安全限制，在本地或生产环境中都更容易落地和运维

Sat, 11 Apr 2026 10:52:51 GMT

OpenCode2API: 将本地 OpenCode 快速封装为 OpenAI 兼容 API 网关

来自 @awaEmpty

• 兼容 OpenAI 常用接口，包括 /v1/models、/v1/chat/completions 和 /v1/responses，可直接接入现有 OpenAI 客户端与工作流

• 支持 SSE 流式输出与推理参数控制，适合需要 reasoning、实时返回和多模型切换的 AI 应用场景

• 提供 Docker 一键部署与默认工具调用安全限制，在本地或生产环境中都更容易落地和运维

https://github.com/TiaraBasori/opencode2api

合集群组恰饭联系推广

#OpenCode #OpenAI #API #网关 #本地部署 #Docker #AI #代理 #GitHub #开发工具

GitHub

GitHub - TiaraBasori/OpenCode2API: 将运行在本地的 OpenCode 转换为 OpenAI 兼容 API ，以在任何 OpenAI 客户端中使用免费模型。

将运行在本地的 OpenCode 转换为 OpenAI 兼容 API ，以在任何 OpenAI 客户端中使用免费模型。 - TiaraBasori/OpenCode2API

JANG: 面向 Apple Silicon 的 MLX 混合精度量化格式• 针对 MoE 与超大模型做按张量分配比特宽度，在接近 MLX 体积下优先保留 attention 与 router 精度，低比特场景下稳定性和效果更强• 支持 Qwen、Nemotron、MiniMax、DeepSeek 等架构，部分模型可在 16 GB 或 64 GB Mac 上运行，甚至实现 397B 级模型在 128 GB Mac 上推理• 原生兼容 MLX 生态，提供推理模式、VLM 支持、bfloat16 自动检测和开发者集成方案，适合在 Apple Silicon 上部署高压缩本地模型

Tue, 24 Mar 2026 07:00:00 GMT

JANG: 面向 Apple Silicon 的 MLX 混合精度量化格式

• 针对 MoE 与超大模型做按张量分配比特宽度，在接近 MLX 体积下优先保留 attention 与 router 精度，低比特场景下稳定性和效果更强

• 支持 Qwen、Nemotron、MiniMax、DeepSeek 等架构，部分模型可在 16 GB 或 64 GB Mac 上运行，甚至实现 397B 级模型在 128 GB Mac 上推理

• 原生兼容 MLX 生态，提供推理模式、VLM 支持、bfloat16 自动检测和开发者集成方案，适合在 Apple Silicon 上部署高压缩本地模型

https://github.com/jjang-ai/jangq

#AppleSilicon #MLX #模型量化 #混合精度量化 #本地大模型 #MoE #推理优化 #Mac #AI #GitHub

GitHub

GitHub - jjang-ai/jangq: JANG — GGUF for MLX. YOU MUST USE JANG_Q RUNTIME. Adaptive Mixed-Precision Quantization + Runtime for…

JANG — GGUF for MLX. YOU MUST USE JANG_Q RUNTIME. Adaptive Mixed-Precision Quantization + Runtime for Apple Silicon - jjang-ai/jangq

telegram-watch: 将 Telegram 群组消息转化为本地化结构信号的监控工具我愿称之为视奸/尾行工具• 支持多目标监控与控制群路由，可按目标群和用户维度映射 Topic，适合社区运营、研究追踪与交易信号归档• 提供本地 GUI 配置与运行控制，支持 Run once、守护模式、实时日志查看，降低 Telegram 自动化使用门槛• 完全本地运行，无需 Bot，默认使用 SQLite 持久化消息与媒体快照，并自动生成 HTML 报告，兼顾隐私与可审计性

Wed, 18 Mar 2026 10:05:06 GMT

telegram-watch: 将 Telegram 群组消息转化为本地化结构信号的监控工具

~~我愿称之为视奸/尾行工具~~

• 支持多目标监控与控制群路由，可按目标群和用户维度映射 Topic，适合社区运营、研究追踪与交易信号归档

• 提供本地 GUI 配置与运行控制，支持 Run once、守护模式、实时日志查看，降低 Telegram 自动化使用门槛

• 完全本地运行，无需 Bot，默认使用 SQLite 持久化消息与媒体快照，并自动生成 HTML 报告，兼顾隐私与可审计性

https://github.com/o1xhack/telegram-watch

#Telegram #消息监控 #本地化部署 #SQLite #HTML 报告 #社区运营 #信号提取 #隐私优先 #Python #GitHub

GELab-Zero: 面向移动端的全开源 GUI Agent 基础设施与模型方案• 同时开源 Agent 模型与工程基础设施，支持本地部署，无需依赖云端，兼顾隐私控制与即插即用体验• 针对 Mac M 系列芯片与 NVIDIA RTX 4060 优化，支持消费级硬件运行，并可通过 ADB 打通 Android 设备自动化执行• 提供多设备管理、任务分发、ReAct 循环、多智能体协作与 MCP Server 能力，适合从原型验证快速走向真实业务落地

Tue, 17 Mar 2026 00:01:41 GMT

GELab-Zero: 面向移动端的全开源 GUI Agent 基础设施与模型方案

• 同时开源 Agent 模型与工程基础设施，支持本地部署，无需依赖云端，兼顾隐私控制与即插即用体验

• 针对 Mac M 系列芯片与 NVIDIA RTX 4060 优化，支持消费级硬件运行，并可通过 ADB 打通 Android 设备自动化执行

• 提供多设备管理、任务分发、ReAct 循环、多智能体协作与 MCP Server 能力，适合从原型验证快速走向真实业务落地

https://github.com/stepfun-ai/gelab-zero

#GUIAgent #移动端 Agent #本地部署 #开源项目 #Android 自动化 #ADB #MCP #多智能体 #AI #GitHub

Qwen3.5-9B-Claude-4.6-Opus-Uncensored-Distilled-GGUF: 面向本地部署的轻量级创意与推理模型🔞可用于本地涩涩等场景• 基于 Qwen 3.5 9B，并融入 Claude Opus 4.6 蒸馏思路，主打更强的创意表达、对话表现与角色扮演场景• 提供 GGUF 与低显存友好的 Q4_K_M 量化版本，作者反馈在 RTX 3060 12 GB 上可达约 38 tok/s，适合本地聊天、游戏 NPC 与 Home Lab 部署• 模型采用 Apache 2.0 许可证，便于社区测试与二次集成

Mon, 16 Mar 2026 13:21:45 GMT

Qwen3.5-9B-Claude-4.6-Opus-Uncensored-Distilled-GGUF: 面向本地部署的轻量级创意与推理模型

🔞可用于本地涩涩等场景

• 基于 Qwen 3.5 9B，并融入 Claude Opus 4.6 蒸馏思路，主打更强的创意表达、对话表现与角色扮演场景

• 提供 GGUF 与低显存友好的 Q4_K_M 量化版本，作者反馈在 RTX 3060 12 GB 上可达约 38 tok/s，适合本地聊天、游戏 NPC 与 Home Lab 部署

• 模型采用 Apache 2.0 许可证，便于社区测试与二次集成

https://www.reddit.com/r/LocalLLaMA/comments/1runlpf/qwen359bclaude46opusuncensoreddistilledgguf

#AI #Uncensored #本地大模型 #模型蒸馏 #GGUF #Qwen #Claude #LMStudio #量化模型 #低显存部署 #角色扮演 #LocalLLaMA

[Mature Content] From the LocalLLaMA community on Reddit: Qwen3.5-9B-Claude-4.6-Opus-Uncensored-Distilled-GGUF

Posted by EvilEnginer - 1,409 votes and 210 comments

oMLX: 面向 Mac 本地部署的高性能 LLM 推理与管理工具• 基于 Apple Silicon 优化，支持连续批处理与分层 KV Cache，可将热缓存放在内存、冷缓存落到 SSD，显著提升本地大模型的响应效率与上下文复用能力• 同一服务可统一承载 LLM、VLM、Embedding 与 Reranker，支持模型自动发现、按需加载、LRU 淘汰、Pin 常驻和 TTL 卸载，适合多模型并行工作流• 提供 macOS 菜单栏应用与 Web 管理面板，兼容 OpenAI / Anthropic API，并内置模型下载、性能测试、聊天界面与 MCP 工具集成，降低本地 AI 服务运维门槛

Sat, 14 Mar 2026 02:03:54 GMT

oMLX: 面向 Mac 本地部署的高性能 LLM 推理与管理工具

• 基于 Apple Silicon 优化，支持连续批处理与分层 KV Cache，可将热缓存放在内存、冷缓存落到 SSD，显著提升本地大模型的响应效率与上下文复用能力

• 同一服务可统一承载 LLM、VLM、Embedding 与 Reranker，支持模型自动发现、按需加载、LRU 淘汰、Pin 常驻和 TTL 卸载，适合多模型并行工作流

• 提供 macOS 菜单栏应用与 Web 管理面板，兼容 OpenAI / Anthropic API，并内置模型下载、性能测试、聊天界面与 MCP 工具集成，降低本地 AI 服务运维门槛

https://github.com/jundot/omlx

#本地大模型 #Mac AI #Apple Silicon #LLM 推理 #KV Cache #多模型服务 #OpenAI API #Anthropic API #MCP #GitHub #AI

onWatch: 面向 AI 开发者的本地化配额监控与历史分析工具• 实时追踪 Synthetic、Z.ai、Anthropic、Codex、GitHub Copilot 等多家服务的 API 配额使用情况，并提供统一仪表盘视图• 以轻量后台 Agent 运行，历史数据落地到 SQLite，支持周期分析、使用趋势、会话级追踪和重置倒计时• 单文件 CLI 部署简单，零遥测设计，所有数据保留在本机，适合重视隐私与成本控制的开发者

Sun, 08 Mar 2026 10:00:29 GMT

onWatch: 面向 AI 开发者的本地化配额监控与历史分析工具

• 实时追踪 Synthetic、Z.ai、Anthropic、Codex、GitHub Copilot 等多家服务的 API 配额使用情况，并提供统一仪表盘视图

• 以轻量后台 Agent 运行，历史数据落地到 SQLite，支持周期分析、使用趋势、会话级追踪和重置倒计时

• 单文件 CLI 部署简单，零遥测设计，所有数据保留在本机，适合重视隐私与成本控制的开发者

https://github.com/onllm-dev/onwatch

#AI #开发工具 #配额监控 #本地优先 #CLI #SQLite #GitHub #Anthropic #Codex #GitHub Copilot #开发者效率

Pinokio: 面向开源项目的一键式本地启动与脚本运行平台• 通过可视化界面一键安装并启动任意开源项目，同时保留 Terminal 级别的脚本执行能力• 脚本默认运行在 ~/pinokio 隔离目录，依赖安装集中在本地沙箱环境，降低系统级污染与越界风险• Discover 收录脚本需经过发布者验证、仓库转移冻结与人工安全审查，且脚本以公开 JSON 形式可读可审计

Sun, 22 Feb 2026 01:04:05 GMT

Pinokio: 面向开源项目的一键式本地启动与脚本运行平台

• 通过可视化界面一键安装并启动任意开源项目，同时保留 Terminal 级别的脚本执行能力

• 脚本默认运行在 ~/pinokio 隔离目录，依赖安装集中在本地沙箱环境，降低系统级污染与越界风险

• Discover 收录脚本需经过发布者验证、仓库转移冻结与人工安全审查，且脚本以公开 JSON 形式可读可审计

https://github.com/pinokiocomputer/pinokio

#开源工具 #脚本自动化 #本地部署 #开发者工具 #GitHub #Pinokio

opencode-to-openai: 把 OpenCode CLI 变成 OpenAI 兼容 REST API 的轻量网关• 将 OpenCode 的免费模型统一转换为标准 /v1 接口，直接接入 Cursor、Claude Code、OpenClaw 等支持 OpenAI 格式的客户端 • 支持 OpenClaw 插件原生集成与独立 Server 两种部署方式，提供 /health、/v1/models 等自检接口便于排障 • 默认禁用工具调用并支持 API Key 鉴权，可按需开启调试日志与隔离 HOME 配置以兼顾安全与稳定

Thu, 12 Feb 2026 03:59:13 GMT

opencode-to-openai: 把 OpenCode CLI 变成 OpenAI 兼容 REST API 的轻量网关

• 将 OpenCode 的免费模型统一转换为标准 /v1 接口，直接接入 Cursor、Claude Code、OpenClaw 等支持 OpenAI 格式的客户端
• 支持 OpenClaw 插件原生集成与独立 Server 两种部署方式，提供 /health、/v1/models 等自检接口便于排障
• 默认禁用工具调用并支持 API Key 鉴权，可按需开启调试日志与隔离 HOME 配置以兼顾安全与稳定

https://github.com/dxxzst/opencode-to-openai

相关: OpenCode AI Proxy: OpenCode 2 API

#API 网关 #OpenAI 兼容 #OpenCode #OpenClaw #Node.js #AI 客户端 #本地部署 #模型接入 #开源工具 #MIT License

GitHub

GitHub - dxxzst/opencode-to-openai

Contribute to dxxzst/opencode-to-openai development by creating an account on GitHub.