Search: #本地部署

1. 

   折腾啥

   OpenCode2API: 将运行在本地的 OpenCode 转换为 OpenAI 兼容 API ，以在任何 OpenAI 客户端中使用免费模型@awaEmpty 佬的项目更新了- 默认禁用 OpenCode 自带工具调用，优先保证安全，避免客户端请求直接触发本地内置工具- 它支持外部客户端传入 OpenAI 风格的 tools / function, 通过代理桥接转换成兼容的 tool_calls / function_call 返回- 为避免工具重名冲突，会用内部命名空间隔离外部工具，比如 web_fetch 不会误调用到 OpenCode 容器里的同名工具

   08:00 · 2026年4月19日 · 周日

   

   ×

   

   OpenCode2API: 将运行在本地的 OpenCode 转换为 OpenAI 兼容 API ，以在任何 OpenAI 客户端中使用免费模型
   
   @awaEmpty 佬的项目更新了
   
   - 默认禁用 OpenCode 自带工具调用，优先保证安全，避免客户端请求直接触发本地内置工具
   
   - 它支持外部客户端传入 OpenAI 风格的 tools / function, 通过代理桥接转换成兼容的 tool_calls / function_call 返回
   
   - 为避免工具重名冲突，会用内部命名空间隔离外部工具，比如 web_fetch 不会误调用到 OpenCode 容器里的同名工具
   
   https://github.com/TiaraBasori/opencode2api
   
   合集 群组 恰饭 联系推广
   
   #OpenCode #OpenAI #API #网关 #本地部署 #Docker #AI #代理 #GitHub #开发工具

   08:00 · 2026年4月19日 · 周日

   • 👍2

   OpenCodeOpenAIAPI网关本地部署DockerAI代理GitHub开发工具

2. 

   折腾啥

   OpenCode2API: 将本地 OpenCode 快速封装为 OpenAI 兼容 API 网关来自 @awaEmpty• 兼容 OpenAI 常用接口，包括 /v1/models、/v1/chat/completions 和 /v1/responses，可直接接入现有 OpenAI 客户端与工作流• 支持 SSE 流式输出与推理参数控制，适合需要 reasoning、实时返回和多模型切换的 AI 应用场景• 提供 Docker 一键部署与默认工具调用安全限制，在本地或生产环境中都更容易落地和运维

   18:52 · 2026年4月11日 · 周六

   OpenCode2API: 将本地 OpenCode 快速封装为 OpenAI 兼容 API 网关
   
   来自 @awaEmpty
   
   • 兼容 OpenAI 常用接口，包括 /v1/models、/v1/chat/completions 和 /v1/responses，可直接接入现有 OpenAI 客户端与工作流
   
   • 支持 SSE 流式输出与推理参数控制，适合需要 reasoning、实时返回和多模型切换的 AI 应用场景
   
   • 提供 Docker 一键部署与默认工具调用安全限制，在本地或生产环境中都更容易落地和运维
   
   https://github.com/TiaraBasori/opencode2api
   
   合集 群组 恰饭 联系推广
   
   #OpenCode #OpenAI #API #网关 #本地部署 #Docker #AI #代理 #GitHub #开发工具

   GitHub

   GitHub - TiaraBasori/OpenCode2API: 将运行在本地的 OpenCode 转换为 OpenAI 兼容 API ，以在任何 OpenAI 客户端中使用免费模型。

   将运行在本地的 OpenCode 转换为 OpenAI 兼容 API ，以在任何 OpenAI 客户端中使用免费模型。 - TiaraBasori/OpenCode2API

   18:52 · 2026年4月11日 · 周六

   OpenCodeOpenAIAPI网关本地部署DockerAI代理GitHub开发工具

3. 

   折腾啥

   JANG: 面向 Apple Silicon 的 MLX 混合精度量化格式• 针对 MoE 与超大模型做按张量分配比特宽度，在接近 MLX 体积下优先保留 attention 与 router 精度，低比特场景下稳定性和效果更强• 支持 Qwen、Nemotron、MiniMax、DeepSeek 等架构，部分模型可在 16 GB 或 64 GB Mac 上运行，甚至实现 397B 级模型在 128 GB Mac 上推理• 原生兼容 MLX 生态，提供推理模式、VLM 支持、bfloat16 自动检测和开发者集成方案，适合在 Apple Silicon 上部署高压缩本地模型

   15:00 · 2026年3月24日 · 周二

   JANG: 面向 Apple Silicon 的 MLX 混合精度量化格式
   
   • 针对 MoE 与超大模型做按张量分配比特宽度，在接近 MLX 体积下优先保留 attention 与 router 精度，低比特场景下稳定性和效果更强
   
   • 支持 Qwen、Nemotron、MiniMax、DeepSeek 等架构，部分模型可在 16 GB 或 64 GB Mac 上运行，甚至实现 397B 级模型在 128 GB Mac 上推理
   
   • 原生兼容 MLX 生态，提供推理模式、VLM 支持、bfloat16 自动检测和开发者集成方案，适合在 Apple Silicon 上部署高压缩本地模型
   
   https://github.com/jjang-ai/jangq
   
   #AppleSilicon #MLX #模型量化 #混合精度量化 #本地大模型 #MoE #推理优化 #Mac #AI #GitHub

   GitHub

   

   GitHub - jjang-ai/jangq: JANG — GGUF for MLX. YOU MUST USE JANG_Q RUNTIME. Adaptive Mixed-Precision Quantization + Runtime for…

   JANG — GGUF for MLX. YOU MUST USE JANG_Q RUNTIME. Adaptive Mixed-Precision Quantization + Runtime for Apple Silicon - jjang-ai/jangq

   15:00 · 2026年3月24日 · 周二

   • ❤️3

   AppleSiliconMLX模型量化混合精度量化本地大模型MoE推理优化MacAIGitHub

4. 

   折腾啥

   telegram-watch: 将 Telegram 群组消息转化为本地化结构信号的监控工具我愿称之为视奸/尾行工具• 支持多目标监控与控制群路由，可按目标群和用户维度映射 Topic，适合社区运营、研究追踪与交易信号归档• 提供本地 GUI 配置与运行控制，支持 Run once、守护模式、实时日志查看，降低 Telegram 自动化使用门槛• 完全本地运行，无需 Bot，默认使用 SQLite 持久化消息与媒体快照，并自动生成 HTML 报告，兼顾隐私与可审计性

   18:05 · 2026年3月18日 · 周三

   

   ×

   

   telegram-watch: 将 Telegram 群组消息转化为本地化结构信号的监控工具
   
   我愿称之为视奸/尾行工具
   
   • 支持多目标监控与控制群路由，可按目标群和用户维度映射 Topic，适合社区运营、研究追踪与交易信号归档
   
   • 提供本地 GUI 配置与运行控制，支持 Run once、守护模式、实时日志查看，降低 Telegram 自动化使用门槛
   
   • 完全本地运行，无需 Bot，默认使用 SQLite 持久化消息与媒体快照，并自动生成 HTML 报告，兼顾隐私与可审计性
   
   https://github.com/o1xhack/telegram-watch
   
   #Telegram #消息监控 #本地化部署 #SQLite #HTML 报告 #社区运营 #信号提取 #隐私优先 #Python #GitHub

   18:05 · 2026年3月18日 · 周三

   • ❤️4
   • 🤣1

   Telegram消息监控本地化部署SQLiteHTML社区运营信号提取隐私优先PythonGitHub

5. 

   折腾啥

   GELab-Zero: 面向移动端的全开源 GUI Agent 基础设施与模型方案• 同时开源 Agent 模型与工程基础设施，支持本地部署，无需依赖云端，兼顾隐私控制与即插即用体验• 针对 Mac M 系列芯片与 NVIDIA RTX 4060 优化，支持消费级硬件运行，并可通过 ADB 打通 Android 设备自动化执行• 提供多设备管理、任务分发、ReAct 循环、多智能体协作与 MCP Server 能力，适合从原型验证快速走向真实业务落地

   08:01 · 2026年3月17日 · 周二

   

   ×

   

   GELab-Zero: 面向移动端的全开源 GUI Agent 基础设施与模型方案
   
   • 同时开源 Agent 模型与工程基础设施，支持本地部署，无需依赖云端，兼顾隐私控制与即插即用体验
   
   • 针对 Mac M 系列芯片与 NVIDIA RTX 4060 优化，支持消费级硬件运行，并可通过 ADB 打通 Android 设备自动化执行
   
   • 提供多设备管理、任务分发、ReAct 循环、多智能体协作与 MCP Server 能力，适合从原型验证快速走向真实业务落地
   
   https://github.com/stepfun-ai/gelab-zero
   
   #GUIAgent #移动端 Agent #本地部署 #开源项目 #Android 自动化 #ADB #MCP #多智能体 #AI #GitHub

   08:01 · 2026年3月17日 · 周二

   GUIAgent移动端本地部署开源项目AndroidADBMCP多智能体AIGitHub

6. 

   折腾啥

   Qwen3.5-9B-Claude-4.6-Opus-Uncensored-Distilled-GGUF: 面向本地部署的轻量级创意与推理模型🔞可用于本地涩涩等场景• 基于 Qwen 3.5 9B，并融入 Claude Opus 4.6 蒸馏思路，主打更强的创意表达、对话表现与角色扮演场景• 提供 GGUF 与低显存友好的 Q4_K_M 量化版本，作者反馈在 RTX 3060 12 GB 上可达约 38 tok/s，适合本地聊天、游戏 NPC 与 Home Lab 部署• 模型采用 Apache 2.0 许可证，便于社区测试与二次集成

   21:21 · 2026年3月16日 · 周一

   Qwen3.5-9B-Claude-4.6-Opus-Uncensored-Distilled-GGUF: 面向本地部署的轻量级创意与推理模型
   
   🔞可用于本地涩涩等场景
   
   • 基于 Qwen 3.5 9B，并融入 Claude Opus 4.6 蒸馏思路，主打更强的创意表达、对话表现与角色扮演场景
   
   • 提供 GGUF 与低显存友好的 Q4_K_M 量化版本，作者反馈在 RTX 3060 12 GB 上可达约 38 tok/s，适合本地聊天、游戏 NPC 与 Home Lab 部署
   
   • 模型采用 Apache 2.0 许可证，便于社区测试与二次集成
   
   https://www.reddit.com/r/LocalLLaMA/comments/1runlpf/qwen359bclaude46opusuncensoreddistilledgguf
   
   #AI #Uncensored #本地大模型 #模型蒸馏 #GGUF #Qwen #Claude #LMStudio #量化模型 #低显存部署 #角色扮演 #LocalLLaMA

   Reddit

   

   [Mature Content] From the LocalLLaMA community on Reddit: Qwen3.5-9B-Claude-4.6-Opus-Uncensored-Distilled-GGUF

   Posted by EvilEnginer - 1,409 votes and 210 comments

   21:21 · 2026年3月16日 · 周一

   • ❤️5

   AIUncensored本地大模型模型蒸馏GGUFQwenClaudeLMStudio量化模型低显存部署角色扮演LocalLLaMA

7. 

   折腾啥

   oMLX: 面向 Mac 本地部署的高性能 LLM 推理与管理工具• 基于 Apple Silicon 优化，支持连续批处理与分层 KV Cache，可将热缓存放在内存、冷缓存落到 SSD，显著提升本地大模型的响应效率与上下文复用能力• 同一服务可统一承载 LLM、VLM、Embedding 与 Reranker，支持模型自动发现、按需加载、LRU 淘汰、Pin 常驻和 TTL 卸载，适合多模型并行工作流• 提供 macOS 菜单栏应用与 Web 管理面板，兼容 OpenAI / Anthropic API，并内置模型下载、性能测试、聊天界面与 MCP 工具集成，降低本地 AI 服务运维门槛

   10:03 · 2026年3月14日 · 周六

   

   ×

   

   oMLX: 面向 Mac 本地部署的高性能 LLM 推理与管理工具
   
   • 基于 Apple Silicon 优化，支持连续批处理与分层 KV Cache，可将热缓存放在内存、冷缓存落到 SSD，显著提升本地大模型的响应效率与上下文复用能力
   
   • 同一服务可统一承载 LLM、VLM、Embedding 与 Reranker，支持模型自动发现、按需加载、LRU 淘汰、Pin 常驻和 TTL 卸载，适合多模型并行工作流
   
   • 提供 macOS 菜单栏应用与 Web 管理面板，兼容 OpenAI / Anthropic API，并内置模型下载、性能测试、聊天界面与 MCP 工具集成，降低本地 AI 服务运维门槛
   
   https://github.com/jundot/omlx
   
   #本地大模型 #Mac AI #Apple Silicon #LLM 推理 #KV Cache #多模型服务 #OpenAI API #Anthropic API #MCP #GitHub #AI

   10:03 · 2026年3月14日 · 周六

   • 👍1

   本地大模型MacAppleLLMKV多模型服务OpenAIAnthropicMCPGitHubAI

8. 

   折腾啥

   onWatch: 面向 AI 开发者的本地化配额监控与历史分析工具• 实时追踪 Synthetic、Z.ai、Anthropic、Codex、GitHub Copilot 等多家服务的 API 配额使用情况，并提供统一仪表盘视图• 以轻量后台 Agent 运行，历史数据落地到 SQLite，支持周期分析、使用趋势、会话级追踪和重置倒计时• 单文件 CLI 部署简单，零遥测设计，所有数据保留在本机，适合重视隐私与成本控制的开发者

   18:00 · 2026年3月8日 · 周日

   

   ×

   

   onWatch: 面向 AI 开发者的本地化配额监控与历史分析工具
   
   • 实时追踪 Synthetic、Z.ai、Anthropic、Codex、GitHub Copilot 等多家服务的 API 配额使用情况，并提供统一仪表盘视图
   
   • 以轻量后台 Agent 运行，历史数据落地到 SQLite，支持周期分析、使用趋势、会话级追踪和重置倒计时
   
   • 单文件 CLI 部署简单，零遥测设计，所有数据保留在本机，适合重视隐私与成本控制的开发者
   
   https://github.com/onllm-dev/onwatch
   
   #AI #开发工具 #配额监控 #本地优先 #CLI #SQLite #GitHub #Anthropic #Codex #GitHub Copilot #开发者效率

   18:00 · 2026年3月8日 · 周日

   • ❤️1

   AI开发工具配额监控本地优先CLISQLiteGitHubAnthropicCodexGitHub开发者效率

9. 

   折腾啥

   Pinokio: 面向开源项目的一键式本地启动与脚本运行平台• 通过可视化界面一键安装并启动任意开源项目，同时保留 Terminal 级别的脚本执行能力• 脚本默认运行在 ~/pinokio 隔离目录，依赖安装集中在本地沙箱环境，降低系统级污染与越界风险• Discover 收录脚本需经过发布者验证、仓库转移冻结与人工安全审查，且脚本以公开 JSON 形式可读可审计

   09:04 · 2026年2月22日 · 周日

   Pinokio: 面向开源项目的一键式本地启动与脚本运行平台
   
   • 通过可视化界面一键安装并启动任意开源项目，同时保留 Terminal 级别的脚本执行能力
   
   • 脚本默认运行在 ~/pinokio 隔离目录，依赖安装集中在本地沙箱环境，降低系统级污染与越界风险
   
   • Discover 收录脚本需经过发布者验证、仓库转移冻结与人工安全审查，且脚本以公开 JSON 形式可读可审计
   
   https://github.com/pinokiocomputer/pinokio
   
   #开源工具 #脚本自动化 #本地部署 #开发者工具 #GitHub #Pinokio

   09:04 · 2026年2月22日 · 周日

   开源工具脚本自动化本地部署开发者工具GitHubPinokio

10. 

    折腾啥

    opencode-to-openai: 把 OpenCode CLI 变成 OpenAI 兼容 REST API 的轻量网关• 将 OpenCode 的免费模型统一转换为标准 /v1 接口，直接接入 Cursor、Claude Code、OpenClaw 等支持 OpenAI 格式的客户端 • 支持 OpenClaw 插件原生集成与独立 Server 两种部署方式，提供 /health、/v1/models 等自检接口便于排障 • 默认禁用工具调用并支持 API Key 鉴权，可按需开启调试日志与隔离 HOME 配置以兼顾安全与稳定

    11:59 · 2026年2月12日 · 周四

    opencode-to-openai: 把 OpenCode CLI 变成 OpenAI 兼容 REST API 的轻量网关
    
    • 将 OpenCode 的免费模型统一转换为标准 /v1 接口，直接接入 Cursor、Claude Code、OpenClaw 等支持 OpenAI 格式的客户端
    • 支持 OpenClaw 插件原生集成与独立 Server 两种部署方式，提供 /health、/v1/models 等自检接口便于排障
    • 默认禁用工具调用并支持 API Key 鉴权，可按需开启调试日志与隔离 HOME 配置以兼顾安全与稳定
    
    https://github.com/dxxzst/opencode-to-openai
    
    相关: OpenCode AI Proxy: OpenCode 2 API
    
    #API 网关 #OpenAI 兼容 #OpenCode #OpenClaw #Node.js #AI 客户端 #本地部署 #模型接入 #开源工具 #MIT License

    GitHub

    

    GitHub - dxxzst/opencode-to-openai

    Contribute to dxxzst/opencode-to-openai development by creating an account on GitHub.

    11:59 · 2026年2月12日 · 周四

    • ❤️2

    APIOpenAIOpenCodeOpenClawNodeAI本地部署模型接入开源工具MIT