Search: #本地AI
- Orchard: 面向 Apple Container 的原生 macOS 容器与本地 AI 管理面板
• 基于 Swift 与原生 XPC API 构建，可统一管理容器、镜像、网络、 DNS、机器与 Kubernetes 集群
• 内置本地 AI 工作流，可发现或启动 MLX 模型服务，并将容器自动接入本地模型端点，适合 Agent sandbox 场景
• 支持 Dockerfile 镜像构建、实时日志、多容器监控和 Cmd + K 命令面板，日常开发与调试体验很顺手
https://github.com/andrew-waters/orchard
合集 
群组 
恰饭 
联系推广
#容器管理 #macOS #AppleContainer #Kubernetes #本地模型 #AI #MLX #Swift #GitHub - Rapid-MLX: 面向 Apple Silicon 的高性能本地 AI 引擎
• 基于 MLX 原生优化，支持连续批处理、提示缓存和量化 KV Cache，本地推理速度表现很强
• 提供兼容 OpenAI 与 Anthropic 的 API 接口，可直接接入 Claude Code、Aider、Codex CLI 等开发工具链
• 覆盖文本、音频、视频、嵌入与工具调用场景，适合在 Mac 上快速搭建统一的本地 AI 服务层
https://github.com/raullenchai/Rapid-MLX
GUI: https://rapidmlx.com/desktop 合集 群组 恰饭 联系推广#本地推理 #模型服务 #工具调用 #AppleSilicon #MLX #OpenAI #ClaudeCode- ❤️1
- ad-skipper: 本地 AI 驱动的 Android 开屏广告自动跳过工具
Max Lv 新作品
• 三层检测链路覆盖无障碍节点匹配、ML Kit 本地 OCR、YOLO 与 VLM grounding，命中后自动完成点击
• 全部识别在设备本地执行，内置 ncnn YOLO 检测器，并支持导入或下载 GGUF 视觉模型处理复杂开屏场景
• 针对 HyperOS 冻结、长开屏和静默广告做了专项优化，真机环境下具备更强稳定性
https://github.com/madeye/ad-skipper 合集 群组 恰饭 联系推广#Android #无障碍服务 #开屏广告 #本地模型 #OCR #YOLO #llama.cpp #GitHub- ❤️10
- 👍2
- mxr: 面向终端与 AI Agent 的本地优先邮件客户端
感谢群友 @suynyx 的分享
• 将 Gmail、Outlook、Microsoft 365 与 IMAP 账户聚合到统一本地邮箱，邮件历史存入 SQLite，并用 Tantivy 建立本地搜索索引
• 提供 TUI、CLI、Web、MCP 与 Agent skill 一致接口，适合脚本化检索、批量处理、草稿生成与自动化邮件工作流
• 采用常驻 daemon 架构，支持离线变更队列、语义搜索扩展、权限控制与活动日志，适合技术用户构建个人邮件自动化系统
https://github.com/planetaryescape/mxr 合集 群组 恰饭 联系推广#邮件客户端 #本地优先 #终端工具 #AI #Rust #SQLite #Tantivy #MCP #GitHub- ❤️2
- Files.md: 面向 Markdown 的本地优先知识管理工具
• 基于纯 .md 文件构建个人知识库，支持笔记、日记、任务、项目等内容，数据完全由用户掌控，天然兼容 AI 工作流
• 浏览器即可运行，支持 PWA 离线使用、可选自托管同步、云盘同步及 Telegram Bot，兼顾隐私与多设备协作
• 极简架构设计，无需 Electron 和复杂构建流程，代码易于理解与扩展，适合开发者基于 LLM 深度定制自己的知识管理系统
https://github.com/zakirullin/files.md 合集 群组 恰饭 联系推广#知识管理 #Markdown #本地优先 #开源项目 #GitHub #PWA #Telegram #Go #AI- ❤️3
- 👏3
- SiliconScope: 专为 Apple Silicon 打造的可视化性能监控工具
感谢群友 @rainyovo233 分享
• 原生 SwiftUI 界面，实时监控 CPU、GPU、ANE、Media Engine、内存带宽等核心指标，无需 sudo 权限即可使用
• 内置 AI Workload 分析视图，可识别带宽瓶颈、计算瓶颈、热限制和内存压力，帮助定位本地 LLM 推理性能问题
• 支持显示模型加载情况、GPU/CPU 分流比例、统一内存占用与交换状态，适合 LM Studio 等本地 AI 工作负载调优
https://github.com/kennss/SiliconScope 合集 群组 恰饭 联系推广 #AppleSilicon #macOS #性能监控 #本地AI #LLM #SwiftUI #开发工具 #系统监控 #ANE #MediaEngine #GitHub- ❤️2
- OpenBridge: 面向 macOS 的本地 AI Agent 工作台
• 在本机运行编码与效率 Agent，支持接入 OpenAI、Anthropic、Gemini、GitHub Copilot 等多种模型与订阅服务
• 通过 Sandbox VM 先审查文件改动再落盘到主机环境，适合代码生成、批量修改与自动化执行场景
• 原生 SwiftUI 界面结合多任务状态追踪、本地 Skills 扩展与 Computer Use，覆盖聊天、执行、审阅的完整闭环
https://github.com/AFK-surf/OpenBridge 合集 群组 恰饭 联系推广 #OpenBridge #AI #Agent #macOS #本地优先 #代码助手 #Sandbox #SwiftUI #GitHub- ❤️4
- Operit: Android 上功能完备的 AI 智能助手
感谢群友 @wuyiyii 的推荐
• 内置完整 Ubuntu 24 环境，支持 vim、Python、Node.js 等本地工具，手机即可运行复杂 Linux 命令
• 本地 MNN/llama.cpp 模型离线推理，保护隐私数据，支持多模型切换
• 智能记忆系统自动分类管理对话，支持时间查询、导入导出、自动总结，提供个性化服务
https://github.com/AAswordman/Operit 合集 群组 恰饭 联系推广 #AI #Android #Ubuntu #本地模型 #智能助手- ❤️4
- 🌚1
- dYm: 抖音视频下载与 AI 内容分析一体化桌面工具
我将逐帧认真学习
• 集成创作者管理、批量下载和任务追踪，适合内容采集、素材归档和账号研究
• 通过 FFmpeg 提取关键帧并接入 OpenAI 兼容视觉 API，自动生成标签、分类和结构化分析结果
• 基于 SQLite 本地存储，支持按创作者、AI 标签和内容分级筛选，方便运营复盘与内容检索
https://github.com/Everless321/dYm 合集 群组 恰饭 联系推广 #抖音下载 #短视频分析 #内容运营 #本地数据库 #AI #Electron #TypeScript #GitHub- ⭐1
- ❤️5
- OpenCode2API: 将本地 OpenCode 快速封装为 OpenAI 兼容 API 网关
来自 @awaEmpty
• 兼容 OpenAI 常用接口，包括 /v1/models、/v1/chat/completions 和 /v1/responses，可直接接入现有 OpenAI 客户端与工作流
• 支持 SSE 流式输出与推理参数控制，适合需要 reasoning、实时返回和多模型切换的 AI 应用场景
• 提供 Docker 一键部署与默认工具调用安全限制，在本地或生产环境中都更容易落地和运维
https://github.com/TiaraBasori/opencode2api 合集 群组 恰饭 联系推广 #OpenCode #OpenAI #API #网关 #本地部署 #Docker #AI #代理 #GitHub #开发工具
GitHub
GitHub - TiaraBasori/OpenCode2API: 将运行在本地的 OpenCode 转换为 OpenAI 兼容 API ，以在任何 OpenAI 客户端中使用免费模型。将运行在本地的 OpenCode 转换为 OpenAI 兼容 API ，以在任何 OpenAI 客户端中使用免费模型。 - TiaraBasori/OpenCode2API - OpenCow: 面向任务驱动的开源自主 AI Agent 协作平台
• 采用 1 个任务 = 1 个 Agent 的工作模式，自动绑定项目文件、历史记录和团队规范，适合把需求、报告、功能开发与审计流程并行推进
• 支持多 Agent 并发交付与审批门控，可在统一指挥界面中实时追踪执行进度、审阅产物，并通过 Telegram、Discord、微信、飞书等渠道下发任务
• 基于 Electron + React + TypeScript + SQLite 构建，本地优先、零遥测，支持 Claude Agent SDK、Codex SDK 与 MCP，兼顾隐私、安全与可扩展性
https://github.com/OpenCowAI/opencow
#开源项目 #自主 #Agent #AI #协作 #任务自动化 #本地优先 #隐私安全 #Electron #React #TypeScript #SQLite #Claude #Codex #MCP #GitHub- ❤️3
- JANG: 面向 Apple Silicon 的 MLX 混合精度量化格式
• 针对 MoE 与超大模型做按张量分配比特宽度，在接近 MLX 体积下优先保留 attention 与 router 精度，低比特场景下稳定性和效果更强
• 支持 Qwen、Nemotron、MiniMax、DeepSeek 等架构，部分模型可在 16 GB 或 64 GB Mac 上运行，甚至实现 397B 级模型在 128 GB Mac 上推理
• 原生兼容 MLX 生态，提供推理模式、VLM 支持、bfloat16 自动检测和开发者集成方案，适合在 Apple Silicon 上部署高压缩本地模型
https://github.com/jjang-ai/jangq
#AppleSilicon #MLX #模型量化 #混合精度量化 #本地大模型 #MoE #推理优化 #Mac #AI #GitHubGitHub
GitHub - jjang-ai/jangq: JANG — GGUF for MLX. YOU MUST USE JANG_Q RUNTIME. Adaptive Mixed-Precision Quantization + Runtime for…JANG — GGUF for MLX. YOU MUST USE JANG_Q RUNTIME. Adaptive Mixed-Precision Quantization + Runtime for Apple Silicon - jjang-ai/jangq- ❤️3
- GELab-Zero: 面向移动端的全开源 GUI Agent 基础设施与模型方案
• 同时开源 Agent 模型与工程基础设施，支持本地部署，无需依赖云端，兼顾隐私控制与即插即用体验
• 针对 Mac M 系列芯片与 NVIDIA RTX 4060 优化，支持消费级硬件运行，并可通过 ADB 打通 Android 设备自动化执行
• 提供多设备管理、任务分发、ReAct 循环、多智能体协作与 MCP Server 能力，适合从原型验证快速走向真实业务落地
https://github.com/stepfun-ai/gelab-zero
#GUIAgent #移动端 Agent #本地部署 #开源项目 #Android 自动化 #ADB #MCP #多智能体 #AI #GitHub - oMLX: 面向 Mac 本地部署的高性能 LLM 推理与管理工具
• 基于 Apple Silicon 优化，支持连续批处理与分层 KV Cache，可将热缓存放在内存、冷缓存落到 SSD，显著提升本地大模型的响应效率与上下文复用能力
• 同一服务可统一承载 LLM、VLM、Embedding 与 Reranker，支持模型自动发现、按需加载、LRU 淘汰、Pin 常驻和 TTL 卸载，适合多模型并行工作流
• 提供 macOS 菜单栏应用与 Web 管理面板，兼容 OpenAI / Anthropic API，并内置模型下载、性能测试、聊天界面与 MCP 工具集成，降低本地 AI 服务运维门槛
https://github.com/jundot/omlx
#本地大模型 #Mac AI #Apple Silicon #LLM 推理 #KV Cache #多模型服务 #OpenAI API #Anthropic API #MCP #GitHub #AI- ❤️1
- 👍1
- onWatch: 面向 AI 开发者的本地化配额监控与历史分析工具
• 实时追踪 Synthetic、Z.ai、Anthropic、Codex、GitHub Copilot 等多家服务的 API 配额使用情况，并提供统一仪表盘视图
• 以轻量后台 Agent 运行，历史数据落地到 SQLite，支持周期分析、使用趋势、会话级追踪和重置倒计时
• 单文件 CLI 部署简单，零遥测设计，所有数据保留在本机，适合重视隐私与成本控制的开发者
https://github.com/onllm-dev/onwatch
#AI #开发工具 #配额监控 #本地优先 #CLI #SQLite #GitHub #Anthropic #Codex #GitHub Copilot #开发者效率- ❤️1
- 还有个对应的 lora 能用
我看别人在用 https://huggingface.co/renderartist/Technically-Color-Z-Image-Turbo/blob/main/Technically_Color_Z_Image_Turbo_v1_renderartist_2000.safetensors
https://t.me/zhetengsha/4814Telegram
折腾啥MindCraft Studio: 面向 Apple Silicon 的本地 AI 影像工作室
还有个对应的 lora 能用
我看别人在用 https://huggingface.co/renderartist/Technically-Color-Z-Image-Turbo/blob/main/Technically_Color_Z_Image_Turbo_v1_renderartist_2000.safetensors
• 本地运行 Z-Image Turbo、FLUX、SDXL 等模型，基于…- ❤️1
- MindCraft Studio: 面向 Apple Silicon 的本地 AI 影像工作室
还有个对应的 lora 能用
我看别人在用 https://huggingface.co/renderartist/Technically-Color-Z-Image-Turbo/blob/main/Technically_Color_Z_Image_Turbo_v1_renderartist_2000.safetensors
• 本地运行 Z-Image Turbo、FLUX、SDXL 等模型，基于 MLX 与 Metal 加速，生成更快且不出网
• 一体化工作流覆盖 txt2img、img2img、ControlNet、In-Context 编辑与 4x 超分，细节控制更精确
• 支持 LoRA 适配器与 Redux 风格参考，便于做一致风格与批量变体生成
https://themindstudio.cc/mindcraft
#本地推理 #AI 作图 #图像生成 #Apple Silicon #Mac #MLX #FLUX #SDXL #ControlNet #LoRA- ❤️1
- opencode-to-openai: 把 OpenCode CLI 变成 OpenAI 兼容 REST API 的轻量网关
• 将 OpenCode 的免费模型统一转换为标准 /v1 接口，直接接入 Cursor、Claude Code、OpenClaw 等支持 OpenAI 格式的客户端
• 支持 OpenClaw 插件原生集成与独立 Server 两种部署方式，提供 /health、/v1/models 等自检接口便于排障
• 默认禁用工具调用并支持 API Key 鉴权，可按需开启调试日志与隔离 HOME 配置以兼顾安全与稳定
https://github.com/dxxzst/opencode-to-openai
相关: OpenCode AI Proxy: OpenCode 2 API
#API 网关 #OpenAI 兼容 #OpenCode #OpenClaw #Node.js #AI 客户端 #本地部署 #模型接入 #开源工具 #MIT LicenseGitHubGitHub - dxxzst/opencode-to-openaiContribute to dxxzst/opencode-to-openai development by creating an account on GitHub.- ❤️2
- MimiClaw: 把 ESP32-S3 变成可在 Telegram 对话的口袋 AI 助理
• 纯 C + ESP-IDF 实现，无需 Linux / Node.js，USB 供电即可 24/7 运行
• 基于 Claude + tool use 的 ReAct Agent 循环，支持工具调用与可选 Brave Search 网页搜索
• 本地 Flash 持久化记忆与会话（SOUL.md / USER.md / MEMORY.md 等），支持串口 CLI 动态改配置与 OTA 远程更新
https://github.com/memovai/mimiclaw
#嵌入式 #ESP32S3 #物联网 #AI #Telegram #Claude #ESP-IDF #C语言 #本地记忆 #OTA #ReAct #BraveSearch #GitHub- ❤️2
- 👍1
