Search: #本地推理

  1. mxr: 面向终端与 AI Agent 的本地优先邮件客户端感谢群友 @suynyx 的分享• 将 Gmail、Outlook、Microsoft 365 与 IMAP 账户聚合到统一本地邮箱,邮件历史存入 SQLite,并用 Tantivy 建立本地搜索索引• 提供 TUI、CLI、Web、MCP 与 Agent skill 一致接口,适合脚本化检索、批量处理、草稿生成与自动化邮件工作流• 采用常驻 daemon 架构,支持离线变更队列、语义搜索扩展、权限控制与活动日志,适合技术用户构建个人邮件自动化系统

    mxr: 面向终端与 AI Agent 的本地优先邮件客户端

    感谢群友 @suynyx 的分享

    • 将 Gmail、Outlook、Microsoft 365 与 IMAP 账户聚合到统一本地邮箱,邮件历史存入 SQLite,并用 Tantivy 建立本地搜索索引

    • 提供 TUI、CLI、Web、MCP 与 Agent skill 一致接口,适合脚本化检索、批量处理、草稿生成与自动化邮件工作流

    • 采用常驻 daemon 架构,支持离线变更队列、语义搜索扩展、权限控制与活动日志,适合技术用户构建个人邮件自动化系统

    https://github.com/planetaryescape/mxr

    合集 群组 恰饭 联系推广

    #邮件客户端 #本地优先 #终端工具 #AI #Rust #SQLite #Tantivy #MCP #GitHub

    • ❤️2
  2. FavBox: 面向重度收藏用户的本地优先书签管理扩展• 基于浏览器原生书签体系工作,自动抓取页面标题、描述、图片等元数据,构建更完整的书签索引• 支持标签、关键词、域名、文件夹等多维搜索与筛选,配合多种视图模式和快捷键提升检索效率• 数据保存在本地 IndexedDB,并结合浏览器书签同步机制同步标签,同时提供重复链接和失效书签检测

    FavBox: 面向重度收藏用户的本地优先书签管理扩展

    • 基于浏览器原生书签体系工作,自动抓取页面标题、描述、图片等元数据,构建更完整的书签索引

    • 支持标签、关键词、域名、文件夹等多维搜索与筛选,配合多种视图模式和快捷键提升检索效率

    • 数据保存在本地 IndexedDB,并结合浏览器书签同步机制同步标签,同时提供重复链接和失效书签检测

    https://github.com/dd3v/favbox

    合集 群组 恰饭 联系推广

    #书签管理 #浏览器扩展 #本地优先 #开源工具 #IndexedDB #GitHub #Chrome

    • ❤️4
  3. ZenConverter: Android 端纯本地格式转换工具群友 @cenyiyi 自荐• 基于 Kotlin 与 Jetpack Compose 开发,所有转换均在本地完成,免费、无广告、无需账号,兼顾隐私与使用体验• 支持视频、音频、图片、PDF 等多种格式互转,覆盖 MP4 重编码、音频提取、图片与 PDF 转换、PDF 合并等常见场景• 集成本地 Office 转 PDF 实验功能,自带中文字体渲染,适合移动端文档处理与日常办公

    ZenConverter: Android 端纯本地格式转换工具

    群友 @cenyiyi 自荐

    • 基于 Kotlin 与 Jetpack Compose 开发,所有转换均在本地完成,免费、无广告、无需账号,兼顾隐私与使用体验

    • 支持视频、音频、图片、PDF 等多种格式互转,覆盖 MP4 重编码、音频提取、图片与 PDF 转换、PDF 合并等常见场景

    • 集成本地 Office 转 PDF 实验功能,自带中文字体渲染,适合移动端文档处理与日常办公

    https://github.com/Jasonzhu1207/ZenConverter

    https://www.nodeseek.com/post-824182-1

    合集 群组 恰饭 联系推广

    #开源 #Android #格式转换 #本地处理 #Kotlin #JetpackCompose #GitHub

    • ❤️3
  4. Nimclip: 原生本地优先的 macOS 剪贴板历史管理工具 很轻很快支持 Telegram 大会员表情等数据暂不支持 OCR 已支持 OCR• 常驻菜单栏运行,支持文字、链接、代码、图片历史记录,通过 ⌘ ⇧ V 快速搜索并粘贴历史内容,提升日常复制粘贴效率• 提供标签、收藏、类型筛选、来源应用识别、富文本保留、纯文本粘贴、多条内容合并等功能,覆盖开发与办公常用场景• 数据基于 SwiftData 与 SQLite 保存在本地,支持中英文界面、深浅色主题、快捷键、自定义保留策略,兼顾隐私与使用体验

    Nimclip: 原生本地优先的 macOS 剪贴板历史管理工具

    很轻很快
    支持 Telegram 大会员表情等数据
    暂不支持 OCR 已支持 OCR

    • 常驻菜单栏运行,支持文字、链接、代码、图片历史记录,通过 ⌘ ⇧ V 快速搜索并粘贴历史内容,提升日常复制粘贴效率

    • 提供标签、收藏、类型筛选、来源应用识别、富文本保留、纯文本粘贴、多条内容合并等功能,覆盖开发与办公常用场景

    • 数据基于 SwiftData 与 SQLite 保存在本地,支持中英文界面、深浅色主题、快捷键、自定义保留策略,兼顾隐私与使用体验

    https://github.com/hukdoesn/Nimclip

    合集 群组 恰饭 联系推广

    #macOS #剪贴板 #效率工具 #开源项目 #Swift #SwiftUI #GitHub #本地优先

  5. Files.md: 面向 Markdown 的本地优先知识管理工具• 基于纯 .md 文件构建个人知识库,支持笔记、日记、任务、项目等内容,数据完全由用户掌控,天然兼容 AI 工作流• 浏览器即可运行,支持 PWA 离线使用、可选自托管同步、云盘同步及 Telegram Bot,兼顾隐私与多设备协作• 极简架构设计,无需 Electron 和复杂构建流程,代码易于理解与扩展,适合开发者基于 LLM 深度定制自己的知识管理系统

    Files.md: 面向 Markdown 的本地优先知识管理工具

    • 基于纯 .md 文件构建个人知识库,支持笔记、日记、任务、项目等内容,数据完全由用户掌控,天然兼容 AI 工作流

    • 浏览器即可运行,支持 PWA 离线使用、可选自托管同步、云盘同步及 Telegram Bot,兼顾隐私与多设备协作

    • 极简架构设计,无需 Electron 和复杂构建流程,代码易于理解与扩展,适合开发者基于 LLM 深度定制自己的知识管理系统

    https://github.com/zakirullin/files.md

    合集 群组 恰饭 联系推广

    #知识管理 #Markdown #本地优先 #开源项目 #GitHub #PWA #Telegram #Go #AI

    • 👏3
    • ❤️2
  6. SiliconScope: 专为 Apple Silicon 打造的可视化性能监控工具感谢群友 @rainyovo233 分享• 原生 SwiftUI 界面,实时监控 CPU、GPU、ANE、Media Engine、内存带宽等核心指标,无需 sudo 权限即可使用 • 内置 AI Workload 分析视图,可识别带宽瓶颈、计算瓶颈、热限制和内存压力,帮助定位本地 LLM 推理性能问题 • 支持显示模型加载情况、GPU/CPU 分流比例、统一内存占用与交换状态,适合 LM Studio 等本地 AI 工作负载调优

    SiliconScope: 专为 Apple Silicon 打造的可视化性能监控工具

    感谢群友 @rainyovo233 分享

    • 原生 SwiftUI 界面,实时监控 CPU、GPU、ANE、Media Engine、内存带宽等核心指标,无需 sudo 权限即可使用

    • 内置 AI Workload 分析视图,可识别带宽瓶颈、计算瓶颈、热限制和内存压力,帮助定位本地 LLM 推理性能问题

    • 支持显示模型加载情况、GPU/CPU 分流比例、统一内存占用与交换状态,适合 LM Studio 等本地 AI 工作负载调优

    https://github.com/kennss/SiliconScope

    合集 群组 恰饭 联系推广

    #AppleSilicon #macOS #性能监控 #本地AI #LLM #SwiftUI #开发工具 #系统监控 #ANE #MediaEngine #GitHub

    • ❤️2
  7. Operit: Android 上功能完备的 AI 智能助手感谢群友 @wuyiyii 的推荐• 内置完整 Ubuntu 24 环境,支持 vim、Python、Node.js 等本地工具,手机即可运行复杂 Linux 命令 • 本地 MNN/llama.cpp 模型离线推理,保护隐私数据,支持多模型切换 • 智能记忆系统自动分类管理对话,支持时间查询、导入导出、自动总结,提供个性化服务

    Operit: Android 上功能完备的 AI 智能助手

    感谢群友 @wuyiyii 的推荐

    • 内置完整 Ubuntu 24 环境,支持 vim、Python、Node.js 等本地工具,手机即可运行复杂 Linux 命令

    • 本地 MNN/llama.cpp 模型离线推理,保护隐私数据,支持多模型切换

    • 智能记忆系统自动分类管理对话,支持时间查询、导入导出、自动总结,提供个性化服务

    https://github.com/AAswordman/Operit

    合集 群组 恰饭 联系推广

    #AI #Android #Ubuntu #本地模型 #智能助手

    • ❤️4
    • 🌚1
  8. dYm: 抖音视频下载与 AI 内容分析一体化桌面工具我将逐帧认真学习 • 集成创作者管理、批量下载和任务追踪,适合内容采集、素材归档和账号研究• 通过 FFmpeg 提取关键帧并接入 OpenAI 兼容视觉 API,自动生成标签、分类和结构化分析结果• 基于 SQLite 本地存储,支持按创作者、AI 标签和内容分级筛选,方便运营复盘与内容检索

    dYm: 抖音视频下载与 AI 内容分析一体化桌面工具

    我将逐帧认真学习


    • 集成创作者管理、批量下载和任务追踪,适合内容采集、素材归档和账号研究

    • 通过 FFmpeg 提取关键帧并接入 OpenAI 兼容视觉 API,自动生成标签、分类和结构化分析结果

    • 基于 SQLite 本地存储,支持按创作者、AI 标签和内容分级筛选,方便运营复盘与内容检索

    https://github.com/Everless321/dYm

    合集 群组 恰饭 联系推广

    #抖音下载 #短视频分析 #内容运营 #本地数据库 #AI #Electron #TypeScript #GitHub

    • 1
    • ❤️5
  9. keep-codex-fast: 面向重度 Codex 用户的本地状态维护与归档工具• 默认以报告模式检查会话、日志、worktree 和进程占用,帮助你快速看清本地状态• 支持在归档前生成 handoff 文档和 reactivation prompt,方便把旧会话转换成可持续接力的上下文• 提供备份优先的维护流程,可归档旧聊天、整理 stale worktree、轮转大日志并清理失效项目引用

    keep-codex-fast: 面向重度 Codex 用户的本地状态维护与归档工具

    • 默认以报告模式检查会话、日志、worktree 和进程占用,帮助你快速看清本地状态

    • 支持在归档前生成 handoff 文档和 reactivation prompt,方便把旧会话转换成可持续接力的上下文

    • 提供备份优先的维护流程,可归档旧聊天、整理 stale worktree、轮转大日志并清理失效项目引用

    https://github.com/vibeforge1111/keep-codex-fast

    合集 群组 恰饭 联系推广

    #Codex #开发效率 #本地状态管理 #会话归档 #Python #GitHub

  10. Binnacle: 面向 Cloudflare D1、R2 和 KV 的本地优先原生桌面工作台• 在一个原生桌面界面里统一管理 D1 查询、R2 对象浏览和 KV 键值编辑• API Token 存储在系统钥匙串,工作区状态、查询历史和布局持续保存在本地• 基于 Rust + GPUI 构建,支持标签页工作区、键盘导航和会话恢复,适合高频 Cloudflare 数据操作

    Binnacle: 面向 Cloudflare D1、R2 和 KV 的本地优先原生桌面工作台

    • 在一个原生桌面界面里统一管理 D1 查询、R2 对象浏览和 KV 键值编辑

    • API Token 存储在系统钥匙串,工作区状态、查询历史和布局持续保存在本地

    • 基于 Rust + GPUI 构建,支持标签页工作区、键盘导航和会话恢复,适合高频 Cloudflare 数据操作

    https://github.com/binnacle-app/Binnacle

    合集 群组 恰饭 联系推广

    #Cloudflare #D1 #R2 #KV #Rust #GPUI #本地优先 #开发者工具

    • ❤️3
  11. 遮鸭 Maskduck: iOS 免费离线图片打码• 自动识别手机号、邮箱、身份证、银行卡、IPv4、车牌和长数字串,适合截图分享前快速处理• 支持矩形选区和画笔涂抹,提供色块、马赛克、模糊、隐藏文字 4 种打码样式• 内置撤销重做与一键分享保存,整个处理流程都在本地完成,适合高频发图场景美区:

    遮鸭 Maskduck: iOS 免费离线图片打码

    • 自动识别手机号、邮箱、身份证、银行卡、IPv4、车牌和长数字串,适合截图分享前快速处理

    • 支持矩形选区和画笔涂抹,提供色块、马赛克、模糊、隐藏文字 4 种打码样式

    • 内置撤销重做与一键分享保存,整个处理流程都在本地完成,适合高频发图场景

    美区: https://apps.apple.com/us/app/maskduck/id6762729063

    https://v2ex.com/t/1208205

    合集 群组 恰饭 联系推广

    #iOS #隐私保护 #图片打码 #本地处理 #效率工具 #截图分享

    • 👍4
  12. OpenCode2API: 将运行在本地的 OpenCode 转换为 OpenAI 兼容 API ,以在任何 OpenAI 客户端中使用免费模型@awaEmpty 佬的项目更新了- 默认禁用 OpenCode 自带工具调用,优先保证安全,避免客户端请求直接触发本地内置工具- 它支持外部客户端传入 OpenAI 风格的 tools / function, 通过代理桥接转换成兼容的 tool_calls / function_call 返回- 为避免工具重名冲突,会用内部命名空间隔离外部工具,比如 web_fetch 不会误调用到 OpenCode 容器里的同名工具

    OpenCode2API: 将运行在本地的 OpenCode 转换为 OpenAI 兼容 API ,以在任何 OpenAI 客户端中使用免费模型

    @awaEmpty 佬的项目更新了

    - 默认禁用 OpenCode 自带工具调用,优先保证安全,避免客户端请求直接触发本地内置工具

    - 它支持外部客户端传入 OpenAI 风格的 tools / function, 通过代理桥接转换成兼容的 tool_calls / function_call 返回

    - 为避免工具重名冲突,会用内部命名空间隔离外部工具,比如 web_fetch 不会误调用到 OpenCode 容器里的同名工具

    https://github.com/TiaraBasori/opencode2api

    合集 群组 恰饭 联系推广

    #OpenCode #OpenAI #API #网关 #本地部署 #Docker #AI #代理 #GitHub #开发工具

    • 👍2
  13. Koharu: 基于 Rust 构建的本地优先漫画翻译工作台• 集成文本区域检测、OCR、去字修复与 LLM 翻译,覆盖漫画翻译的完整处理链路• 支持本地与远程模型后端,兼容 llama.cpp、OpenAI 兼容接口,以及 OpenAI、Gemini、Claude、DeepSeek 等服务• 提供竖排 CJK、RTL 文本渲染、可编辑 PSD 导出、Local HTTP API 与 MCP Server,方便接入自动化工作流

    Koharu: 基于 Rust 构建的本地优先漫画翻译工作台

    • 集成文本区域检测、OCR、去字修复与 LLM 翻译,覆盖漫画翻译的完整处理链路

    • 支持本地与远程模型后端,兼容 llama.cpp、OpenAI 兼容接口,以及 OpenAI、Gemini、Claude、DeepSeek 等服务

    • 提供竖排 CJK、RTL 文本渲染、可编辑 PSD 导出、Local HTTP API 与 MCP Server,方便接入自动化工作流

    https://github.com/mayocream/koharu

    合集 群组 恰饭 联系推广

    #漫画翻译 #OCR #机器学习 #Rust #LLM #本地优先 #图像处理 #MCP #GitHub

  14. OpenCode2API: 将本地 OpenCode 快速封装为 OpenAI 兼容 API 网关来自 @awaEmpty• 兼容 OpenAI 常用接口,包括 /v1/models、/v1/chat/completions 和 /v1/responses,可直接接入现有 OpenAI 客户端与工作流• 支持 SSE 流式输出与推理参数控制,适合需要 reasoning、实时返回和多模型切换的 AI 应用场景• 提供 Docker 一键部署与默认工具调用安全限制,在本地或生产环境中都更容易落地和运维

    OpenCode2API: 将本地 OpenCode 快速封装为 OpenAI 兼容 API 网关

    来自 @awaEmpty

    • 兼容 OpenAI 常用接口,包括 /v1/models、/v1/chat/completions 和 /v1/responses,可直接接入现有 OpenAI 客户端与工作流

    • 支持 SSE 流式输出与推理参数控制,适合需要 reasoning、实时返回和多模型切换的 AI 应用场景

    • 提供 Docker 一键部署与默认工具调用安全限制,在本地或生产环境中都更容易落地和运维

    https://github.com/TiaraBasori/opencode2api

    合集 群组 恰饭 联系推广

    #OpenCode #OpenAI #API #网关 #本地部署 #Docker #AI #代理 #GitHub #开发工具

  15. JANG: 面向 Apple Silicon 的 MLX 混合精度量化格式• 针对 MoE 与超大模型做按张量分配比特宽度,在接近 MLX 体积下优先保留 attention 与 router 精度,低比特场景下稳定性和效果更强• 支持 Qwen、Nemotron、MiniMax、DeepSeek 等架构,部分模型可在 16 GB 或 64 GB Mac 上运行,甚至实现 397B 级模型在 128 GB Mac 上推理• 原生兼容 MLX 生态,提供推理模式、VLM 支持、bfloat16 自动检测和开发者集成方案,适合在 Apple Silicon 上部署高压缩本地模型

    JANG: 面向 Apple Silicon 的 MLX 混合精度量化格式

    • 针对 MoE 与超大模型做按张量分配比特宽度,在接近 MLX 体积下优先保留 attention 与 router 精度,低比特场景下稳定性和效果更强

    • 支持 Qwen、Nemotron、MiniMax、DeepSeek 等架构,部分模型可在 16 GB 或 64 GB Mac 上运行,甚至实现 397B 级模型在 128 GB Mac 上推理

    • 原生兼容 MLX 生态,提供推理模式、VLM 支持、bfloat16 自动检测和开发者集成方案,适合在 Apple Silicon 上部署高压缩本地模型

    https://github.com/jjang-ai/jangq

    #AppleSilicon #MLX #模型量化 #混合精度量化 #本地大模型 #MoE #推理优化 #Mac #AI #GitHub GitHub - jjang-ai/jangq: JANG — GGUF for MLX. YOU MUST USE JANG_Q RUNTIME. Adaptive Mixed-Precision Quantization + Runtime for…

    • ❤️3
  16. Qwen3.5-9B-Claude-4.6-Opus-Uncensored-Distilled-GGUF: 面向本地部署的轻量级创意与推理模型🔞可用于本地涩涩等场景• 基于 Qwen 3.5 9B,并融入 Claude Opus 4.6 蒸馏思路,主打更强的创意表达、对话表现与角色扮演场景• 提供 GGUF 与低显存友好的 Q4_K_M 量化版本,作者反馈在 RTX 3060 12 GB 上可达约 38 tok/s,适合本地聊天、游戏 NPC 与 Home Lab 部署• 模型采用 Apache 2.0 许可证,便于社区测试与二次集成

    Qwen3.5-9B-Claude-4.6-Opus-Uncensored-Distilled-GGUF: 面向本地部署的轻量级创意与推理模型

    🔞可用于本地涩涩等场景

    • 基于 Qwen 3.5 9B,并融入 Claude Opus 4.6 蒸馏思路,主打更强的创意表达、对话表现与角色扮演场景

    • 提供 GGUF 与低显存友好的 Q4_K_M 量化版本,作者反馈在 RTX 3060 12 GB 上可达约 38 tok/s,适合本地聊天、游戏 NPC 与 Home Lab 部署

    • 模型采用 Apache 2.0 许可证,便于社区测试与二次集成

    https://www.reddit.com/r/LocalLLaMA/comments/1runlpf/qwen359bclaude46opusuncensoreddistilledgguf

    #AI #Uncensored #本地大模型 #模型蒸馏 #GGUF #Qwen #Claude #LMStudio #量化模型 #低显存部署 #角色扮演 #LocalLLaMA [Mature Content] From the LocalLLaMA community on Reddit: Qwen3.5-9B-Claude-4.6-Opus-Uncensored-Distilled-GGUF

    • ❤️5
  17. oMLX: 面向 Mac 本地部署的高性能 LLM 推理与管理工具• 基于 Apple Silicon 优化,支持连续批处理与分层 KV Cache,可将热缓存放在内存、冷缓存落到 SSD,显著提升本地大模型的响应效率与上下文复用能力• 同一服务可统一承载 LLM、VLM、Embedding 与 Reranker,支持模型自动发现、按需加载、LRU 淘汰、Pin 常驻和 TTL 卸载,适合多模型并行工作流• 提供 macOS 菜单栏应用与 Web 管理面板,兼容 OpenAI / Anthropic API,并内置模型下载、性能测试、聊天界面与 MCP 工具集成,降低本地 AI 服务运维门槛

    oMLX: 面向 Mac 本地部署的高性能 LLM 推理与管理工具

    • 基于 Apple Silicon 优化,支持连续批处理与分层 KV Cache,可将热缓存放在内存、冷缓存落到 SSD,显著提升本地大模型的响应效率与上下文复用能力

    • 同一服务可统一承载 LLM、VLM、Embedding 与 Reranker,支持模型自动发现、按需加载、LRU 淘汰、Pin 常驻和 TTL 卸载,适合多模型并行工作流

    • 提供 macOS 菜单栏应用与 Web 管理面板,兼容 OpenAI / Anthropic API,并内置模型下载、性能测试、聊天界面与 MCP 工具集成,降低本地 AI 服务运维门槛

    https://github.com/jundot/omlx

    #本地大模型 #Mac AI #Apple Silicon #LLM 推理 #KV Cache #多模型服务 #OpenAI API #Anthropic API #MCP #GitHub #AI

    • 👍1
  18. 还有个对应的 lora 能用我看别人在用

    还有个对应的 lora 能用
    我看别人在用 https://huggingface.co/renderartist/Technically-Color-Z-Image-Turbo/blob/main/Technically_Color_Z_Image_Turbo_v1_renderartist_2000.safetensors

    https://t.me/zhetengsha/4814 折腾啥

    • ❤️1
  19. MindCraft Studio: 面向 Apple Silicon 的本地 AI 影像工作室 还有个对应的 lora 能用我看别人在用

    MindCraft Studio: 面向 Apple Silicon 的本地 AI 影像工作室

    还有个对应的 lora 能用
    我看别人在用 https://huggingface.co/renderartist/Technically-Color-Z-Image-Turbo/blob/main/Technically_Color_Z_Image_Turbo_v1_renderartist_2000.safetensors

    • 本地运行 Z-Image Turbo、FLUX、SDXL 等模型,基于 MLX 与 Metal 加速,生成更快且不出网
    • 一体化工作流覆盖 txt2img、img2img、ControlNet、In-Context 编辑与 4x 超分,细节控制更精确
    • 支持 LoRA 适配器与 Redux 风格参考,便于做一致风格与批量变体生成

    https://themindstudio.cc/mindcraft

    #本地推理 #AI 作图 #图像生成 #Apple Silicon #Mac #MLX #FLUX #SDXL #ControlNet #LoRA

    • ❤️1
  20. ByeTunes: 无需 iTunes,轻松管理 iOS 音乐和铃声感谢群友 @a158212892 的推荐• 直接将 MP3、M4A、FLAC、WAV 音乐文件注入到 Apple Music 库中,无需电脑同步 • 支持自定义铃声注入与自动格式转换,轻松管理个性化铃声 • 提供播放列表创建与编辑功能,实现便捷音乐管理

    ByeTunes: 无需 iTunes,轻松管理 iOS 音乐和铃声

    感谢群友 @a158212892 的推荐

    • 直接将 MP3、M4A、FLAC、WAV 音乐文件注入到 Apple Music 库中,无需电脑同步
    • 支持自定义铃声注入与自动格式转换,轻松管理个性化铃声
    • 提供播放列表创建与编辑功能,实现便捷音乐管理

    https://github.com/EduAlexxis/ByeTunes

    #音乐管理 #iOS #AppleMusic #铃声注入 #本地音乐 GitHub - EduAlexxis/ByeTunes: The first app of its kind: seamless, on-device music and ringtone injection for iOS. Bypass iTunes…

    • 3
    • ❤️4
    • 👍2
    • 🤣1