Search: #多

  1. DBX: 面向开发者的 AI 原生多数据库管理工具• 支持 90+ 种数据库连接,覆盖 MySQL、PostgreSQL、SQLite、Redis、MongoDB、ClickHouse 等主流与专业数据系统• 内置 AI SQL 生成、解释、优化与安全检查,并原生支持 MCP,可直接接入 Claude Code、Cursor、Windsurf 等助手• 提供 macOS、Windows、Linux 原生客户端,以及 Web 与 Docker 部署形态,约 20 MB 的单文件即可快速上手

    DBX: 面向开发者的 AI 原生多数据库管理工具

    • 支持 90+ 种数据库连接,覆盖 MySQL、PostgreSQL、SQLite、Redis、MongoDB、ClickHouse 等主流与专业数据系统

    • 内置 AI SQL 生成、解释、优化与安全检查,并原生支持 MCP,可直接接入 Claude Code、Cursor、Windsurf 等助手

    • 提供 macOS、Windows、Linux 原生客户端,以及 Web 与 Docker 部署形态,约 20 MB 的单文件即可快速上手

    https://github.com/t8y2/dbx

    合集 群组 恰饭 联系推广

    #数据库工具 #开发者工具 #多数据库管理 #AI #MCP #GitHub #SQL #Docker

    • ❤️1
  2. 2S-UI: sing-box 面板 fork 自 s-ui, 前端整套重写来自作者自荐跟 s-ui / 3x-ui 比主要这几点:· 改一个用户不会断掉其他人 —— 热更新用户表, 不摘掉整个 inbound 重加, QUIC 会话不受影响· 多节点集群, 一台面板管其他面板, 所有节点的线路合并进同一条订阅· 面板内一键升级, SHA256 校验 + 新二进制先跑冒烟测试才替换· 同时在线 IP 数限制· 前端 Vue 3 重写, 深浅双主题, 六语言, 手机上能正常用订阅支持 link / json / clash 三种格式GPL-3.0仓库:

    2S-UI: sing-box 面板 fork 自 s-ui, 前端整套重写

    来自作者自荐

    跟 s-ui / 3x-ui 比主要这几点:

    · 改一个用户不会断掉其他人 —— 热更新用户表, 不摘掉整个 inbound 重加, QUIC 会话不受影响

    · 多节点集群, 一台面板管其他面板, 所有节点的线路合并进同一条订阅

    · 面板内一键升级, SHA256 校验 + 新二进制先跑冒烟测试才替换

    · 同时在线 IP 数限制

    · 前端 Vue 3 重写, 深浅双主题, 六语言, 手机上能正常用

    订阅支持 link / json / clash 三种格式

    GPL-3.0

    仓库: https://github.com/shenaba/2s-ui

    官网: https://2s-ui.com

    一键安装:
    bash <(curl -Ls https://raw.githubusercontent.com/shenaba/2s-ui/main/install.sh)

    合集 群组 恰饭 联系推广

    #开源项目 #代理管理 #sing-box #多节点集群 #面板

    • 👍5
    • 🔥2
    • ❤️1
    • 🥰1
  3. Crisp: 面向 macOS 的开源外接显示器控制工具• 提供清晰的 HiDPI / Retina 级缩放,让 1440p 及以上外接屏获得更细腻的显示效果• 支持 DDC 亮度与音量控制,可通过菜单栏统一管理多台显示器的背光、音量和快捷键行为• 内置预设、显示器排列、虚拟显示器和 HDR / 色彩相关功能,适合日常办公与多屏工作流优化

    Crisp: 面向 macOS 的开源外接显示器控制工具

    • 提供清晰的 HiDPI / Retina 级缩放,让 1440p 及以上外接屏获得更细腻的显示效果

    • 支持 DDC 亮度与音量控制,可通过菜单栏统一管理多台显示器的背光、音量和快捷键行为

    • 内置预设、显示器排列、虚拟显示器和 HDR / 色彩相关功能,适合日常办公与多屏工作流优化

    https://github.com/didriksg/Crisp

    合集 群组 恰饭 联系推广

    #macOS #外接显示器 #HiDPI #DDC #开源工具 #多屏办公

    • ❤️3
  4. 狗头军师: 面向 Codex 的关系分析与行动建议 AI Skill• 先承接情绪,再拆分事实、推测与未知,给出清晰的关系判断和下一步策略• 支持聊天截图、导出文本与 ChatLab 数据分析,可生成可直接发送的话术、邀约方案和对话演练• 内置关系心理、法律、安全与多元关系知识库,支持用户授权后的本地长期记忆管理

    狗头军师: 面向 Codex 的关系分析与行动建议 AI Skill

    • 先承接情绪,再拆分事实、推测与未知,给出清晰的关系判断和下一步策略

    • 支持聊天截图、导出文本与 ChatLab 数据分析,可生成可直接发送的话术、邀约方案和对话演练

    • 内置关系心理、法律、安全与多元关系知识库,支持用户授权后的本地长期记忆管理

    https://github.com/powerycy/goutoujunshi

    合集 群组 恰饭 联系推广

    #关系分析 #聊天分析 #多元关系 #AI #Codex #GitHub GitHub - shengjidaguai-china/goutoujunshi: 一个先接住情绪、再分析关系并给出可执行策略的 Codex 恋爱军师,内置心理、法律、社会、人文、哲学、婚姻家庭与性学知识库,支持多元关系。

    • ❤️4
  5. HypoMux: Windows 多网卡并发聚合下载加速工具• 聚合有线网络、Wi-Fi 和手机热点等多条线路,为 Steam、IDM、浏览器等多连接下载任务提升吞吐• 支持系统代理与 TUN 虚拟网卡双模式,并通过 SOCKS5、HTTP 和网卡级连接调度接管流量• 提供进程级分流、实时网卡遥测和网络设置自动恢复,兼顾下载效率与低延迟应用体验

    HypoMux: Windows 多网卡并发聚合下载加速工具

    • 聚合有线网络、Wi-Fi 和手机热点等多条线路,为 Steam、IDM、浏览器等多连接下载任务提升吞吐

    • 支持系统代理与 TUN 虚拟网卡双模式,并通过 SOCKS5、HTTP 和网卡级连接调度接管流量

    • 提供进程级分流、实时网卡遥测和网络设置自动恢复,兼顾下载效率与低延迟应用体验

    https://github.com/Hypostasis-Cat/HypoMux

    合集 群组 恰饭 联系推广

    #多网卡聚合 #下载加速 #网络工具 #Windows #TUN #Python #GitHub

    • ❤️5
  6. Token Monitor: AI 编程工具 Token、成本与限额实时监控面板感谢群友 @hilhydra 的分享• 支持 Claude Code、Codex、Cursor、OpenCode、Kiro、GitHub Copilot 等多种 AI 编程工具用量追踪• 提供多设备实时同步、历史趋势、成本统计和模型 / 会话维度拆分• 支持本地优先运行、自托管 Hub、Cloudflare Worker 和 iOS 小组件联动

    Token Monitor: AI 编程工具 Token、成本与限额实时监控面板

    感谢群友 @hilhydra 的分享

    • 支持 Claude Code、Codex、Cursor、OpenCode、Kiro、GitHub Copilot 等多种 AI 编程工具用量追踪

    • 提供多设备实时同步、历史趋势、成本统计和模型 / 会话维度拆分

    • 支持本地优先运行、自托管 Hub、Cloudflare Worker 和 iOS 小组件联动

    https://github.com/Javis603/token-monitor

    合集 群组 恰饭 联系推广

    #AI #Token监控 #成本统计 #多设备同步 #ClaudeCode #Codex #Cursor #GitHub #开源工具

    • ❤️3
  7. Arkloop: 设计感优先的开源 AI Agent 桌面平台• 支持 OpenAI、Anthropic 及兼容 API,多模型路由可按优先级自动调度• 代码可在 Firecracker microVM 或 Docker 沙箱中隔离执行,并支持严格资源限制• 内置持久记忆、Prompt Injection 防护、Telegram 集成、MCP / ACP 与技能生态

    Arkloop: 设计感优先的开源 AI Agent 桌面平台

    • 支持 OpenAI、Anthropic 及兼容 API,多模型路由可按优先级自动调度

    • 代码可在 Firecracker microVM 或 Docker 沙箱中隔离执行,并支持严格资源限制

    • 内置持久记忆、Prompt Injection 防护、Telegram 集成、MCP / ACP 与技能生态

    https://github.com/qqqqqf-q/Arkloop

    合集 群组 恰饭 联系推广

    #AI #Agent #开源项目 #桌面应用 #多模型路由 #沙箱执行 #MCP #Telegram
    Media is too big
    VIEW IN TELEGRAM

  8. JetBrains Air: 面向多 Agent 并行协作的开发环境• 在同一工作流中调度 Codex、Claude Agent、Gemini CLI 和 Junie,并行执行独立任务循环• 基于 Docker 和 Git Worktree 提供隔离运行环境,适合拆分任务、分配不同 Agent 和控制上下文边界• 支持按文件、提交、符号和图片定义任务,配合进度可视化与代码审查视角,提升协作效率和可控性

    JetBrains Air: 面向多 Agent 并行协作的开发环境

    • 在同一工作流中调度 Codex、Claude Agent、Gemini CLI 和 Junie,并行执行独立任务循环

    • 基于 Docker 和 Git Worktree 提供隔离运行环境,适合拆分任务、分配不同 Agent 和控制上下文边界

    • 支持按文件、提交、符号和图片定义任务,配合进度可视化与代码审查视角,提升协作效率和可控性

    https://air.dev


    合集 群组 恰饭 联系推广

    #AI编程 #多Agent协作 #开发环境 #JetBrains #Docker #GitWorktree #ClaudeAgent #Codex #GeminiCLI #Junie

    • ❤️3
  9. Autofish: 面向 agent 和多 agent 系统的 Android 控制基础设施• 提供 Android 前台服务与 Rust CLI 组合,通过 HTTP API 完成截图、 UI 树检查、点击、滑动、输入等可编排控制• 使用稳定 refs 驱动交互,围绕观测、执行、验证形成闭环,适合需要确定性和可恢复性的自动化任务• 内置基于 SQLite 的本地工具记忆,持续记录事件、状态转换、恢复策略与 Agent 笔记,便于长期运行和多 agent 协作

    Autofish: 面向 agent 和多 agent 系统的 Android 控制基础设施

    • 提供 Android 前台服务与 Rust CLI 组合,通过 HTTP API 完成截图、 UI 树检查、点击、滑动、输入等可编排控制

    • 使用稳定 refs 驱动交互,围绕观测、执行、验证形成闭环,适合需要确定性和可恢复性的自动化任务

    • 内置基于 SQLite 的本地工具记忆,持续记录事件、状态转换、恢复策略与 Agent 笔记,便于长期运行和多 agent 协作

    https://github.com/memohai/Autofish

    合集 群组 恰饭 联系推广

    #Android自动化 #Agent基础设施 #多Agent #UI自动化 #GitHub #Rust #SQLite

    • ❤️1
  10. cc-connect: 将本地 AI Agent 接入聊天工具的多平台桥接器• 支持 Claude Code、Codex、Gemini CLI、Cursor Agent 等 10+ Agent,并覆盖 Telegram、飞书、Slack、Discord、企业微信、微信个人号等 11 个聊天平台• 内置 Web 管理后台,支持可视化管理项目、Provider、会话、技能和定时任务,也支持直接在浏览器中与 Agent 对话• 提供 /model、/mode、/dir、/memory 等聊天控制能力,结合语音、图片、附件回传和定时任务,适合代码审查、资料研究和自动化任务

    cc-connect: 将本地 AI Agent 接入聊天工具的多平台桥接器

    • 支持 Claude Code、Codex、Gemini CLI、Cursor Agent 等 10+ Agent,并覆盖 Telegram、飞书、Slack、Discord、企业微信、微信个人号等 11 个聊天平台

    • 内置 Web 管理后台,支持可视化管理项目、Provider、会话、技能和定时任务,也支持直接在浏览器中与 Agent 对话

    • 提供 /model、/mode、/dir、/memory 等聊天控制能力,结合语音、图片、附件回传和定时任务,适合代码审查、资料研究和自动化任务

    https://github.com/chenhg5/cc-connect

    合集 群组 恰饭 联系推广

    #AI #Agent #开源工具 #多平台桥接 #Telegram #ClaudeCode #自动化 #开发者工具 #GitHub

    • ❤️1
  11. ToGo Agent: 面向 LLM 的多智能体协作开源平台• 支持多个 AI Agent 在统一群聊空间中实时协作,适合处理拆解、讨论、补位式的复杂任务• 提供角色、技能、性格等自定义能力,方便快速搭建贴近真实团队分工的 Agent 体系• 内置可视化 Web 控制台与多层级团队架构管理,覆盖任务执行、消息流转和组织配置全过程

    ToGo Agent: 面向 LLM 的多智能体协作开源平台

    • 支持多个 AI Agent 在统一群聊空间中实时协作,适合处理拆解、讨论、补位式的复杂任务

    • 提供角色、技能、性格等自定义能力,方便快速搭建贴近真实团队分工的 Agent 体系

    • 内置可视化 Web 控制台与多层级团队架构管理,覆盖任务执行、消息流转和组织配置全过程

    https://github.com/alexazhou/TogoAgent

    合集 群组 恰饭 联系推广

    #多智能体 #AI #Agent #LLM #开源项目 #协作系统 #可视化控制台 #GitHub

    • ❤️1
  12. 基米天堂: 面向哈基米音乐创作者与爱好者的开源社区平台• 完全开源并采用 AGPLv3,功能演进由社区共建推动• 覆盖 Windows、macOS、Linux、Android、iOS 与 Web,多平台体验统一• 聚焦作品发现、发布与协作,适合独立音乐人和社区开发者长期参与

    基米天堂: 面向哈基米音乐创作者与爱好者的开源社区平台

    • 完全开源并采用 AGPLv3,功能演进由社区共建推动

    • 覆盖 Windows、macOS、Linux、Android、iOS 与 Web,多平台体验统一

    • 聚焦作品发现、发布与协作,适合独立音乐人和社区开发者长期参与

    https://hachimi.world

    https://github.com/HachimiWorld

    合集 群组 恰饭 联系推广

    #开源社区 #音乐平台 #独立音乐人 #多平台 #AGPLv3 #GitHub #Web #iOS #Android #Linux

    • ❤️3
    • 😨1
  13. Ruto - GLM: 基于 AI 的 Android 后台自动化与多任务框架• 基于虚拟屏幕实现真后台自动化,支持熄屏运行、长任务执行,且不干扰手机前台正常使用• 支持应用多开与隔离运行,每个实例拥有独立空间,适合自动化测试、分身场景与并行任务处理• 深度集成 AI 对话与 UI 自动化能力,可结合 Open - AutoGLM 理解指令并执行点击、滑动等操作

    Ruto - GLM: 基于 AI 的 Android 后台自动化与多任务框架

    • 基于虚拟屏幕实现真后台自动化,支持熄屏运行、长任务执行,且不干扰手机前台正常使用

    • 支持应用多开与隔离运行,每个实例拥有独立空间,适合自动化测试、分身场景与并行任务处理

    • 深度集成 AI 对话与 UI 自动化能力,可结合 Open - AutoGLM 理解指令并执行点击、滑动等操作

    https://github.com/iamr0s/Ruto-GLM

    合集 群组 恰饭 联系推广

    #Android #自动化 #AI自动化 #虚拟屏幕 #应用多开 #多任务框架 #OpenAutoGLM #Shizuku #GitHub

    • ❤️3
  14. Sentinel: 将闲置 Android 手机变成局域网内的实时 AI 监控节点• 采用「手机采集 + PC 处理 + 浏览器控制」分层架构,支持 Android 端持续上传画面,PC 端进行实时预览、录制与截图• 基于 Flask + MJPEG + OpenCV 构建,本地局域网即可运行,无需依赖云端服务,适合隐私优先的轻量监控场景• 内置可扩展的 AI 触发分析机制,结合运动检测与多模态模型推理,输出结构化事件结果,适合作为视觉采集与智能分析原型平台

    Sentinel: 将闲置 Android 手机变成局域网内的实时 AI 监控节点

    • 采用「手机采集 + PC 处理 + 浏览器控制」分层架构,支持 Android 端持续上传画面,PC 端进行实时预览、录制与截图

    • 基于 Flask + MJPEG + OpenCV 构建,本地局域网即可运行,无需依赖云端服务,适合隐私优先的轻量监控场景

    • 内置可扩展的 AI 触发分析机制,结合运动检测与多模态模型推理,输出结构化事件结果,适合作为视觉采集与智能分析原型平台

    https://github.com/suzuran0y/CCTV-Smartphone-AI-Monitoring

    #局域网监控 #智能安防 #计算机视觉 #Android #Flask #OpenCV #AI #GitHub #多模态 #实时监控

    • ❤️2
  15. PhasedddSkill: 面向 Claude Code 的开源技能集合,聚焦多智能体协作与风格化写作扩展@hyruleboss 佬分享的影视飓风 Tim 文案风格的 skill • 提供 council 多智能体辩论技能,可生成具备不同人格与立场的 AI 代理,适合用于架构评审、策略讨论与复杂决策• 内置 council-zh 中文适配版本,在保持英文工具链一致的同时,提供更自然的中文交互体验• 包含 tim-mediastorm 风格写作技能,可在明确指定场景下复现 影视飓风 Tim 式的科技感与人文叙事表达

    PhasedddSkill: 面向 Claude Code 的开源技能集合,聚焦多智能体协作与风格化写作扩展

    @hyruleboss 佬分享的影视飓风 Tim 文案风格的 skill

    • 提供 council 多智能体辩论技能,可生成具备不同人格与立场的 AI 代理,适合用于架构评审、策略讨论与复杂决策

    • 内置 council-zh 中文适配版本,在保持英文工具链一致的同时,提供更自然的中文交互体验

    • 包含 tim-mediastorm 风格写作技能,可在明确指定场景下复现 影视飓风 Tim 式的科技感与人文叙事表达

    https://github.com/phaseddd/PhasedddSkill

    https://linux.do/t/topic/1845113/11

    #ClaudeCode #开源工具 #多智能体 #AI #协作 #提示词工程 #风格化写作 #GitHub #Skill

    • 👍2
  16. Kreuzberg: 面向多语言生态的高性能文档解析与 OCR 引擎• 支持 88+ 文件格式解析,覆盖 PDF、Office、图片、HTML、XML、邮件、压缩包与学术文档,适合构建统一的数据提取管线• 基于 Rust 内核与原生绑定,提供 Python、Node.js、Go、Java、C#、PHP 等多语言支持,并可作为库、CLI、REST API 或 MCP Server 部署• 内置可扩展插件架构,支持 Tesseract、PaddleOCR、EasyOCR 等 OCR 后端,同时可选生成 Embeddings,无需 GPU 也能获得原生级处理速度

    Kreuzberg: 面向多语言生态的高性能文档解析与 OCR 引擎

    • 支持 88+ 文件格式解析,覆盖 PDF、Office、图片、HTML、XML、邮件、压缩包与学术文档,适合构建统一的数据提取管线

    • 基于 Rust 内核与原生绑定,提供 Python、Node.js、Go、Java、C#、PHP 等多语言支持,并可作为库、CLI、REST API 或 MCP Server 部署

    • 内置可扩展插件架构,支持 Tesseract、PaddleOCR、EasyOCR 等 OCR 后端,同时可选生成 Embeddings,无需 GPU 也能获得原生级处理速度

    https://github.com/kreuzberg-dev/kreuzberg

    #文档解析 #OCR #Rust #Embeddings #多语言开发 #文件处理 #开发工具 #GitHub #MCP #API GitHub - xberg-io/xberg: A polyglot document intelligence framework with a Rust core. Extract text, metadata, images, and structured…

  17. GolemBot: 让任意 Coding Agent 快速接入多平台消息通道的网关框架• 支持将 Claude Code、Cursor、OpenCode、Codex 等 Coding Agent 一键接入 Telegram、Discord、Slack、飞书、钉钉、企业微信、微信 及 HTTP API• 兼容 OpenRouter、MiniMax、DeepSeek 等多种 LLM 供应商,通过统一配置即可切换引擎与模型,减少框架绑定成本• 原生支持 ClawHub 13,000+ 社区技能、定时任务和自定义 Adapter,适合构建可嵌入产品或团队协作场景的 AI 助手

    GolemBot: 让任意 Coding Agent 快速接入多平台消息通道的网关框架

    • 支持将 Claude Code、Cursor、OpenCode、Codex 等 Coding Agent 一键接入 Telegram、Discord、Slack、飞书、钉钉、企业微信、微信 及 HTTP API

    • 兼容 OpenRouter、MiniMax、DeepSeek 等多种 LLM 供应商,通过统一配置即可切换引擎与模型,减少框架绑定成本

    • 原生支持 ClawHub 13,000+ 社区技能、定时任务和自定义 Adapter,适合构建可嵌入产品或团队协作场景的 AI 助手

    https://github.com/0xranx/golembot

    #AI #Agent #Coding #Telegram #Bot #Discord #机器人 #GitHub #Node.js #多渠道集成 #开发者工具

    • 👍5
    • ❤️1
  18. CivAgent: 用历史政体映射 AI 多 Agent 编排的零代码配置框架太没劲了 谁来写个战锤人类帝国我就想看文件要盖一万层章, 审批跨越十个世纪, 子 Agent 互相内斗, 混沌污染, 最后来个灭绝令• 基于 OpenClaw,将 57 种中外政体抽象为可切换的协作拓扑,覆盖中央集权、制衡、联邦、民主议会等 6 种编排模式• 通过纯配置切换不同文明,无需修改代码,即可快速部署适合审核、防错、并行协作或强执行场景的 Agent 组织结构• 内置 regime 管理脚本与模板体系,支持列出、切换、验证和创建自定义政体,适合作为多 Agent 架构实验与教学参考

    CivAgent: 用历史政体映射 AI Agent 编排的零代码配置框架

    太没劲了 谁来写个战锤人类帝国

    我就想看文件要盖一万层章, 审批跨越十个世纪, 子 Agent 互相内斗, 混沌污染, 最后来个灭绝令


    • 基于 OpenClaw,将 57 种中外政体抽象为可切换的协作拓扑,覆盖中央集权、制衡、联邦、民主议会等 6 种编排模式

    • 通过纯配置切换不同文明,无需修改代码,即可快速部署适合审核、防错、并行协作或强执行场景的 Agent 组织结构

    • 内置 regime 管理脚本与模板体系,支持列出、切换、验证和创建自定义政体,适合作为多 Agent 架构实验与教学参考

    https://github.com/LeoLin990405/civagent

    #多 Agent #Agent 编排 #OpenClaw #AI #配置驱动 #历史制度 #开源项目 #GitHub GitHub - LeoLin990405/civagent: 🎮 CivAgent v4 — 57 historical governance systems × Claude Code + Codex + Gemini + 6 CN model backends.…

    • ❤️2
  19. GELab-Zero: 面向移动端的全开源 GUI Agent 基础设施与模型方案• 同时开源 Agent 模型与工程基础设施,支持本地部署,无需依赖云端,兼顾隐私控制与即插即用体验• 针对 Mac M 系列芯片与 NVIDIA RTX 4060 优化,支持消费级硬件运行,并可通过 ADB 打通 Android 设备自动化执行• 提供多设备管理、任务分发、ReAct 循环、多智能体协作与 MCP Server 能力,适合从原型验证快速走向真实业务落地

    GELab-Zero: 面向移动端的全开源 GUI Agent 基础设施与模型方案

    • 同时开源 Agent 模型与工程基础设施,支持本地部署,无需依赖云端,兼顾隐私控制与即插即用体验

    • 针对 Mac M 系列芯片与 NVIDIA RTX 4060 优化,支持消费级硬件运行,并可通过 ADB 打通 Android 设备自动化执行

    • 提供多设备管理、任务分发、ReAct 循环、多智能体协作与 MCP Server 能力,适合从原型验证快速走向真实业务落地

    https://github.com/stepfun-ai/gelab-zero

    #GUIAgent #移动端 Agent #本地部署 #开源项目 #Android 自动化 #ADB #MCP #多智能体 #AI #GitHub

  20. oMLX: 面向 Mac 本地部署的高性能 LLM 推理与管理工具• 基于 Apple Silicon 优化,支持连续批处理与分层 KV Cache,可将热缓存放在内存、冷缓存落到 SSD,显著提升本地大模型的响应效率与上下文复用能力• 同一服务可统一承载 LLM、VLM、Embedding 与 Reranker,支持模型自动发现、按需加载、LRU 淘汰、Pin 常驻和 TTL 卸载,适合多模型并行工作流• 提供 macOS 菜单栏应用与 Web 管理面板,兼容 OpenAI / Anthropic API,并内置模型下载、性能测试、聊天界面与 MCP 工具集成,降低本地 AI 服务运维门槛

    oMLX: 面向 Mac 本地部署的高性能 LLM 推理与管理工具

    • 基于 Apple Silicon 优化,支持连续批处理与分层 KV Cache,可将热缓存放在内存、冷缓存落到 SSD,显著提升本地大模型的响应效率与上下文复用能力

    • 同一服务可统一承载 LLM、VLM、Embedding 与 Reranker,支持模型自动发现、按需加载、LRU 淘汰、Pin 常驻和 TTL 卸载,适合多模型并行工作流

    • 提供 macOS 菜单栏应用与 Web 管理面板,兼容 OpenAI / Anthropic API,并内置模型下载、性能测试、聊天界面与 MCP 工具集成,降低本地 AI 服务运维门槛

    https://github.com/jundot/omlx

    #本地大模型 #Mac AI #Apple Silicon #LLM 推理 #KV Cache #多模型服务 #OpenAI API #Anthropic API #MCP #GitHub #AI

    • ❤️1
    • 👍1