折腾啥

Power Users/Automators 折腾/讨论/分享各种开源工具/脚本/自动化工作流

👥 @zhetengsha_group

🎁 恰饭 https://t.me/zhetengsha/957

📌 合集 https://t.me/zhetengsha/2

📢 推广 @xream_bot

Buy ads: https://telega.io/c/zhetengsha

feedId:55438372655431680+userId:62307599601855488

Search: #MLX

  1. 折腾啥

    Orchard: 面向 Apple Container 的原生 macOS 容器与本地 AI 管理面板• 基于 Swift 与原生 XPC API 构建，可统一管理容器、镜像、网络、 DNS、机器与 Kubernetes 集群• 内置本地 AI 工作流，可发现或启动 MLX 模型服务，并将容器自动接入本地模型端点，适合 Agent sandbox 场景• 支持 Dockerfile 镜像构建、实时日志、多容器监控和 Cmd + K 命令面板，日常开发与调试体验很顺手

    Orchard: 面向 Apple Container 的原生 macOS 容器与本地 AI 管理面板

    • 基于 Swift 与原生 XPC API 构建，可统一管理容器、镜像、网络、 DNS、机器与 Kubernetes 集群

    • 内置本地 AI 工作流，可发现或启动 MLX 模型服务，并将容器自动接入本地模型端点，适合 Agent sandbox 场景

    • 支持 Dockerfile 镜像构建、实时日志、多容器监控和 Cmd + K 命令面板，日常开发与调试体验很顺手

    https://github.com/andrew-waters/orchard

    合集 群组 恰饭 联系推广

    #容器管理 #macOS #AppleContainer #Kubernetes #本地模型 #AI #MLX #Swift #GitHub

    容器管理macOSAppleContainerKubernetes本地模型AIMLXSwiftGitHub

  2. 折腾啥

    Rapid-MLX: 面向 Apple Silicon 的高性能本地 AI 引擎• 基于 MLX 原生优化，支持连续批处理、提示缓存和量化 KV Cache，本地推理速度表现很强• 提供兼容 OpenAI 与 Anthropic 的 API 接口，可直接接入 Claude Code、Aider、Codex CLI 等开发工具链• 覆盖文本、音频、视频、嵌入与工具调用场景，适合在 Mac 上快速搭建统一的本地 AI 服务层

    Rapid-MLX: 面向 Apple Silicon 的高性能本地 AI 引擎

    • 基于 MLX 原生优化，支持连续批处理、提示缓存和量化 KV Cache，本地推理速度表现很强

    • 提供兼容 OpenAI 与 Anthropic 的 API 接口，可直接接入 Claude Code、Aider、Codex CLI 等开发工具链

    • 覆盖文本、音频、视频、嵌入与工具调用场景，适合在 Mac 上快速搭建统一的本地 AI 服务层

    https://github.com/raullenchai/Rapid-MLX

    GUI: https://rapidmlx.com/desktop

    合集 群组 恰饭 联系推广

    #本地推理 #模型服务 #工具调用 #AppleSilicon #MLX #OpenAI #ClaudeCode

    • ❤️1

    本地推理模型服务工具调用AppleSiliconMLXOpenAIClaudeCode

  3. 折腾啥

    JANG: 面向 Apple Silicon 的 MLX 混合精度量化格式• 针对 MoE 与超大模型做按张量分配比特宽度，在接近 MLX 体积下优先保留 attention 与 router 精度，低比特场景下稳定性和效果更强• 支持 Qwen、Nemotron、MiniMax、DeepSeek 等架构，部分模型可在 16 GB 或 64 GB Mac 上运行，甚至实现 397B 级模型在 128 GB Mac 上推理• 原生兼容 MLX 生态，提供推理模式、VLM 支持、bfloat16 自动检测和开发者集成方案，适合在 Apple Silicon 上部署高压缩本地模型

    JANG: 面向 Apple Silicon 的 MLX 混合精度量化格式

    • 针对 MoE 与超大模型做按张量分配比特宽度，在接近 MLX 体积下优先保留 attention 与 router 精度，低比特场景下稳定性和效果更强

    • 支持 Qwen、Nemotron、MiniMax、DeepSeek 等架构，部分模型可在 16 GB 或 64 GB Mac 上运行，甚至实现 397B 级模型在 128 GB Mac 上推理

    • 原生兼容 MLX 生态，提供推理模式、VLM 支持、bfloat16 自动检测和开发者集成方案，适合在 Apple Silicon 上部署高压缩本地模型

    https://github.com/jjang-ai/jangq

    #AppleSilicon #MLX #模型量化 #混合精度量化 #本地大模型 #MoE #推理优化 #Mac #AI #GitHub
    GitHub
    GitHub - jjang-ai/jangq: JANG — GGUF for MLX. YOU MUST USE JANG_Q RUNTIME. Adaptive Mixed-Precision Quantization + Runtime for…
    GitHub - jjang-ai/jangq: JANG — GGUF for MLX. YOU MUST USE JANG_Q RUNTIME. Adaptive Mixed-Precision Quantization + Runtime for…
    JANG — GGUF for MLX. YOU MUST USE JANG_Q RUNTIME. Adaptive Mixed-Precision Quantization + Runtime for Apple Silicon - jjang-ai/jangq

    • ❤️3

    AppleSiliconMLX模型量化混合精度量化本地大模型MoE推理优化MacAIGitHub

  4. 折腾啥

    还有个对应的 lora 能用我看别人在用

    还有个对应的 lora 能用
    我看别人在用 https://huggingface.co/renderartist/Technically-Color-Z-Image-Turbo/blob/main/Technically_Color_Z_Image_Turbo_v1_renderartist_2000.safetensors

    https://t.me/zhetengsha/4814
    Telegram
    折腾啥
    折腾啥
    MindCraft Studio: 面向 Apple Silicon 的本地 AI 影像工作室

    还有个对应的 lora 能用
    我看别人在用 https://huggingface.co/renderartist/Technically-Color-Z-Image-Turbo/blob/main/Technically_Color_Z_Image_Turbo_v1_renderartist_2000.safetensors

    • 本地运行 Z-Image Turbo、FLUX、SDXL 等模型，基于…

    • ❤️1

  5. 折腾啥

    MindCraft Studio: 面向 Apple Silicon 的本地 AI 影像工作室 还有个对应的 lora 能用我看别人在用

    MindCraft Studio: 面向 Apple Silicon 的本地 AI 影像工作室

    还有个对应的 lora 能用
    我看别人在用 https://huggingface.co/renderartist/Technically-Color-Z-Image-Turbo/blob/main/Technically_Color_Z_Image_Turbo_v1_renderartist_2000.safetensors

    • 本地运行 Z-Image Turbo、FLUX、SDXL 等模型，基于 MLX 与 Metal 加速，生成更快且不出网
    • 一体化工作流覆盖 txt2img、img2img、ControlNet、In-Context 编辑与 4x 超分，细节控制更精确
    • 支持 LoRA 适配器与 Redux 风格参考，便于做一致风格与批量变体生成

    https://themindstudio.cc/mindcraft

    #本地推理 #AI 作图 #图像生成 #Apple Silicon #Mac #MLX #FLUX #SDXL #ControlNet #LoRA

    • ❤️1

    本地推理AI图像生成AppleMacMLXFLUXSDXLControlNetLoRA