【免费下载链接】Qwen-Image-2.1-MLX-4bit
Qwen-Image-2.1-MLX-4bit 是通义万相 Qwen-Image-2.1 文生图模型的 MLX 量化版本,专为 Apple Silicon 芯片优化。它以 4-bit 低比特量化将整套 AI 绘图模型压缩到约 9.8GB,同时保留了 DiT 变换器、Qwen3-VL 多模态编码器和 64 通道 VAE 三大核心组件的完整能力,支持文生图与图像编辑双任务。本文将带你逐一拆解每个组件的作用与关键参数。
🧩 模型全景:五大组件一览
整个模型由 model_index.json 统一编排,定义了QwenImage21Pipeline流水线的五个角色:
| 组件 | 加载类名 | 作用 | 文件位置 |
|---|---|---|---|
| transformer | QwenImage21Transformer2DModel | 图像生成的"大脑"(DiT 主干) | transformer/ |
| text_encoder | Qwen3VLForConditionalGeneration | 理解文字与图像输入 | text_encoder/ |
| vae | AutoencoderKLQwenImage21 | 像素与潜空间互转的"桥梁" | vae/ |
| scheduler | FlowMatchEulerDiscreteScheduler | 控制去噪采样步数与节奏 | scheduler/ |
| processor | Qwen3VLProcessor | 图像与文本的前处理 | processor/ |
三者分工可以这样理解:编码器负责"读懂需求",DiT 负责"构思画面",VAE 负责"落笔成像"。
🧠 DiT 变换器:32 层单流架构的生成引擎
DiT(Diffusion Transformer)是本模型的生成核心,配置见 transformer/config.json。关键参数如下:
- 32 层 Transformer 块,每层 32 个注意力头,单头维度 128,隐藏层宽度达 4096
- MLP 比例为 3,即前馈网络中间层宽度 12288,参数量充足,保证细节生成能力
- 输入/输出均为 64 通道——正好对接 VAE 的 64 维潜空间,模型直接在"压缩后的图像世界"里做扩散
- causal_condition: true:因果式条件注入机制,这是它支持图像编辑(读懂原图再局部修改)的关键
- 3D RoPE 位置编码,三轴维度 [16, 56, 56],分别刻画时间、高度、宽度,让模型对画面空间结构有天然感知
- context_in_dim: 4096:与 Qwen3-VL 编码器的隐藏层宽度完全对齐,文本语义无缝注入
量化配置(group_size: 64, bits: 4, mode: affine)表明主干权重采用 4-bit 分组仿射量化,整个 transformer 目录约3.7GB,是三大组件中最轻量的。
✍️ Qwen3-VL 编码器:能"看图说话"的提示理解器
大多数文生图模型只"读字",而这里用的是视觉语言模型 Qwen3-VL,配置见 text_encoder/config.json。它由两座塔组成:
文本塔
- 36 层 Transformer,隐藏层 4096,词表 151936 个 token
- 采用 GQA 分组注意力(32 个查询头 / 8 个键值头),推理效率更高
- 最大上下文长度 262144,长提示词、复杂描述也能一次吃下
视觉塔
- 27 层视觉编码器,以 16×16 的 patch 切图,再经 2×2 空间合并压缩
- deepstack 多层特征融合(第 8/16/24 层),不同粒度的图像特征都参与理解
这套组合带来两个实际收益:
- 文字渲染更准——视觉语言模型对字体、排版语义的理解远超纯文本编码器
- 图像编辑可用——你给一张原图,视觉塔负责"看懂它",DiT 再按提示修改
该组件原始精度为 bfloat16(约 8GB),量化后目录约4.8GB,是最大的组件。
🌉 64 通道 VAE:连接像素与潜空间的桥梁
VAE 配置见 vae/config.json,类名为AutoencoderKLQwenImage21:
- z_dim: 64:潜空间从常见的 16 维扩展到64 维,压缩更少、信息保留更足,画面细节与色彩还原更细腻
- 空间下采样 16 倍:1024×1024 的图像只需处理 64×64 的潜变量,这是 DiT 能"跑得动"的前提
- in/out_channels: 4:RGB 三通道之外还带 1 个Alpha 透明通道——这是 README 所称"64 通道 RGBA VAE"的含义,理论上可生成带透明背景的图片
- 编码器基础通道 96、解码器基础通道 144,解码侧更宽,负责把潜变量精细地"画"回像素
- 64 组
latents_mean/latents_std统计量用于潜变量归一化,保证扩散过程数值稳定
该组件约1.26GB,推理时只参与首尾各一次编/解码,开销很小。
⏱️ 采样调度器与图像预处理器
调度器(scheduler/scheduler_config.json)采用Flow Matching(流匹配)的 Euler 离散采样:
- 训练步数 1000,推理时通常只用 20~50 步
use_dynamic_shifting: true:根据图像分辨率动态调整噪声调度(shift 范围 0.5~0.9),小图快、大图稳shift_terminal: 0.02:最后阶段降低噪声强度,让收尾更平滑
预处理器(processor/preprocessor_config.json)是Qwen3VLProcessor,负责把输入图像切成 16×16 patch、做 0.5 均值归一化后送入视觉塔,文本侧则完成分词与模板拼接。
📦 MLX 4-bit 量化:让大模型住进 Mac
三大组件的mlx_format均为true,全部按4-bit 仿射量化(每 64 个权重一组校准 scale/zero-point)重新打包。效果对比:
| 组件 | 4-bit 量化后大小 |
|---|---|
| DiT 变换器 | ≈ 3.7GB |
| Qwen3-VL 编码器 | ≈ 4.8GB |
| 64 通道 VAE | ≈ 1.26GB |
| 合计 | ≈ 9.8GB |
这意味着 M 系列芯片的统一内存可以舒适地装下整套模型,而 4-bit 带来的精度损失在图像生成任务上几乎不可感知——你得到的是接近原版的生成质量 + 显著的内存与速度收益。
📌 总结:三句话看懂这套架构
- Qwen3-VL 编码器(约 4.8GB)读懂你的文字提示甚至参考图,输出 4096 维语义向量
- 32 层 DiT 变换器(约 3.7GB)在 64 维潜空间里,按流匹配调度器逐步"雕刻"出画面
- 64 通道 VAE(约 1.26GB)把潜变量解码回带 Alpha 通道的像素图像
模型基于 Qwen Research License 许可,各组件配置均可在 README.md 及上述 config.json 中核对。理解了这个"编码器 → DiT → VAE"的三段式流水线,你就能看懂绝大多数现代扩散式 AI 绘图模型的架构了。
【免费下载链接】Qwen-Image-2.1-MLX-4bit
相关推荐
Qwen-Image-2.1核心组件拆解:Qwen3-VL文本编码器、64维高压缩VAE与Flow Matching调度器
Qwen Image 2.1核心组件拆解:Qwen3 VL文本编码器、64维高压缩VAE与Flow Matching调度器 Qwen Image 2.1 是通义
Qwen-Image-2.1-Turbo-FP8 架构深度解析:7B DiT、Qwen3-VL 编码器与 64 通道 VAE 如何协同出图
Qwen Image 2.1 Turbo FP8 架构深度解析:7B DiT、Qwen3 VL 编码器与 64 通道 VAE 如何协同出图 本项目是 Qwen
FLUX 3 Image Klein架构深度解析:DiT Transformer、Qwen3-VL文本编码器与VAE三大核心组件
FLUX 3 Image Klein架构深度解析:DiT Transformer、Qwen3 VL文本编码器与VAE三大核心组件 FLUX 3 Image Kl
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考