6750 GRE显存不足如何优化Stable Diffusion？

Question

使用AMD Radeon RX 6750 GRE 12GB运行Stable Diffusion时，常因显存不足导致生成高分辨率图像或加载大模型时出现OOM（Out of Memory）错误。如何在不升级硬件的前提下，通过优化模型加载方式、启用梯度检查点、使用低显存模式（如--medvram）及切换至FP16精度等方法，有效降低显存占用并保持生成质量？

Answer 1

使用AMD Radeon RX 6750 GRE 12GB优化Stable Diffusion显存占用的深度策略

1. 显存瓶颈分析：为何12GB仍会OOM？

尽管AMD Radeon RX 6750 GRE配备12GB GDDR6显存，看似足以应对大多数Stable Diffusion任务，但在加载大型模型（如SDXL、Checkpoints超过4GB）或生成高分辨率图像（如1024×1024以上）时，显存仍可能迅速耗尽。主要原因是：

• 模型权重以FP32格式加载时占用双倍显存
• 注意力机制中的中间激活张量随分辨率呈平方级增长
• 采样过程（如DDIM、Euler a）需缓存多步状态
• 批处理（batch size > 1）显著提升峰值显存需求
• AMD显卡在ROCm生态中默认未启用显存优化路径

因此，必须通过软件层优化来释放显存潜力。

2. 模型加载优化：从全量加载到分块调度

传统方式一次性将整个模型载入VRAM，而现代推理框架支持延迟加载与按需解码。以下是关键策略：

1. 使用--lowvram或--medvram参数：强制模型组件分阶段加载至显存，其余保留在系统内存
2. 启用模型分片（Model Sharding）：将UNet、VAE、CLIP分别管理，优先保障UNet驻留GPU
3. VAE分离加载：使用轻量VAE（如taesd）替代原生VAE进行解码
4. LoRA动态挂载：仅在需要时注入LoRA权重，避免常驻占用

python launch.py --medvram --precision autocast --use-taesd

3. 精度控制：FP16与BF16的权衡

将计算精度从FP32降至FP16可直接减少50%显存占用，同时保持视觉质量无明显退化。AMD RDNA2架构原生支持FP16运算，但需确保框架正确启用。

精度模式	显存节省	速度影响	画质稳定性	适用场景
FP32	基准	慢	高	调试/训练
FP16	~50%	+30%	轻微色偏	推理首选
BF16	~40%	+20%	稳定	高端平台
TF32	~30%	+15%	良好	NVIDIA专用

建议添加启动参数：--half --no-half-vae，对主模型启用半精度，但VAE保持全精度以防解码失真。

4. 梯度检查点（Gradient Checkpointing）的应用

该技术牺牲少量计算时间换取大幅显存压缩。其原理是在反向传播时重新计算部分前向激活值，而非全部缓存。

graph TD
    A[Forward Pass] --> B{Checkpoint Layer?}
    B -->|Yes| C[Save Input Only]
    B -->|No| D[Cache Full Activation]
    E[Backward Pass] --> F{Activation Cached?}
    F -->|No| G[Recompute from Input]
    F -->|Yes| H[Load from VRAM]
    G --> I[Reduce Peak Memory]

在Stable Diffusion中启用方式：

from modules import sd_hijack
sd_hijack.extra_networks_enable_checkpoints()

5. 综合配置方案示例

结合上述策略，构建适用于RX 6750 GRE的高效运行配置：

• 启动命令：--medvram --precision autocast --half --use-taesd --disable-safe-unpickle
• 图像尺寸限制：单图不超过896×1152（避免Attention OOM）
• Batch Size = 1（必要时可尝试2，配合--lowvram）
• 启用xFormers替代原生Attention（需ROCm兼容版本）
• 关闭不必要的插件（如ControlNet过多实例）
• 使用DeepCache技术缓存中间特征图
• 设置max_split_size_mb=128防止CUDA碎片
• 定期清理显存：torch.cuda.empty_cache()
• 监控工具：rocm-smi实时查看VRAM使用
• 预编译模型图：利用TorchDynamo加速首次推理