优化是止血,显存是造血。被 OOM 反复折磨时,用显存性价比榜算一下升级成本,通常比想象中近。
先搞清楚显存花在哪了
OOM 不是玄学,是一个简单的账:模型权重(静态)+ KV/latent + 注意力激活(随分辨率平方增长)+ VAE 解码峰值。SDXL FP16 权重约 7G,1024×1024 的激活再加 2-4G,VAE 解码瞬间冲高 1-2G——8G 卡在「刚跑起来」和「爆掉」之间摇摆,就是这几项叠加的结果。理解这个结构,每个优化技巧都能对号入座:它砍的是哪一项。
七招,按代价从小到大
| # | 手段 | 省多少 | 代价 | 一句话 |
|---|---|---|---|---|
| 1 | 开 SDPA / xformers | 10-20% | 几乎为零 | 注意力算得更省,必开 |
| 2 | --medvram 启动参数 | 20-30% | <10% 速度 | 权重分块加载,白捡 |
| 3 | FP8 / GGUF 量化模型 | 权重减半 | Q8 无感 / Q4 损细节 | 下载模型时就选对版本 |
| 4 | 降分辨率/批次 | 激活大减 | 损构图/产能 | 1024→768 是标准动作 |
| 5 | VAE tiling | 解码峰值清零 | 慢 20-30% | 高清放大必备 |
| 6 | block swap 到内存 | 再挤 20-40% | 每步慢 10-30% | 用速度换空间 |
| 7 | 整层 CPU offload | 显存压力清零 | 慢 5-10 倍 | 最后手段,能跑就行 |
前三招是「免费午餐区」:开了几乎无感,却能把 8G 卡从「动不动爆」救成「日常可用」。任何一个新装 ComfyUI 的人都应该默认做好这三步,而不是出事后到处翻 issue。
后四招是「降级换命区」:每一步都在用画质或速度换显存空间,做完系统就不卡 OOM 了,但工作流的体验开始明显变形。到第 6、7 招还经常爆,说明你的模型目标已经和硬件严重错配——继续压榨没有意义。
两条最常被问的路线
GGUF 量化怎么选档位:Q8(权重约 60-70%)肉眼基本无差,显存只差「一点点」的首选;Q6 是画质与空间的平衡点;Q4 纹理细节可感知地变糊,只在「差得远」时用。Flux/SDXL 的社区量化版在模型发布页都有显存对照,按你的卡对号下载——省去自己量化。
为什么爆在 VAE 解码:采样 20 步都平安无事,最后解码瞬间 OOM——因为解码时 latent 要展开成全尺寸像素张量,分辨率越高峰值越尖。修高清放大工作流时,VAEDecode 换成 VAEDecodeTiled(tile size 512)是第一反应,不是去降采样分辨率。
判断该优化还是该换卡
算两笔账:时间账——每天因 OOM 折腾 + 降级工作流损失 30 分钟,一个月就是 15 小时;升级账——从 8G 卡跳 5060 Ti 16G(¥4.3k)或按显存需求指南对齐目标模型的门槛。当降级已经成为常态而不是应急,优化就该停了。
顺带一提:如果你的痛点是「慢」而不是「爆」,那是另一个问题(带宽决定出图速度),路线完全不同,见 SDXL 出图加速指南。