三个理由
1. 失败模式不对称。算力不足 = 出图慢 30%,等待而已;显存不足 = CUDA OOM,任务直接失败。买硬件要为「最坏情况」定价。
2. 模型增长快于算力需求。过去三年主流开源模型体积涨了 10 倍(SD1.5→Flux、7B→70B 级),而对「速度」的满意阈值基本没变(出图 10 秒、对话 20 tok/s)。大显存 = 更长的可用周期 = 更高残值。
3. 显存无法后天加,算力可以等。显卡显存焊死;而下一代的算力提升是自然的,你现在觉得「够快」的标准两年后依然够快——但「装得下」的标准一直在涨。
决策表
| 预算 | 显存目标 | 对应卡 |
|---|---|---|
| ¥2k 内 | 12G | RTX 3060 12G 二手 / Arc B580 |
| ¥4.3k | 16G | RTX 5060 Ti 16G |
| ¥9k | 16G 高带宽 | RTX 5070 Ti |
| ¥3.4 万+ | 32G | RTX 5090 |
GeForce RTX 5060 Ti 16GB
· 入门首选。带宽是短板,但 16G 显存让 Flux 和 14B 模型进得去,入门唯一推荐。
16G 显存
AI 算力 36
「先保显存」策略的最佳注脚:入门价位唯一 16G 新卡
¥4,299
京东比价显存优先的决策树(图解)
目标模型量化后多大?
├─ < 6G → 8G 卡随便选,看价格
├─ 6-10G → 12G 起步(3060/6700XT 价位)
├─ 10-14G → 16G 起步(5060Ti/7800XT 价位)
├─ 14-20G → 24G 起步(3090/7900XTX 价位)
└─ > 20G → 32G+ 或双卡分层
例外两条:MoE 模型显存看总参数(671B 也要 350G+)但速度看激活;纯游戏用户显存 8-12G 封顶,1080p 无需 16G。
常见问题
显存不够真的没有 workaround 吗?
有,但都是降级:量化(损质)、offload(掉速 5–10 倍)、低分辨率(损功能)。这些手段的本质都是「把装不下变成装得下」,代价远大于当初加 500 元上大一档显存。