买 AI 显卡,为什么显存比算力更重要?

三个理由

1. 失败模式不对称。算力不足 = 出图慢 30%,等待而已;显存不足 = CUDA OOM,任务直接失败。买硬件要为「最坏情况」定价。

2. 模型增长快于算力需求。过去三年主流开源模型体积涨了 10 倍(SD1.5→Flux、7B→70B 级),而对「速度」的满意阈值基本没变(出图 10 秒、对话 20 tok/s)。大显存 = 更长的可用周期 = 更高残值。

3. 显存无法后天加,算力可以等。显卡显存焊死;而下一代的算力提升是自然的,你现在觉得「够快」的标准两年后依然够快——但「装得下」的标准一直在涨。

决策表

数据支撑见显卡对比与显存性价比榜。