N 卡跑 AI 全攻略:从 GTX 1060 到 RTX 5090

短答案

CUDA 生态 + Tensor 核心 + FP8/FP4 是 N 卡的三重护城河;按显存分档选卡:8G 入门/12G SDXL/16G Flux/24G+ 大模型,停产卡里 3060 12G 与魔改 3090 48G 仍是性价比解。


N 卡是 AI 的默认选项,这句话在 2026 年依然成立——不是因为它最快,而是因为整个软件栈默认它最快:新模型发布、新库适配、社区教程,CUDA 都是第一优先级。

一、代际能力表(AI 视角)

代际Tensor 能力AI 定位显存甜点
GTX 10(2016)无SD1.5 玩票6G/11G
RTX 20(2018)FP16SD1.5 流畅8G/11G
RTX 30(2020)FP16/AmpereSDXL + 7B/14B12G/24G
RTX 40(2022)FP8Flux + 32B16G/24G
RTX 50(2025)FP8/FP4Flux 全精度 + 70B16G/32G

二、按显存分档抄作业

  • 8G:SD1.5 全速、SDXL 入门;游戏向合理,AI 向将就
  • 12G:SDXL 舒适、14B Q4;3060 12G 与 4070 是两头代表
  • 16G:Flux FP8、32B Q4;5060 Ti 16G 入门首选、5070 Ti 主流
  • 24G+:70B Q4(单卡 48G/双卡 24G)、Flux 全精度;5090、二手 3090、魔改 3090 48G

三、停产经典的残值

3060 12G(¥1.8k)= 12G 显存最低价;1080 Ti(¥1.4k)= SDXL 的情怀机;魔改 3090 48G(¥8.5k)= 单卡 70B 最便宜解。风险与验卡流程:魔改指南、二手验卡。

四、三条铁律

  1. 显存优先于算力(原理):OOM 是生死,速度是快慢
  2. 带宽是 LLM 的速度:同显存看带宽,GDDR7 > GDDR6X > GDDR6
  3. 新模型等适配:买主流卡,别为小众卡赌社区的移植热情

全系 46 款型号的参数与二手价 → NVIDIA 全系表。

常见问题

/hardware/gpu/nvidia/
NVIDIA 全系表
/guides/vram-vs-compute/
显存为什么比算力重要
/models/
模型显存速查
↑