二手 RTX 3090 24G 跑 AI 值得买吗?

24G ¥5.5k(约 ¥230/GB),比 5090(¥530/GB)便宜一半以上,且 936GB/s 带宽至今够用——32B 全速运行是 16G 卡做不到的。

350W TDP + 瞬时毛刺,建议 850W 金牌起步;夏季满载风扇噪音明显,机箱风道要认真做。

不适合。无保修意味着风险自担:买到问题卡的鉴定、协商、退款都是时间成本。小白请买新卡,二手 3090 是给愿意承担验卡责任的老玩家准备的。

短答案

能跑:Flux dev FP8 流畅、32B Q4 全速(20+ tok/s)、70B 双卡、LoRA 微调。24G ¥5.5k = 单位显存最便宜,代价是无保修、350W 功耗、需验卡。动手党的大显存最优解。

01规格与定位

显存	24GB GDDR6X(带宽 936 GB/s)
AI 算力指数	38 (RTX 5090 = 100)
参考价	¥5,499(更新 2026-10-01)
功耗 / 发布	350W · 2020-09
一句话定位	二手市场大显存之王。24G 跑 32B 从容,但无保修、功耗高,认准个人自用卡。

按推荐显存匹配(舒适体验口径),与模型库数据联动:

大模型

Qwen3-32BQwen3-14BQwen3-8BGemma 3 27BGemma 3 12BMistral Small 3.x 24BPhi-4 14B

绘画

Stable Diffusion 1.5SDXL 1.0SD 3.5 LargeFlux.1 devFlux.1 schnellQwen-Image

视频

Wan2.2 1.3BWan2.2 14B(TI2V)LTX-VideoCogVideoX-5B

音乐

ACE-StepYuE(乐)DiffRhythmMusicGen LargeStable Audio Open

编辑部实测口径:Flux dev FP8(流畅)、32B Q4 量化、70B Q4 双卡。

显卡	显存	算力指数	参考价	每万元算力
GeForce RTX 5070 Ti	16G	56	¥6,299	88.9
Radeon RX 9070 XT	16G	30	¥4,999	60.0
GeForce RTX 5070	12G	44	¥4,899	89.8
RTX 3080 20GB(魔改)	20G	25	¥3,600	69.4
GeForce RTX 5060 Ti 16GB	16G	36	¥3,599	100.0
GeForce RTX 4060 Ti 16GB	16G	28	¥3,399	82.4
GeForce RTX 5060 8GB	8G	26	¥2,999	86.7

±¥2500 价位带内的其他选择;全量对比见显卡对比总表。

定位:大显存刚需(32B 全速 / Flux 流畅 / 训练)+ 预算有限 + 愿意动手。整机参考学生进阶配置。

二手 3090 怎么验卡避坑?

五步:①GPU-Z 核对 BIOS/显存颗粒原厂;②跑 30 分钟 FurMark 满载,温度 <83℃ 且不掉速;③3DMark 分数与同型号误差 <5%;④检查显存(跑 memtest_vulkan);⑤优先个人自用卡,避开矿潮批次与「训练卡」(机房批量回收的卡寿命存疑)。

为什么说它是大显存之王?

24G ¥5.5k(约 ¥230/GB),比 5090(¥530/GB)便宜一半以上,且 936GB/s 带宽至今够用——32B 全速运行是 16G 卡做不到的。

功耗和电源要求?

350W TDP + 瞬时毛刺,建议 850W 金牌起步;夏季满载风扇噪音明显,机箱风道要认真做。

小白适合买二手吗?

不适合。无保修意味着风险自担:买到问题卡的鉴定、协商、退款都是时间成本。小白请买新卡,二手 3090 是给愿意承担验卡责任的老玩家准备的。