H20 141GB 跑 AI 怎么样?

短答案

H20 的大显存续作:141G HBM3e 单卡即可装下 235B Q4;算力仍是特供口径,买它本质是买显存与带宽,重训练看别的。

01规格与定位

定位数据中心卡 · NVIDIA
显存141GB HBM3e(带宽 4800 GB/s)
AI 算力指数
80
(RTX 5090 = 100)
功耗 / 发布500W · 2025-03
参考价¥140,000 (HGX 八卡整机折算单卡口径)(更新 2026-11-19)
一句话定位H20 的大显存续作:141G HBM3e 单卡即可装下 235B Q4;算力仍是特供口径,买它本质是买显存与带宽,重训练看别的。

02这张卡能跑什么

按推荐显存匹配(舒适体验口径),与 模型库 数据联动:

大模型
Qwen3-32BQwen3-14BQwen3-8BLlama 3.3 70BLlama 4 ScoutGemma 3 27BGemma 3 12BMistral Small 3.x 24BPhi-4 14B
绘画
Stable Diffusion 1.5SDXL 1.0SD 3.5 LargeFlux.1 devFlux.1 schnellQwen-Image
视频
Wan2.2 1.3BWan2.2 14B(TI2V)Wan 2.5-S1HunyuanVideoLTX-VideoCogVideoX-5B
音乐
GPT-SoVITSCosyVoice 2ACE-StepYuE(乐)DiffRhythmMusicGen LargeStable Audio Open

编辑部实测口径:Qwen3-235B Q4 单卡装下、70B FP16 + 超长上下文、8 卡推理大队。

03出现在这些配置单里

04同价位对比

显卡显存算力指数参考价点评
Instinct MI300X 192GB(数据中心)192G130¥188,000A 家数据中心主力:192G 大显存 + 5.3TB/s,单卡塞下 MoE 巨兽;ROCm 生态在推理侧已成熟,训练侧仍在追赶 CUDA。
H20 96GB SXM(数据中心·中国特供)96G78¥110,000中国特供推理卡:算力被阉但 96G HBM3 + 4TB/s 带宽全保留——推理吞吐能打、训练场景绕行;SXM 整机为主,PCIe 有价无货。

±35% 价位带内的其他选择;全量对比与筛选见显卡专区总表。

编辑部结论:H20 的大显存续作:141G HBM3e 单卡即可装下 235B Q4;算力仍是特供口径,买它本质是买显存与带宽,重训练看别的。它是数据中心卡,141GB HBM3e 与 4800GB/s 带宽决定了它能塞下并喂饱多大的模型;AI 算力指数 80(RTX 5090 = 100)。

141G 是个微妙的位置:超过它只有 H200 141G(¥32 万,算力完整版)和 192/288G 旗舰;而 235B 级 MoE 的 Q4 权重恰好 ~120G——单卡装下国产旗舰开源模型的最低门票。2025 年上市后八卡整机报价持续走高,合规渠道以整机交易为主。

这类卡没有电商零售价,走整机/集成商渠道,价格随供需波动极大。个人与中小团队更现实的用法是按小时租用(云 GPU 榜单);采购前拿本页参数对多家渠道询价,显存档位的完整决策树见大显存全景指南。

↑