AMD MI355X 288G 是什么水平?

短答案

MI300X 的继任:288G HBM3e + 8TB/s + FP4/FP6,8-GPU UBB 节点形态;MoE 巨兽推理主场,云租价通常比 B300 低两到三成——预算敏感的大显存租用首选,训练侧仍看团队 ROCm 栈。

01规格与定位

定位数据中心卡 · AMD
显存288GB HBM3e(带宽 8000 GB/s)
AI 算力指数
175
(RTX 5090 = 100)
功耗 / 发布1400W · 2025-H2
参考价¥239,000 (整机/渠道询价)(更新 2026-11-10)
一句话定位MI300X 的继任:288G + 8TB/s,云租价通常比 B300 低两到三成;ROCm 推理成熟,训练看团队栈。

02这张卡能跑什么

按推荐显存匹配(舒适体验口径),与 模型库 数据联动:

大模型
Qwen3-32BQwen3-14BQwen3-8BLlama 3.3 70BGemma 3 27BGemma 3 12BMistral Small 3.x 24BPhi-4 14B
绘画
Stable Diffusion 1.5SDXL 1.0SD 3.5 LargeFlux.1 devFlux.1 schnellQwen-Image
视频
Wan2.2 1.3BWan2.2 14B(TI2V)HunyuanVideoLTX-VideoCogVideoX-5B
音乐
ACE-StepYuE(乐)DiffRhythmMusicGen LargeStable Audio Open

编辑部实测口径:万亿参数级推理、MoE 巨兽高并发、FP4/FP6 训练。

03出现在这些配置单里

04同价位对比

显卡显存算力指数参考价点评
H200 141GB SXM(数据中心)141G150¥319,000H 系大显存版:141G + 4.8TB/s,长上下文与 MoE 推理吞吐比 H100 高一截;租赁市场的主力机型之一。
H100 80GB SXM(数据中心)80G135¥199,000数据中心标杆:Transformer 引擎 + NVLink,训练与高并发推理的基准线;个人接触它的正确方式是按小时租,不是买。
Instinct MI300X 192GB(数据中心)192G130¥188,000A 家数据中心主力:192G 大显存 + 5.3TB/s,单卡塞下 MoE 巨兽;ROCm 生态在推理侧已成熟,训练侧仍在追赶 CUDA。

±35% 价位带内的其他选择;全量对比与筛选见显卡专区总表。

选购要点

定位:288G 租用性价比位。无零售,整机/UBB 渠道询价;AMD 生态现状见数据中心 GPU 指南与A 卡指南。

常见问题

MI355X 和 B300 怎么选?
推理(尤其 MoE/长上下文):MI355X 的显存带宽与租价性价比占优;稠密 FP4 训练与 CUDA 深度绑定的工作流:B300 省心。ROCm 推理侧已成熟,训练侧按团队技术栈决定——和 MI300X 时代的结论一致。
↑