带宽速查表(理论值)
| 平台 | 通道 | DDR4-3200 | DDR5-6000 |
|---|---|---|---|
| 消费级(AM5/LGA1700+) | 双 | ~51GB/s | ~96GB/s |
| HEDT(撕裂者/至强 W) | 四 | ~102GB/s | ~192GB/s |
| 服务器(EPYC/至强) | 八 | ~204GB/s | ~384GB/s |
对 AI 任务的实际影响
- 纯 GPU 推理(模型全在显存):通道数几乎无影响;
- CPU offload:速度 ≈ 内存带宽 ÷ 模型体积,通道数直接乘上去;
- MoE / 纯 CPU 推理:带宽即天花板,这是服务器平台存在的理由;
- 训练数据加载:帮助有限(瓶颈多在 GPU 与预处理)。
延伸阅读:DDR3 到 DDR6 发展史、内存速度怎么测。
常见问题
内存通道数怎么查、怎么插对?
消费级主板说明书标注(通常 4 槽 = 双通道,插 2/4 槽或 1/3 槽);HEDT/服务器主板标注四/八通道,必须按通道组等容量插满。插错的典型症状:容量对但带宽减半(AIDA64 一测便知)。
为什么 GPU 推理也关心内存通道?
两种场景:①offload——显存装不下的层放内存,每生成一个 token 都要过一遍,内存带宽直接决定速度(双通道 offload 32B ≈ 4-6 tok/s,四通道翻倍);②MoE——全部参数常驻内存,带宽就是天花板。
加内存条能提升 AI 性能吗?
分两种:原本没插满通道(如 2 条插 4 槽板的双通道已是满配)→ 插满通道翻带宽;已经满通道 → 加容量只提升「能装下多少」,不提升速度。带宽 vs 容量,见[内存速度测试](/guides/memory-speed-benchmark/)。
DDR5 双通道不是 128bit×2 吗,为什么说和 DDR4 一样是双通道?
DDR5 单条内部是两个 32bit 子通道,但主板层面双条仍是「双通道」总位宽 128bit——营销话术常混淆。判断标准只有一个:实测带宽(DDR5-6000 双通道 ≈ 90GB/s,DDR4-3200 ≈ 50GB/s)。