内存速度怎么测?带宽/延迟测试方法与 AI 相关性

短答案

测三样:读/写带宽(GB/s)、复制带宽、延迟(ns)。工具:AIDA64(图形化)/ sysbench(命令行)。带宽对照通道理论值(双通道 DDR5-6000 ≈ 90GB/s),低于 80% 说明没插对通道或频率没跑满。

标准测试流程(AIDA64)

  1. 缓存与内存基准:记录 Read / Write / Copy(GB/s)和 Latency(ns);
  2. 对照理论值:频率 × 128bit(双通道)÷ 8,DDR5-6000 ≈ 96GB/s,达到 85%+ 即正常;
  3. 稳定性:TestMem5 或 MemTest86 跑 4 轮(超频/二手必做)。

与 AI 推理的相关性速查

你的情况该看的指标
模型全在显存都不用看,内存影响 <5%
offload 跑大模型带宽(直接决定 tok/s)
MoE / 纯 CPU带宽 + 通道数
训练容量 > 带宽(防 OOM)

背景原理:内存通道详解、DDR 世代对比。

常见问题

怎么判断内存插对了通道?
跑一次带宽测试对照理论值:DDR5-6000 双通道理论 ≈ 96GB/s,实测 <75GB/s 基本就是单通道运行(插错槽)或频率锁定在默认 4800——查主板说明书换槽位/开 XMP/EXPO 再测。
延迟和带宽哪个对 AI 重要?
大模型推理是顺序流式读取,带宽占绝对主导;延迟影响小(推理队列深度大)。所以内存选购优先级:容量 > 通道 > 频率 > 时序——别为低时序内存多花钱,把钱花在容量上。
二手内存要测什么?
①MemTest86 / memtest86+ 完整跑 4 轮以上(错误会标出具体地址);②AIDA64 带宽对照同规格正常值;③温度:满载 <50℃(过热说明颗粒老化或马甲虚焊)。内存是二手配件里最值得买的(无机械磨损),但必须测。
有没有免费命令行方案?
Linux:sysbench memory 测吞吐、dmidecode -t memory 查实际运行频率;Windows:AIDA64 试用版可测。最简单粗暴的验证:跑你的模型看 tok/s,对照同配置网友数据。
↑