每个 CPU 插槽/芯片组都有自己的本地内存控制器,访问本地内存快、穿过互联访问远端内存慢 —— 这就是 NUMA(Non-Uniform Memory Access)。
为什么捡垃圾党要懂它:EPYC Naples(7551)是四个 NUMA 节点(每 CCD 一组),任务被调度到远端节点时内存延迟和带宽都打折;Rome 起可以在 BIOS 里调 NPS(Node Per Socket):NPS4 带宽最优、NPS1 延迟一致 —— 推理和虚拟化各有最优档。
实操两条:①推理服务用 numactl 把进程绑到靠近显卡/网卡的节点;②虚拟机按节点整组分配,别跨节点拆。术语关联 → RDIMM与内存通道。