服务器内存的选购公式:代际跟着平台走,插法跟着通道走,容量跟着模型走。
代际速查(对平台不对应频率)
| 代际 | 频率 | 平台 | 行情口径 |
|---|---|---|---|
| DDR4-2400 | C17 | Naples/Rome 起步 | 二手,口粮价 |
| DDR4-2666 | C19 | Rome/Milan 主力 / Xeon 一二代 | 二手,容量中坚 |
| DDR4-2933 | C21 | Xeon Cascade 满速 | 二手 |
| DDR4-3200 | C22 | Rome/Milan 满速 | 二手,带宽党首选 |
| DDR5-4800 | C40 | Genoa/SPR 满速 | 渠道,随 AI 行情波动 |
| DDR5-5600 | C46 | Genoa/Siena 超频档 | 渠道新价 |
平台内存控制器上限决定实际频率:买 3200 条插 Naples 也只跑 2666 —— 按平台代际买,不为用不到的频率付钱。
插法规则:通道优先于容量
- EPYC Rome/Milan:8 通道,每通道 1 条(DIMM_A1/B1/…)先插满,速度才能到 3200
- 2DPC(每通道两条)大概率降频,大容量优先单条 64G/128G 路线
- Xeon Scalable 6 通道、Genoa 12 通道,逻辑相同:先满通道,再谈容量
- 混插不同频率条整组向下兼容:一条 2400 混 3200 全组跑 2400,拆机条混批是最大坑
容量梯度
- 256G(32G×8):¥1800-2000 行情,系统 + 32B 模型 + RAG 知识库的起步位
- 512G(64G×8):70B Q4 舒适 + 多模型常驻,MoE 玩家的主力位
- 1TB(128G×8):235B 级超大 MoE / 多租户共享推理,预算上探
验条四步
到手逐条点亮 → memtester 单条跑满一轮 → 全组插满确认频率没掉( dmidecode 看 speed)→ 稳定性烤机 24h。二手渠道大多包点亮 7-30 天,时间窗口内完成全部验证。
在库 RDIMM 全表 → 内存专区;带宽怎么换算成推理速度 → 内存带宽决定 CPU 推理速度。术语底子 → RDIMM 词条与ECC 词条。
常见问题
为什么 RDIMM 插不进普通主板?
RDIMM 带寄存器缓冲,只有服务器平台的内存控制器认识它;消费级主板(含撕裂者)物理槽位兼容也不认,直接点不亮 —— 反过来 UDIMM 普通条也插不上服务器平台。
每通道插两条会怎样?
2DPC 通常触发降频:DDR4-3200 条可能掉到 2666 甚至 2400,带宽打折。大容量优先买单条大容量(64G/128G),而不是每通道塞两条小的。
拆机条风险多大?
服务器内存出厂经过厂商筛选,拆机条本体故障率低;真正的风险是混批(单双面/颗粒批次不一致)导致的兼容问题 —— 认准同批次同品牌,到手逐条 memtester 烤一轮。
容量怎么规划跑大模型?
模型 Q4 量化体积 ×1.2 是内存需求:70B 要 64G+(256G 平台舒服)、235B MoE 要 128G+、想多模型常驻直接 512G 起步。