服务器平台专题入口 → 服务器与捡垃圾专题;选购主线 → EPYC 捞垃圾全攻略与RDIMM 选购指南;装机验货实操 → 二手服务器指南。
AI 视频生成对 CPU 有要求吗?
CPU 会不会成为显卡的瓶颈?
会,表现形式是 GPU 利用率上不去:视频工作流里抽帧、分辨率调整、光流计算、最终编码都由 CPU 完成,若单步处理时间超过 GPU 生成时间,显卡就在空转——这是很多「换了 5080 还是慢」的真实原因。
DDR5 32G 够跑大模型吗?
内存超频点不亮:EXPO/XMP 排障完整流程
一体水冷漏液应急:发现、止损与理赔
EPYC 捞垃圾怎么配?代际天梯与平台总账
EPYC 捞垃圾整套最低多少钱?
¥2500 起步:7551(¥330)+ 二手 H11SSL(¥700)+ 32G×4 DDR4-2400(¥900)+ 拆机散热(¥60)+ 塔箱与电源(¥600)。这是玩具档,跑大模型建议 ¥5000+ 起步。
H11SSL 和 H12SSL 怎么选?
H11 配 Naples/Rome(H11 上 Rome 需刷 BIOS),H12 配 Rome/Milan 且直连 PCIe4;预算允许直接 H12SSL-2T,后续升 Milan 不用换板。
拆机 U 坏了怎么办?
散片渠道大多包点亮 7-30 天,超时无保——所以到手第一时间烤机验证;真坏的概率不高(服务器件筛选过),风险主要在主板与内存条。
放家里噪音怎么办?
两条路:塔式机箱 + NH-U14S TR4-SP3(安静),或 4U 机架 + 风扇曲线压转速(可接受);原装涡轮只适合放阳台/设备间。
SK 海力士 SK hynix
A-die 颗粒好在哪?
DDR5 超频甜点:6000C30 起步余量大,金百达/光威等大量采用;零售条几乎不做。
超威 AMD
海盗船 Corsair
海盗船内存值得买吗?
生态与品控好但颗粒不标、价格带信仰税;同规格国产 A-die 便宜 30%。
美光 Micron
英睿达和美光什么关系?
英睿达是美光零售品牌,原厂颗粒自产自销;一致性口碑最好。
三星 Samsung
英特尔 Intel
至强 E5 和 Scalable 怎么选?二手 Xeon 路线图
E5 v3/v4 现在还能买吗?
当工具机能:¥45-450 的多核白嫖,虚拟机/NAS/编译机都行。跑 AI 不行:E5 四通道 DDR4-2133 ≈ 68GB/s,是 EPYC Rome 八通道 204GB/s 的三分之一,纯 CPU 推理速度被带宽锁死。
Scalable 比E5强在哪?
核心是通道数:6 通道 vs 4 通道,2666/2933 频率也更高 —— 6132 的 128GB/s 已接近 E5 的两倍;平台(C621 主板)价格介于 X99 与 SP3 之间。
和 EPYC 怎么二选一?
带宽优先 EPYC(8 通道是硬优势);预算卡死 + 接受 6 通道看 Scalable;只是想要便宜多核玩具,E5 v3/v4 仍是门票价。
X99 和 C621 平台成本?
X99 二手主板 ¥300-600 但内存只认 RECC 2133/2400;C621 ¥800-1500 支持 2666-2933;SP3(H11/H12)¥600-2500 是 8 通道的入场费。
RDIMM 服务器内存怎么买?代际、插法与容量梯度
为什么 RDIMM 插不进普通主板?
RDIMM 带寄存器缓冲,只有服务器平台的内存控制器认识它;消费级主板(含撕裂者)物理槽位兼容也不认,直接点不亮 —— 反过来 UDIMM 普通条也插不上服务器平台。
每通道插两条会怎样?
2DPC 通常触发降频:DDR4-3200 条可能掉到 2666 甚至 2400,带宽打折。大容量优先买单条大容量(64G/128G),而不是每通道塞两条小的。
拆机条风险多大?
服务器内存出厂经过厂商筛选,拆机条本体故障率低;真正的风险是混批(单双面/颗粒批次不一致)导致的兼容问题 —— 认准同批次同品牌,到手逐条 memtester 烤一轮。
容量怎么规划跑大模型?
模型 Q4 量化体积 ×1.2 是内存需求:70B 要 64G+(256G 平台舒服)、235B MoE 要 128G+、想多模型常驻直接 512G 起步。
服务器散热怎么选?SP3/SP5 散热器与机架风道
SP3 原装涡轮能用吗?
能用且最便宜(¥60 拆机),200W 解热对 7302/7551 够用;代价是满载 50dB+ 像起飞 —— 机架/设备间/阳台专属,桌面党看塔式。
EPYC 可以用普通塔式散热器吗?
必须 SP3 专用扣具(EPYC 封装大、LGA 4094),普通 AM4/LGA 散热器装不上;专用款只有 Dynatron、猫头鹰 NH-U14S TR4-SP3 等少数型号。
服务器机箱风扇噪音怎么治?
①BIOS/IPMI 里设风扇曲线(温度阈值降转速);②换 Noctua/ Arctic 静音扇(注意 8038 高转速扇才扛得住机架风阻);③塔箱改装方案直接绕开机架风扇。
4U 和塔箱怎么选?
4U 机架:风道标准、扩展多卡强,但吵且占地;塔箱:安静可放桌面,SP3/SP5 散热选择少、多卡布局受限。放卧室选塔箱,进设备间选 4U。
内存带宽怎么决定 CPU 跑大模型的速度?
为什么带宽是 CPU 推理的上限?
每个 token 都要把激活的全部参数从内存读一遍:速度 ≈ 带宽 ÷ 参数字节数。204GB/s 读 3B 激活(Q4 ≈ 1.7GB)理论上限 ~120 tok/s,实际打 1-2 折到 10-20 tok/s;读 70B(≈40GB)就只剩个位数。
各平台带宽差多少?
消费级双通道 DDR5-6000 ≈ 96GB/s;撕裂者 4 通道 ≈ 160GB/s;EPYC Rome 8通道 DDR4-3200 ≈ 204GB/s;Genoa 12通道 DDR5-4800 ≈ 307GB/s;带宽翻倍的代价是平台价也翻倍。
什么模型适合纯 CPU?
MoE 小激活模型:Qwen3-30B-A3B(激活 3B)、DeepSeek-V3 系(激活 37B 需大带宽平台);Dense 7B 都能上,但同等显存预算下不如买显卡。
内存容量要多少?
模型 Q4 体积 ×1.2 + 系统与 KV 缓存:30B MoE 需 32G+、70B Dense 需 64G+、235B 级 MoE 需 128G+,多模型常驻按最大者 ×2 规划。
4U GPU 服务器怎么装?机箱、供电与 PCIe 拓扑
家用装 4U 机架现实吗?
现实但要接受两点:噪音(风扇墙+涡轮卡)与占地(43cm 深×17cm 高);放书房建议塔箱双卡方案,4U 进设备间/阳台。
电源怎么配?
单卡 12V-2×6 按 600W 预留,整机峰值 ×1.5:双 5090 平台 1600W 单电源起步;4 卡以上用双 CRPS 冗余(服务器机箱原生支持),一路市电断电不停机。
PCIe 通道影响推理吗?
推理几乎无感(单卡推理 PCIe3 x8 都够);训练的梯度同步吃带宽,x16 直连优先 —— 拓扑看主板,EPYC 全系 PCIe5 x128 条,通道焦虑比消费级小得多。
涡轮卡和非涡轮卡怎么选?
多卡机架选涡轮卡(风直出机背,互不吐热风);单卡塔箱选开放卡(更静更快);4U 里塞开放卡是常见的翻车点。
团队共享推理服务器怎么配?5 人到 20 人两档方案
多人并发到底难在哪?
单用户要首 token 快(带宽/显存),多用户要吞吐大(批处理)。vLLM 的 continuous batching 把多请求拼批,吞吐能到单请求的 3-5 倍 —— 但显存上限决定了同时驻留的模型与 KV 缓存规模。
为什么 RAG 吃内存不吃显存?
向量库与文档切块在内存里检索,不需要 GPU;知识库大(千万级切块)时内存容量是瓶颈,这也是共享服务器配大 RDIMM 的原因 —— 推理显存留给模型,检索内存留给知识库。
和每人开一个云 API 账号怎么比?
按 5 人团队日活 2000 次调用算,主流 API 月支出 ¥1500-4000;自建 ¥2 万设备 + 电费 ¥200/月,约 12-18 个月打平 —— 且数据不出内网,模型随便换。
谁来运维?
至少一个懂 Linux/容器的人:vLLM 部署、模型量化更新、监控告警;没有就买托管云,自建的隐性成本是运维人力不是硬件。
Intel CPU 世代怎么选?10 代到 Core Ultra 演进全解
10 代和 11 代差多少?
IPC 约 10-15%(Rocket Lake 把服务器 Cove 核下放),但 11 代旗舰(11900K)功耗翻车、频率倒退,只有 11400F/11700F 值得看;10 代 10400F 仍是百元级办公最优解。
12 代为什么是分水岭?
三点:P/E 混合架构(单核多核同时跃升)、LGA1700 长寿接口(12-14 代通吃)、DDR4/DDR5 双支持(老内存可复用)。12600KF 至今仍是千元级甜点。
13/14 代和 12 代什么关系?
Raptor Lake 是 Alder Lake 的工艺加强版,同接口同架构,频率+5-8%、E 核翻倍;13400F 对位 12400F 多核高 25%+,同价优先新。14 代挤牙膏,14600KF≈13600KF。
13/14 代 i7/i9 的缩肛问题?
13900K/14900K/13700K/14700K 高电压老化问题真实存在(2023-2024 爆发),Intel 微码 0x129 后修复;买二手认准新微码批次,买 K 系旗舰前看[风险说明](/guides/cpu-buying-guide-2026/)。
AI 装机选哪代?
推理瓶颈在显卡,CPU 6 核够(10400F/5600 都行);要跑预处理/Agent/视频管线,12 核起(12700F/5900X);预算够直接 13400F/14600KF —— 平台新旧不影响 AI 性能,钱给显卡。
AMD Zen 路线图:5000 到 9000 系怎么选?
AM4 平台还值得入吗?
值得 —— 5600 散片 ¥429 新品在产,B450 二手 ¥249,DDR4 3200 32G ¥399:¥1100 搭出全新办公/轻游戏平台。天花板明确(5950X/5700X3D),但价格决定它仍是入门答案。
X3D 对 AI 有用吗?
推理无感(瓶颈在显卡与显存);游戏巨大提升(3D 缓存降延迟);编译/仿真有中等收益。买 X3D 的理由 90% 是游戏。
7000 系和 9000 系差多少?
Zen5 对 Zen4 单核 +10-15%,多核 +5-10%;7800X3D 与 9800X3D 游戏差 8-12%。同接口(AM5)意味着买 7000 系将来可直接换 9000 系 —— 平台连续性是 AMD 的核心卖点。
AMD 的内存甜点?
AM4:DDR4 3600(1:1 FCLK);AM5:DDR5 6000 C30(EXPO 甜点),6400 是甜点+余量。Intel 平台的 7200+ 高频条在 AMD 上是浪费。
7000 系核显能亮机吗?
能:7000/9000 系全系带 RDNA2 核显(2CU),亮机+硬解够用;等显卡期不空窗,这是对比 Intel 无核显 F 系的隐性优势。
二手 CPU 平台怎么选?LGA1200/1700/AM4/AM5 总账对比
整套平台怎么算账?
CPU + 主板 + 内存(32G)三件套:AM4(5600+B450+DDR4)≈¥1100 全新;LGA1200(11700F+B560)≈¥1700 二手;LGA1700(12700F+B660 DDR4)≈¥2400 二手;AM5(7500F+A620+DDR5)≈¥1900 全新。
哪个平台升级空间最大?
AM5(还能升 9000 系与下代);LGA1700 到 14900K 封顶(但已是旗舰);AM4/LGA1200 都没有明天,买定离手。
二手 CPU 的风险?
CPU 本体几乎不坏(无机械结构,故障率极低),风险在:①13600KF+ 这类 K 系的电压老化(认准新微码);②针脚/触点损伤(收货查针);③主板才是二手链路里最容易坏的件 —— 预算留给主板。
AI 装机选哪个二手平台?
推理:哪个便宜选哪个(10400F 都够),钱给显卡;跑本地大模型(CPU offload):带宽优先 → AM5 DDR5 6000 双通道或直接服务器平台,二手消费级平台带宽都一样(双通道)。
老电脑升级跑 AI:DDR4 平台还值得救吗
主板芯片组天梯:Intel 400-800 系与 AMD 400-800 系全对照
B 和 Z/X 的核心差别?
CPU 超频(Intel 非 K 不能超,Z 板配非 K 是浪费)+ 通道数(PCIe/M.2/USB 更多)+ 供电规格。买 Z/X 板前先问自己:CPU 带 K 吗?需要 3 个以上 M.2 吗?
H610 的 32G 内存上限是硬伤吗?
对办公机不是(16G×2 够用),对 AI 用户是 —— 本地模型 32G 起步就顶格了。预算再加 ¥150 上 B 系,四槽可到 64-128G。
AMD 的 X 系比 B 系强多少?
X670/X870 多一路芯片组桥(USB/SATA 翻倍)+ 默认超频支持更全;B650/B850 对 99% 用户没有任何功能缺失。X870E 的真正卖点是 EXTREME 定位的供电与扩展。
老芯片组能上新 CPU 吗?
Intel:LGA1700 内通吃(12-14 代跨代兼容,B660 上 14600KF 可行,需刷 BIOS);AMD:AM4 跨 Zen 世代看主板 BIOS(B450 上 5000 系要刷),AM5 7000/9000 系同理。买前查主板 CPU 支持列表。
主板供电怎么看?相数、DrMOS 与带得动谁
供电相数越多越好吗?
不是无限堆:相数多 = 每相分摊电流小 = 更凉更稳,但超过 CPU 需求就是浪费。65W 的 13400F 配 6+1 相已是浪费;253W 的 14900K 至少 12+1 相 60A 级。
DrMOS 是什么?
把上桥+下桥+驱动封进一个芯片的功率模块,比分立方案效率高、发热小;「60A DrMOS」= 每相能过 60A 电流。同相数下 DrMOS 板明显更强。
怎么判断带不带得动?
粗算:相数 × 每相电流 × 1.2V(CPU 核心电压)≈ 持续供电能力。8 相 × 50A × 1.2V = 480W,远超 14900K 的 253W —— 所以现在主流板几乎不存在带不动,带不动的是百元板带旗舰的极端组合。
供电散热重要吗?
持续负载下决定性:散热片小的板瞬时能扛、长时间降频。看散热片覆盖面积(贴在 DrMOS/电感上的铝块),mATX 入门板常在这里省料。
主板板型尺寸全解:E-ATX 到 ITX 与机箱对照
ATX 机箱能装 mATX/ITX 主板吗?
能,孔位兼容 —— 但要注意:小板装大箱会有「空腔感」(风道变长、理线孔对不上、显卡位可能悬空),ITX 板进 ATX 箱是纯浪费;反过来 ITX 箱只能装 ITX 板。
mATX 和 ATX 差在哪?
物理差异:PCIe 插槽位(ATX 通常 3 个,mATX 2 个)与 M.2 数量(ATX 多 1-2 个);对单卡用户零差别。同芯片组 mATX 常便宜 ¥100-300,是装机默认。
ITX 的代价?
三重溢价:主板贵 50-70%(B650I vs B650)、机箱贵、散热器限高(下压式或薄塔)+ 显卡限长(300mm 内居多);换来的是 10-15L 的体积。为桌面空间买单,不为性能。
E-ATX 是什么?家用需要吗?
305×330mm 加宽板,多出来的空间给 PCIe/内存槽(工作站/双路);WRX90/E-ATX 是撕裂者平台的标配。家用单卡完全不需要。
内存时序怎么看?CL-tRCD-tRP-tRAS 与频率的权衡
CL(CAS Latency)是什么?
内存收到列地址到数据可读的等待周期数。C16 表示等 16 个时钟周期 —— 频率不同时 CL 不可直接比(3200 C16 ≈ 10ns,6000 C30 也 ≈ 10ns,真延迟几乎没变)。
时序里另外三个数字?
tRCD(行到列延迟)、tRP(行预充电)、tRAS(行激活到下一行)。日常选购看 CL 就够,其余三个是超频玩家调校位;同频下整套时序越紧越好,但收益递减。
频率和时序谁重要?
带宽敏感场景(AI offload/核显)看频率,延迟敏感场景(游戏 FPS/数据库)看真延迟。甜点公式永远是「平台最优频 + 该频下最紧的量产时序」:AMD 6000 C30、Intel 7200 C34。
XMP 和 EXPO 什么区别?
都是内存厂商预写的超频档:Intel 平台叫 XMP,AMD 平台叫 EXPO;一条 6000 C30 的条子通常两者都有。插上后要在 BIOS 里手动开启,否则跑默认 JEDEC 频率(4800/5600)。
CPU 选购天梯 2026:AMD/Intel 全系怎么选
2026 年买 CPU 最稳的路线是什么?
AM5 平台:9600(入门)/9800X3D(游戏)/9950X3D(全能)三代同槽,主板从 B650M 到 X870E 都能点亮,未来还有升级空间。Intel 侧 LGA1851 还年轻,但内存超频潜力大。
13/14 代酷睿还能买吗?
能,但只买新批次:缩肛问题源于过高电压微码,2024 年后出厂批次 + 最新 BIOS(0x129 微码后)已解决。清仓价的 14700K/14900K 是多核性价比之选。
X3D 的 3D 缓存对 AI 有用吗?
对推理几乎无感(瓶颈在显卡),对游戏帧数提升巨大,对编译、仿真这类大工作集任务有帮助。AI 为主没必要为 X3D 溢价,游戏为主闭眼上。
服务器 CPU 捡垃圾的最大坑?
不是 U 本身,是配套:SP3/SP5 主板渠道少且贵、必须 RDIMM 内存、散热扣具难买、电费按天算。先算整机账再下手,详见 EPYC 捡垃圾指南。
内存颗粒与品牌:海力士/三星/美光/长鑫怎么认?
为什么同品牌同频率的条子价格差很多?
颗粒批次不同:同是 6000 C30,海力士 A-die 批次能超 6800+,普通批次 6200 就到头;大牌的「特挑」就是筛过颗粒加价卖。不超频的用户买标准档即可。
海力士 A-die 和 M-die 怎么区分?
软件看 TyphoonBurner/烧录信息(A-die 编号 H5CGD8MGBD 系);经验法则:16G 单面高频条大概率 A-die,24G/32G 大容量是 M-die(3GB/颗)—— 买 2×16 高频选 A-die,买大容量选 M-die。
三星 B-die 是什么?为什么被吹?
DDR4 时代的传奇颗粒(8G 单面),3200 C14/3600 C16 特挑的底子,AM4 超频黄金档;DDR5 时代三星消费颗粒存在感下降,高频位被海力士接管。
国产长鑫颗粒能买吗?
能:DDR4 3200/DDR5 6000 C30 的长鑫条(金百达/光威)是当前性价比答案,稳定性行情已验证;短板是超频上限(别指望 7000+)与高频特挑档缺席。
内存选购指南:颗粒、频率、时序与品牌怎么挑
内存涨价还会持续吗?
2026 年 Q3 起 DDR5 因 AI 服务器需求挤占产能持续走高,消费级套装价格较年初明显上涨。编辑部态度:刚需就买,大容量(96G+)可蹲大促;别为省 10% 拖三个月,历史经验是越拖越贵。
6000 和 6400 怎么选?
AMD 平台 6000 是 1:1 分频甜点,6400 起分频收益递减;Intel(尤其 Ultra 200S)越快越好,6400-7200 都有意义。按平台选,不按数字大小选。
为什么同规格内存价差能到 30%?
差在颗粒批次(海力士 A-die vs B-die vs 美光)、特挑程度、马甲灯条与售后。金百达/光威用同款 A-die 价格屠夫;芝奇焰刃/幻锋戟是特挑颗粒 + 超频调校。
48GB 单条是什么套路?
半容量(non-binary)颗粒,2×48=96G 比传统 2×32×3 通道便宜,但时序普遍松(C32 起)、超频潜力弱。大容量刚需的性价比解,超频玩家绕行。
散热器选购:风冷与一体水冷怎么选,压得住谁
风冷真的够用吗?
够。245W 解热的 PA120 SE ¥139 能压 9950X 满血;风冷的上限在双塔 165mm(D15 级 250W)。350W 级 HEDT 与超频党才是一体水冷的刚需人群。
240 水冷比旗舰风冷强吗?
解热上限接近(270W vs 250W),但水冷优势在高负载持续性与不挡内存槽;旗舰风冷优势在零漏液风险、零泵噪、寿命十年起步。按机箱与审美选,不按参数选。
一体水冷寿命多久?
泵与冷液决定,主流品牌标 5-6 年(漏液包赔条款要看清)。到期建议直接换新不维修;风冷没有寿命焦虑,风扇坏了换风扇。
下压式散热器什么时候用?
ITX 机箱限高 <70mm 时(如 AXP120-X67 的 67mm)。下压顺带给供电与内存散热,但解热上限低(165W 级),配 65W 的 U 刚好。
DDR4 / 老平台能跑 AI 吗?影响有多大
DDR4 和 DDR5 跑大模型差多少?
纯 GPU 推理(模型全在显存):<5% 基本无感;CPU offload 场景:DDR4-3200(约 50GB/s)vs DDR5-6000(约 90GB/s),offload 部分速度差近一半——重度 offload 用户才有换的意义。
老平台升级到什么程度该停手?
显卡 + 内存 + 电源三项升级后就是收益递减区;CPU 六核以上、主板能点亮新卡,就没必要动。把换平台的钱换成显存,永远是 AI 场景的更优解。
机械硬盘影响大吗?
大:模型加载 40G 文件,SSD 十秒级 vs 机械盘分钟级,且 ComfyUI 每次切模型都重读。¥200 的 1T NVMe 是老平台最便宜的升级,优先级仅次于显卡。
线程撕裂者 / HEDT 平台跑 AI:多卡多通道的进阶之路
什么人需要 HEDT 跑 AI?
三个信号:①要插 2-4 张卡跑 70B/MoE(消费级主板双卡 PCIe 拆分损失大);②重度 CPU offload / MoE 混合推理——四通道内存带宽是双通道的两倍,offload 速度直接受益;③内存需求 128G+(HEDT 支持 256G+ 甚至 1T)。
撕裂者现在的选择?
7000 系(如 7960X,24 核)二手/清库存性价比高;9000 系全新平台带宽与能效更好。CPU 本身对 AI 推理贡献小——预算重点放在主板(PCIe 通道数)与内存通道插满,而不是顶配 U。
平台成本大概多少?
撕裂者 CPU + 主板 + 4×32G DDR5 起步约 ¥15-20k(不含显卡)——是消费级整机的 2-3 倍。所以决策公式很清晰:多卡/四通道带来的收益能不能吃掉这个差价,只有 70B+/MoE 重度玩家能。
和 EPYC 服务器平台什么区别?
EPYC 更便宜的核心数与更多内存通道(八/十二通道),但无核显、主板贵、机箱形态是服务器向;撕裂者是「工作站形态的 HEDT」,日常使用体验好。AI 玩家主流选撕裂者,机架部署选 EPYC——见[服务器平台指南](/guides/server-cpu-ai/)。
EPYC / 至强服务器平台跑 AI:捡垃圾的性价比与坑
为什么有人用服务器 CPU 跑大模型?
大模型 CPU 推理的速度上限 = 内存带宽。EPYC 八通道 DDR4-3200 ≈ 204GB/s、DDR5 平台更高,是消费级双通道的 2-3 倍——纯内存跑 MoE 小激活模型(30B-A3B 类)能达到 15-30 tok/s,可用性完全不同。
捡垃圾渠道和价格?
拆机 EPYC(如 7002/7003 系 32-64 核)散片价常低于消费级 i9;配套服务器主板/准系统(二手)整体拉低成本。注意:拆机件无保修、散热器为被动式(必须机架风道)、部分板卡需要特定电源接口。
最大的坑是什么?
①噪音:服务器风扇全速像起飞,放卧室别想;②功耗:整机待机就 100W+;③兼容性:内存必须按通道组配 RDIMM(普通内存条插不上);④形态:准系统是机架式,放进家里的书架需要决心。
和 HEDT(撕裂者)怎么选?
要桌面体验(安静/单机箱/核显输出)→ 撕裂者;要极限内存通道与性价比、接受机架形态 → EPYC;只是想试试 → 先用现有电脑 + 内存超频,别直接上服务器平台。
内存通道是什么?双通道/四通道/八通道对 AI 的影响
内存通道数怎么查、怎么插对?
消费级主板说明书标注(通常 4 槽 = 双通道,插 2/4 槽或 1/3 槽);HEDT/服务器主板标注四/八通道,必须按通道组等容量插满。插错的典型症状:容量对但带宽减半(AIDA64 一测便知)。
为什么 GPU 推理也关心内存通道?
两种场景:①offload——显存装不下的层放内存,每生成一个 token 都要过一遍,内存带宽直接决定速度(双通道 offload 32B ≈ 4-6 tok/s,四通道翻倍);②MoE——全部参数常驻内存,带宽就是天花板。
加内存条能提升 AI 性能吗?
分两种:原本没插满通道(如 2 条插 4 槽板的双通道已是满配)→ 插满通道翻带宽;已经满通道 → 加容量只提升「能装下多少」,不提升速度。带宽 vs 容量,见[内存速度测试](/guides/memory-speed-benchmark/)。
DDR5 双通道不是 128bit×2 吗,为什么说和 DDR4 一样是双通道?
DDR5 单条内部是两个 32bit 子通道,但主板层面双条仍是「双通道」总位宽 128bit——营销话术常混淆。判断标准只有一个:实测带宽(DDR5-6000 双通道 ≈ 90GB/s,DDR4-3200 ≈ 50GB/s)。
DDR3 / DDR4 / DDR5 / DDR6 内存发展史与对比:AI 视角
各代内存能混用吗?
不能:DDR3/4/5/6 物理防呆缺口位置不同,插不进异代插槽。能混的只有同代不同频率(就低运行)。所以「升级内存」和「换平台」经常是同一件事。
DDR5 的两个关键变化是什么?
①单条双 32bit 子通道(并行效率提升,尤其小数据块访问);②PMIC 电源管理上移到内存条(电压从 1.1V 起步,超频空间更大)。对 AI 的实际意义:同频带宽利用率更高,offload 场景比 DDR4 快约 30-50%。
DDR6 现在是什么状态?
JEDEC 标准已定(8Gbps 起步、预期消费版上探 12-17Gbps),2026 年处于平台导入早期,首发绑定新一代服务器/旗舰平台。对普通用户:别等——DDR5 正处于价格甜点位,DDR6 首发溢价惯例是 2-3 倍。
老 DDR3/DDR4 平台跑 AI 要换代吗?
纯 GPU 推理(模型全在显存):不用,带宽差距 <5%。重度 offload / MoE:DDR3(26GB/s)确实到极限,DDR4 双通道勉强,这时才考虑换。先测再换:[内存速度测试指南](/guides/memory-speed-benchmark/)。
内存速度怎么测?带宽/延迟测试方法与 AI 相关性
怎么判断内存插对了通道?
跑一次带宽测试对照理论值:DDR5-6000 双通道理论 ≈ 96GB/s,实测 <75GB/s 基本就是单通道运行(插错槽)或频率锁定在默认 4800——查主板说明书换槽位/开 XMP/EXPO 再测。
延迟和带宽哪个对 AI 重要?
大模型推理是顺序流式读取,带宽占绝对主导;延迟影响小(推理队列深度大)。所以内存选购优先级:容量 > 通道 > 频率 > 时序——别为低时序内存多花钱,把钱花在容量上。
二手内存要测什么?
①MemTest86 / memtest86+ 完整跑 4 轮以上(错误会标出具体地址);②AIDA64 带宽对照同规格正常值;③温度:满载 <50℃(过热说明颗粒老化或马甲虚焊)。内存是二手配件里最值得买的(无机械磨损),但必须测。
有没有免费命令行方案?
Linux:sysbench memory 测吞吐、dmidecode -t memory 查实际运行频率;Windows:AIDA64 试用版可测。最简单粗暴的验证:跑你的模型看 tok/s,对照同配置网友数据。
EPYC vs 消费级:跑 AI 到底谁划算
双十一 AI 装机抄作业:哪些真降价,哪些是先涨后降
双十一不值得买的五类硬件:省下的钱都是坑
机箱选购三件事:板型、限长、风道,其余都是加分项
海景房 vs 静音塔:2026 年的机箱审美分歧怎么选
海景房温度真的高很多吗?
玻璃前板版本 +3-7°C(显卡 hotspot 更明显);网面前板海景房与静音塔差距 <2°C——问题在玻璃前板,不在海景房形态本身。
9950X 跑本地 RAG:向量索引与检索的 CPU 账
96G 内存 offload Qwen3-32B:速度与体验的真实水位
EPYC 7302 vs 二手 i9-13900K:两条捡垃圾路线的对位
二手 EPYC 7302 vs i9-13900K 谁更适合多开
BIOS 更新实操:Flashback 免 CPU 刷写与翻车自救
SSD 掉盘数据恢复:能自己做的与该花钱的
常见问题
EPYC 捞垃圾整套最低多少钱?
玩具档 ¥2500(7551+H11SSL+128G);跑大模型的实用档 ¥5000 起步(7302+256G,8 通道 204GB/s);512G 内存档 ¥9000+。U 便宜平台贵,主板是大头。
普通内存条能插服务器吗?
不能。服务器平台只认 RDIMM/LRDIMM(带寄存器缓冲),普通 UDIMM 物理兼容也点不亮;反过来 RDIMM 插消费级主板同样点不亮。
CPU 推理速度的上限怎么估?
速度 ≈ 内存带宽 ÷ 每 token 激活参数字节。EPYC Rome 8 通道 ≈ 204GB/s:激活 3B 的 MoE(Qwen3-30B-A3B)10-20 tok/s 可用;激活 40GB 的 70B Dense 只有 1-3 tok/s 不可用。
二手服务器最吵的是什么?
机架风扇墙和 CPU 涡轮(50dB+);治理靠 IPMI 风扇曲线 + 静音扇替换(别全换,风压不够风道报废)+ 物理隔离;桌面党直接塔箱 + NH-U14S TR4-SP3。
内存条混插不同频率会怎样?
整组向下兼容到最低那条;更隐蔽的是混批(单双面/颗粒批次)导致的兼容不稳定 —— 认准同品牌同批次,到手逐条 memtester。
拆机 U 和拆机内存的保修?
散片渠道大多包点亮 7-30 天,超时无保;到手第一时间烤机验证(SP3 触点检查、内存逐条点亮、稳定性烤机),时间窗口内完成全部测试。