二手服务器(至强/EPYC 平台)是本地大模型玩家的隐藏支线:几十块一条的 32G 内存、二十几核的处理器、廉价的大容量 ECC——在内存暴涨的行情里(DDR5 的价格曲线),这条支线的性价比越来越扎眼。但我要先把丑话说完:服务器的快乐属于愿意读手册的人。它和家用 PC 是两套语言,下面这六个差异不搞明白,买回来的是一台一万五千转的噪声发生器,而不是工作站。
参考的硬件路线分析在 EPYC/至强捡垃圾指南,那篇讲「值不值」,这篇讲「怎么让它跑起来」。
差异一:没有显示器接口,先学会 IPMI
家用主板点亮靠显示器,服务器的点亮靠 IPMI/BMC——一颗焊在主板上的独立小电脑,有自己的网口、自己的 web 界面,断电重装系统都不影响它活着。二手服务器几乎全是无头的(没有显卡输出),所以IPMI 是第一个要掌握的技能,排在所有硬件操作之前。
实操路径:网线直连电脑和服务器 IPMI 口,电脑网卡设成同网段(服务器的 BMC 出厂常见 192.168.1.x 或链路本地 169.254.x.x,等一会儿让它自己分),浏览器进管理界面。第一坑在这等着:远程 KVM(键盘画面重定向)很多还是 Java applet,要装老版本 JRE、改安全例外、信任证书——超微 X11 时代尤其如此,新一代(如 X12/X13、ASRock Rack)已换成 HTML5,选板时值得为这个加分。
装系统 = IPMI 里挂 ISO(远程介质重定向)→ 虚拟 U 盘启动 → 后面就是普通装机。这个技能练会之后,服务器装机会比家用机还省事——不用蹲在机箱前面插 U 盘。
差异二:内存的语言完全不同
服务器内存三条铁律:
- RDIMM/LRDIMM 和家用 UDIMM 不通用,插错了轻则不认重则不亮——买之前看主板支持列表,这是捡垃圾的第一课;
- ECC 不是玄学,是 offload 场景的实惠:内存错误悄悄被修掉,长跑训练少一种死法;而且二手 RDIMM 白菜价,32G 一条几十块,32G 内存讨论里的预算焦虑在这里失效;
- 插槽顺序有讲究:多路主板先插满 CPU1 的槽再碰 CPU2,同通道槽位对称插——不按丝印规则插,内存会降速甚至减半,这在家用双通道上叫「插错槽」,在服务器上叫「插了个寂寞」。
差异三:风扇默认起飞,静音是改造课
服务器风扇的设计逻辑是「机柜里没人,温度红线优先」——所以开机默认策略保守,温度稍动就 15000 转起飞。卧室放服务器,静音改造不是选修是必修:
- 超微主板:IPMI 的传感器页可以看每个风扇转速,阈值要么改 BMC 的 RAW 寄存器(第三方脚本,如 supermicro-fan-zone 脚本),要么在 BIOS 里改 zone 区间。把阈值从默认的 60°C 拉到 70-75°C,转速线性区下移,噪音从「直升机」降到「冰箱」;
- 暴力扇(Nidec Servo 这类)直接换掉,改普通 8038 PWM 风扇——风量看 TDP 算够用就行;
- 有一定动手能力的,加 PWM 转接板统一调速。
改完记得回归测试:满载烤机看温度曲线,确认新阈值下不会触顶。服务器的温度红线设得那么低不是没道理——它是给机房空调环境定的,家用环境改阈值是合理的,但改到不再过热保护的能力边界,要靠一次真实满载来确认,不能拍脑袋。
差异四:板子装不进你的机箱
服务器板是 E-ATX/proprietary 尺寸,孔位和家用机箱对不上;CRPS 电源是服务器专用规格,直接装家用机箱里是悬空的。三条现实路线:买配套的 2U/4U 机架箱(噪音又回来一半,且 2U 的散热器高度限制要核对);塔式服务器箱(二手全塔,匹配度最好);改造普通大机箱(主板孔位对不上就别硬来,选支持 SSI-EEB 的箱型)。电源配 CRPS 转接架(几十块)可以用在普通箱里——转接架是捡垃圾玩家的必备配件之一。
差异五:操作系统的答案没有悬念
服务器平台直接 Linux——Windows 对至强的老指令集、RDIMM、BMC 的支持都半生不熟。发行版选 Ubuntu LTS 或 Debian,驱动几乎全内置。这一步反而比家用机省心:服务器的 Linux 兼容性是厂商测试矩阵里的第一优先级。
差异六:心理预期管理
最后说人话的账:二手服务器适合「要大内存、要长期开机的离线推理/虚拟机/学习环境」的人,64G-256G 内存跑大模型 offload 是它的甜蜜点;不适合卧室党(噪音,改造后也是「冰箱」不是「书桌」)、不适合追求单机性能党(同代至强的单核约等于同期 i5 的七成)、不适合完全不想读手册的人。它的快乐是那种「五十块钱买到三倍内存」的快乐,前置成本是三四个晚上的折腾——这笔账,和 3000 元装机一样,先想清楚自己是哪类人,再做决定。