一句话:企业采购 AI 硬件的正确顺序是「从模型反推配置」,而不是「拿着预算买最贵的卡」——流程走对,预算能省三分之一。
第一步:需求评估(最容易被跳过的一步)
先回答三个问题,答案直接决定配置单:
- 跑什么模型?——按模型库的显存需求反推:14B 日常助手 → 单卡 12G 级;32B 生产 → 单卡 24G 级;70B/多模态 → 多卡 48G+。模型选型见本地大模型场景;
- 几个人用、并发多少?——5 人以下单机工作站够,10 人以上看团队共享推理服务器,并发再往上 vLLM/SGLang 集群;
- 放哪?——办公室要考虑噪音(涡轮数据中心卡直接排除)与供电(单路 220V 别超 3kW),机房则随便。4U 机架方案见GPU 服务器装机。
把答案写成一张需求表,交给任何渠道询价都用同一张,防止销售「按库存推荐」。
第二步:选型与询价
- 卡型选择:消费卡(5090/5070 Ti)性价比高但无 ECC;专业卡(RTX Pro/Ada)有 ECC、认证驱动与更长质保,溢价买的是生产稳定性——对照表见专业卡选购与数据中心 GPU 入门;
- 渠道三家起比:品牌总代 / 京东企业购 / 区域集成商,同型号对公含税价常差 5-15%;
- 问清楚三件事:质保几年谁主体(原厂/店保/集成商)、是否含税含运、故障响应时效(上门/备机/寄修);
- 批量议价:同型号 5 张起通常有空间,10 张以上再谈延保赠送。
行情参考(含税零售口径,批量另议):5070 Ti 16G ¥8,999 / 5090 32G ¥33,999 / 二手 A40 48G ¥11,999——数据中心卡与企业盘一样有独立的二手行情,采购窗口期很关键。
第三步:到货验收(省钱的地方在前面,保命的地方在这里)
| 项目 | 方法 | 不合格处理 |
|---|---|---|
| 数量与 SN | 逐卡核对装箱单与序列号 | 当场拒收 |
| 满载烤机 | gpu-burn / 大模型压满 30 分钟 | 掉卡、降频、报错换货 |
| 显存温度 | HWiNFO 显存结温,<90°C 健康(参考显存温度手册) | 过热查散热或退货 |
| ECC 日志(专业卡) | nvidia-smi -q 查 ECC 错误计数 | 有历史错误记录换货 |
| 电源接口 | 12V-2×6 是否插紧(熔毁五查) | 换线后再测 |
验收记录归档,和保修凭证放一起——这是售后扯皮时唯一的证据链。
第四步:台账与折旧
- 每卡登记:SN、采购日期、保修截止、渠道与联系人;
- 财务口径:GPU/服务器按 3-5 年折旧,电费进运维预算——一张 300W 卡 7×24 运行一年电费约 ¥2,600(商电口径),批量采购前把这笔账算进 TCO,见自建 vs 云租三年账;
- 建立使用台账:谁在用、跑什么任务——半年后回看,是扩容还是缩容的依据。
自建还是找采购服务?
配置明确、有 IT 团队 → 自采(京东企业购/总代);要选型支持、批量比价、验收与售后兜底 → 企业批量采购服务;整机从模型倒推 → 服务器采购服务。三者的分界不是预算,是你团队愿不愿意在采购上花两周。
常见问题
企业采购和个人装机最大的区别是什么?
三件事:①开票与对公(价格含税差 13%);②保修主体(企业批量采购通常能谈 3 年质保,个人零售多为 1-3 年个人送保);③停机成本(个人坏了等返修,企业停一天可能耽误整个团队)——所以企业选型要为稳定性和保修付溢价,别用个人性价比思路。
GPU 到货验收怎么做?
最低标准:逐卡 30 分钟满载烤机(gpu-burn 或大模型推理压满),记录显存温度与功耗;核对 SN 码与装箱单;专业卡/数据中心卡验 ECC 日志。企业盘/二手渠道来源必做,零售新卡抽检即可。
买新卡还是二手数据中心卡?
算力型负载(训练/大规模推理)看二手 A40 48G 这类——同预算显存翻倍,但要接受无保与电费高;生产环境稳态负载优先新卡保修。分界线:能接受停机风险省钱,不能接受就买新。
多少预算以上值得走采购服务?
大概 ¥10 万以上:这个量级自己询价也要花一两周,还要踩渠道坑;专业采购服务的价值是选型-比价-验机-售后一条链。¥10 万以下直接京东企业购/总代自采更省事。