二手数据中心卡怎么捡:A100/H100 拆机渠道与验卡

短答案

二手 A100 80G(¥58k,¥725/G)是当前国内合规大显存的性价比位——比新特供 H20 96G(¥1,146/G)单位价低四成。前提:PCIe 版散户可玩,SXM 版要连整机捡;验卡查 ECC 历史错误是底线,400W 涡轮的供电散热是入场券。

一句话:大厂折旧完的 A100,是个人与小团队能摸到的最便宜 80G——但它是机房资产,不是显卡快递:形态、供电、散热、验卡,每一步都有门道。

为什么是 A100(2026 年的窗口期)

卡渠道口径¥/G定位
A100 80G(拆机)¥58,000¥72570B FP16 单卡,退役潮初期
A40 48G(拆机)¥11,999¥250大显存预算位,被动散热
H20 96G(新·特供)¥110,000¥1,146合规新购主力,算力阉
H100 80G(新)¥199,000¥2,488服役主力,无退役量

二手 A100 的窗口逻辑:海外云厂商 Hopper 扩容完成后 Ampere 批量退役,拆机价持续下探;国内合规新购只有特供 H20(算力阉割版)——二手 A100 的 312 TFLOPS FP16 反而比特供新卡能打,这是它性价比的根。窗口会随退役量与政策波动,下手前先问三家渠道。

形态:先想清楚你买的是「卡」还是「机房」

PCIe 版(散户可行):标准 PCIe 卡形态,409W 涡轮散热。三个硬条件——机箱支持 3 槽位与 >26cm 限长、供电有 8pin EPS 级接口、满载涡轮噪音 60dB+(放卧室劝退)。塔式机箱装涡轮卡,风扇曲线拉满当白噪音机。

SXM 版(连整机捡):基板贴装,没有「单卡」概念。捡法是 HGX 8 卡整机/准系统(含基板、NVSwitch、冗余电源)——折算单卡价常低于 PCIe 拆机价,代价是 4U 机架、6kW+ 供电、机房环境全要求。适合:本来就是奔着多卡 MoE 推理/训练去的团队 → 4U GPU 服务器怎么装。

验卡流程(钱货两讫前做完)

  1. ECC 历史错误:nvidia-smi -q -d ECC 看累计错误与 remapped/retired pages——数据中心卡 7×24 跑过,少量可纠正错误正常,uncorrectable 非零或 retired pages 多 = 砍价到放弃;
  2. DCGM 诊断:dcgmi diag -r 3 跑完整诊断(显存、SM、NVLink、供电全覆盖);
  3. 满载烤机:gpu-burn 30 分钟,显存温度 <90°C、不掉卡不降频;
  4. SXM 整机加验:NVLink 拓扑完整(nvlink -smi)、基板固件版本、整机电源模块健康;
  5. 来源核验:合同发票齐全、序列号可查进口/折旧记录——来路不明=没有售后也没有下次。

三个提前想好的问题

  • 供电与散热:单卡 400W、8 卡整机 6kW+,你的场地给得起吗?(电费账:400W 7×24 一年约 ¥3,000 商电)
  • 运维能力:数据中心卡的问题(基板、固件、驱动矩阵)不是游戏卡插拔能解决的,团队没人管机器 → 直接按小时租;
  • 保值与退出:拆机卡再出手折价快,买前想好退出价——三年后 A100 的残值曲线参考 A40 的今天。

路线衔接:预算型的 48G 捡漏 → 二手工作站卡指南;全档位大显存地图 → 大显存显卡全景;整机采购走企业流程 → 企业采购完整流程。

数据来源:拆机/渠道价为本站硬件库 2026-11 口径,二手行情波动大,成交前多家询价;合规口径以现行出口管制与国内监管规定为准,本页不构成法律意见。

常见问题

二手 H100 能捡吗?
基本捡不到便宜的:H100 仍在服役主力期,退役量极少,「二手 H100 低价」多为渠道翻新或租赁转卖话术。2026 年二手市场的主力是 A100/A800 与 A40/L40S;等 H 系大规模退役至少还要两年。
SXM 和 PCIe 版怎么选?
散户玩 PCIe:A100 80G PCIe 单卡可插标准机箱(注意长度与涡轮噪音);SXM 是基板贴装模块,必须连 HGX 整机/准系统一起买——捡整机反而常常更划算(8 卡整机折算单卡价低于拆机单卡),但电、场地、噪音全是机房级要求。
验卡怎么验?
三件套:①nvidia-smi -q 查 ECC 历史错误计数与 remapped pages(有历史错误=砍价或放弃);②DCGM diagnostics 跑 stress 测试;③gpu-burn 满载 30 分钟看显存温度(<90°C)。SXM 整机加验 NVLink 拓扑(nvlink -smi)与基板供电。
和捡工作站卡(A40/A6000)什么区别?
目标人群不同:A40 48G ¥12k(被动散热,桌面塔式能用)是预算型捡漏;A100 80G ¥58k 是要 70B FP16/大 KV 并发的生产力位。散热量、供电要求、机架适配,A100 都是另一个量级——先确认你的机房条件再谈性价比。
国内买合规吗?
A100/A800 属于出口管制清单内的存量卡,国内二手交易与使用普遍存在(企业自用不涉外),但**再出口/跨境流转违法**;采购走正规二手商、合同发票齐全,来路不明的拆机件(可能涉及走私)别碰。
↑