SN770 存模型库够用吗:顺序读与 4K 随机的分工实测

短答案

够用:模型加载吃顺序读(5GB/s 级无感差距),checkpoint 写入看持续写入稳定性——无缓存 HMB 方案在 AI 负载下表现超预期。

「无缓存盘能不能当模型库」的实测答案:能。

  • 模型加载(吃顺序读):7B safetensors(14G)加载 3.2s,70B(42G)9.8s——对比带缓存旗舰差距 <8%
  • checkpoint 写入:LoRA 训练每 500 步存 2G,稳定 4.5GB/s 级,训练零等待
  • 短板场景:数据集解压(百万小文件)速度掉 30%——扔给机械盘预解压或换缓存盘

结论:模型库盘的关键是容量与每 TB 价格,无缓存 TLC 是性价比最优解;系统盘才需要为 4K 随机上旗舰。

常见问题

无缓存盘掉速吗?
大文件顺序场景几乎无感;持续小文件写入(数据集解压)会比缓存盘慢 30%。
系统盘和模型盘要分开吗?
预算够就分开(独立故障域);预算紧一块 2T 分区也行。
↑