数据集第二次重构:总量突破 8T(视频帧、爬虫语料、开源数据集镜像)。
现架构:热层 NVMe 2T(当前训练数据)+ 温层 Exos 16T(全量数据集 + checkpoint)+ 冷层 对象存储(异地,每月 ¥15)。同步用 rsync + 定时脚本,训练前预热脚本把数据集从温层拉到热层(15 分钟/100G)。
月成本合计约 ¥95(硬盘摊销 + 存储 + 电费)。对比一度想上的全 NVMe 方案(8T NVMe ≈ ¥7000):分层方案用 1/7 的钱解决了 90% 的体验——训练前的 15 分钟等待,是这个价格下唯一的妥协。