B300 和 MI355X 都把显存推到 288G HBM3e、带宽 8TB/s(B300、MI355X)。新品发布本身是新闻,但编辑部想聊的是这条曲线的形状——显存军备竞赛的下一章,已经不在消费级了。
判断一:288G 买断的是工程复杂度
70B FP16 模型本体约 140G。B200 时代要靠双卡张量并行硬凑,而张量并行的真实成本从来不是硬件钱:是 NCCL 调优、是框架兼容性、是半夜掉一张卡整个任务重来。288G 单卡全量装下还有 KV 余量(KV Cache 的账算过,长上下文下这笔余量并不奢侈),等于用显存容量把一整层分布式系统工程直接买断了。
所以编辑部对「B300 比 B200 贵多少」这类比价问题的态度是:问错了维度。这代卡的进步要按「省掉的工程师人天」计价,不是按每 GB 显存计价。
判断二:消费级锁死 32G 是手术,不是瓶颈
每年都有人问「为什么 5090 不给 48G」。答案众所周知但值得重复:不是技术限制,是产品分层。消费卡显存卡在 32G,刚好落在「70B Q4 能跑、FP16 不行」的位置——把尝鲜留给消费级、把生产逼上专业卡与数据中心,这个刀法从 4090 24G 时代就没变过,50 系只是延续。
有意思的是市场对此的回应:魔改产业把「被锁死的显存」重新变成了商品——4090 48G 如今比 5090 官卡还便宜七千,等于灰色市场替 NVIDIA 完成了它不肯做的那档产品。供给缺口在哪,华强北就在哪,这是这个行业二十年不变的物理定律。
判断三:消费级的「够用线」其实在往下走
另一条少有人注意的曲线:普通玩家真正需要的显存,正在被软件进步「解压缩」——
- 一年前要 70B 才能胜任的写作/代码任务,32B 级已经能打;Q4 量化把门槛再砍一半
- MoE 的账最夸张:总参数很大、激活很小,16-24G 卡跑出老 70B 的体验(带宽公式里 MoE 段专门算过)
- 推理框架一年迭代三代,同样的卡吞吐翻倍是常态
所以分化的图景是:数据中心显存往上狂奔,消费级需求往下解压,中间那段「既要本地又要全量」的需求带,才是魔改卡与二手专业卡(A40 这类)的基本盘。这个基本盘比大多数人想象的大。
一个预测(说错了欢迎挖坟)
50 Super 若在 CES 2027 用上 3GB GDDR7 模组,消费级显存天花板会第一次真正松动——16 颗 × 3GB 意味着 48G 消费卡在布线上成立。但别指望便宜:颗粒涨价的账单会一分不少地转嫁给定价,48G 消费卡的归宿大概率还是「¥4 万级」,继续给 32G 让出「性价比位」。
魔改产业在可见的未来依然有活干——它填的从来不是技术缝,是定价缝。
收尾:下一道门槛不是显存
显存竞赛走到 288G 之后,本地部署的瓶颈清单正在换序:电费、散热、运维时间、模型更新速度——这些「软成本」在魔改半年手记里已经初现。买得起装得下之后,养得起才是下一章的主题。