事件:开源模型这个季度三件事值得装机党知道:
- DeepSeek V4 preview:Q3 以预览形式放出,MIT 许可、开源权重规模冲到万亿参数级——虽然本地部署它仍然是幻想,但蒸馏版本会顺着这个底座下放。
- Qwen 3.6 系列:4 月发布的 35B-A3B 是关键信号——总参数 35B、激活仅 3B 的 MoE,推理算力需求接近 3B 模型;Qwen 家族累计下载突破 7 亿,是全球下载量最大的开源模型系。
- 小米 MiMo v2.6 开源、Meta 转向闭源——开源权重阵营进一步向中国厂商集中,宽松许可(MIT/Apache)成为常态。
选型影响:MoE 是本轮对本地玩家最实惠的变化。35B-A3B 这类「总参数大、激活小」的模型,显存占用看总参数、速度看激活——结果就是 16G 卡(5060 Ti 16G)能跑出过去 24G 卡才敢想的质量档位,24G 卡(3090)的覆盖面再上探。显存容量为王的原则不变,变的是同样容量能装下的能力上限。各模型量化后的显存需求,以大模型显存速查库为准;Qwen3 全系的本地配置分解见部署指南。
顺带修正一个常见误判:MoE 时代「参数越大越跑不动」的直觉失效了,选卡先看模型库里的显存标注,别按总参数吓自己。
选型影响
MoE 小激活模型让 16-24G 卡能跑「总参数大得多」的模型:显存仍为王,但「能跑」的档位整体上移。