01模型档案
| 模型 | Llama 4 Scout · Meta |
| 规格 | 109B MoE · 许可 Llama License · 上下文 256K |
| 类别 | 大语言模型 · 擅长 多模态 · 17B 激活快推理 |
| 显存需求 | 量化最低 56G · 舒适推荐 64G |
02能跑它的显卡(按价格升序)
按推荐显存 64G 匹配,取最便宜的达标卡:
A100 80GB SXM(数据中心)一代神卡退居二线:HBM 2TB/s 跑推理依旧能打,拆机渠道价格持续下探;SXM 版需要整机主 …
¥58,000
RTX PRO 6000 Blackwell(工作站)工作站新旗舰:96G 显存 + 消费级 1.5 倍算力,一张卡顶一个双卡机;预算内的'一步到 …
¥63,999
Instinct MI300X 192GB(数据中心)A 家数据中心主力:192G 大显存 + 5.3TB/s,单卡塞下 MoE 巨兽;ROCm 生态 …
¥188,000
H100 80GB SXM(数据中心)数据中心标杆:Transformer 引擎 + NVLink,训练与高并发推理的基准线;个人接触 …
¥199,000
Instinct MI355X 288GB(数据中心)MI300X 的继任:288G + 8TB/s,云租价通常比 B300 低两到三成;ROCm 推 …
¥239,000
H200 141GB SXM(数据中心)H 系大显存版:141G + 4.8TB/s,长上下文与 MoE 推理吞吐比 H100 高一截; …
¥319,000二手/魔改大显存方案:[3090 24G 二手](/hardware/gpu/rtx-3090-24g-used/) · [魔改 4090 48G](/hardware/gpu/rtx-4090-48g-modded/) · 全量筛选 → [显卡专区](/hardware/gpu/)
109B MoE(17B 激活):Q4 约 55G,双 24G 卡或 48G 魔改起步;标称 10M 上下文是实验室口径,本地按 256K 用。
显存怎么算:Q4 权重约 55G + KV cache(256K 上下文约 6-10G)。双卡方案参考双卡电源账;48G 魔改卡的风险评估见魔改显卡指南。
选型对照:更大杯的 Maverick 与其他旗舰对比见大语言模型总表;引擎用 SGLang 或 vLLM(多卡张量并行成熟)。
常见问题
Llama 4 Scout 需要多少显存?
Q4 约 55G:双 24G(3090/4090)张量并行,或单张 48G 魔改 4090;再留 8G+ 给 KV cache。单张 24G 卡跑不动是正常的——MoE 总参数都要装进去。
10M 上下文是真的吗?
标称值,实验室口径。本地按 256K 用已经非常吃显存(长上下文的 KV cache 账见显存指南);真需要百万级上下文的任务,走云端或做 RAG 检索,别硬扛。
中文任务值得跑吗?
中文能力弱于同体量的 Qwen/DeepSeek 系。跑它的理由:多模态输入、英文 Agent 生态、MoE 推理速度;纯中文生产力,Qwen3 系更值。