Llama 4 Scout 显存需求与推荐配置

短答案

Llama 4 Scout:109B MoE(激活 17B),Q4 约 55G——双 24G 卡或 48G 魔改 4090 起步;标称 10M 上下文本地别指望,按 256K 用。

01模型档案

模型Llama 4 Scout · Meta
规格109B MoE · 许可 Llama License · 上下文 256K
类别大语言模型 · 擅长 多模态 · 17B 激活快推理
显存需求量化最低 56G · 舒适推荐 64G

02能跑它的显卡(按价格升序)

按推荐显存 64G 匹配,取最便宜的达标卡:

二手/魔改大显存方案:[3090 24G 二手](/hardware/gpu/rtx-3090-24g-used/) · [魔改 4090 48G](/hardware/gpu/rtx-4090-48g-modded/) · 全量筛选 → [显卡专区](/hardware/gpu/)

109B MoE(17B 激活):Q4 约 55G,双 24G 卡或 48G 魔改起步;标称 10M 上下文是实验室口径,本地按 256K 用。

显存怎么算:Q4 权重约 55G + KV cache(256K 上下文约 6-10G)。双卡方案参考双卡电源账;48G 魔改卡的风险评估见魔改显卡指南。

选型对照:更大杯的 Maverick 与其他旗舰对比见大语言模型总表;引擎用 SGLang 或 vLLM(多卡张量并行成熟)。

常见问题

Llama 4 Scout 需要多少显存?
Q4 约 55G:双 24G(3090/4090)张量并行,或单张 48G 魔改 4090;再留 8G+ 给 KV cache。单张 24G 卡跑不动是正常的——MoE 总参数都要装进去。
10M 上下文是真的吗?
标称值,实验室口径。本地按 256K 用已经非常吃显存(长上下文的 KV cache 账见显存指南);真需要百万级上下文的任务,走云端或做 RAG 检索,别硬扛。
中文任务值得跑吗?
中文能力弱于同体量的 Qwen/DeepSeek 系。跑它的理由:多模态输入、英文 Agent 生态、MoE 推理速度;纯中文生产力,Qwen3 系更值。
↑