Qwen3-235B-A22B 显存需求与推荐配置

本地需 3 张以上 24G 卡,建议 API 或云端按量。

显存怎么算:总参数 235B MoE,量化后仍需数百 G,个人不建议本地;推荐显存 —G 已含 KV 缓存余量(上下文 256K)。本地部署走 Ollama 或 vLLM;量化格式选 GGUF。

选型对照:同类模型横向对比见大语言模型总表;整套配置按预算抄 → 配置单;只想轻量用 → 免费 API。