本地部署 Qwen3 需要什么配置?(8B / 14B / 32B / 235B)

Qwen3 全系显存速查(Q4 量化口径)

# Ollama 一行起步(任何 8G+ 显卡的机器)
ollama run qwen3:14b

GeForce RTX 3060 12GB · 千元级 12G 传奇。学生党预算上限 2000 时的最优解。

12G 显存 AI 算力 13

Qwen3-14B 的最低成本舒适区

¥1,799

GeForce RTX 3090 24GB(二手) · 二手市场大显存之王。24G 跑 32B 从容,但无保修、功耗高,认准个人自用卡。

24G 显存 AI 算力 38

Qwen3-32B 全速运行的大显存解

¥5,499

各规格部署细节与替代模型见本地大模型指南与模型库。

常见问题

部署 Qwen3 用什么软件最简单?

Ollama 一行命令拉起(ollama run qwen3:14b),适合个人;对外提供服务用 vLLM 或 llama.cpp server(并发与 API 兼容更好);Windows 图形界面用 LM Studio。

为什么我 16G 显存跑 32B 会卡?

32B Q4 约 20G,16G 卡必须把部分层 offload 到内存,速度从 30+ tok/s 掉到 10 tok/s 以下。「能跑」和「好用」之间隔着一张 24G 卡(二手 3090 或 5090)。