DeepSeek 本地部署配置表(Q4 口径)
| 版本 | 显存需求 | 硬件方案 | 定位 |
|---|---|---|---|
| R1 满血 671B | ~400G | 8×H100 / 服务器集群 | 企业级 |
| R1-Distill-32B | ~20G | 3090(二手)/ 5090 | 推理风格本地体验 |
| R1-Distill-14B | ~9G | 3060 12G / 5070 | 单卡推理练手 |
| R1-Distill-7B | ~6G | 4060 8G | 入门尝鲜 |
| API(deepseek-chat/r1) | 0 | 任意设备 | 个人最优解 |
GeForce RTX 5060 Ti 16GB
· 入门首选。带宽是短板,但 16G 显存让 Flux 和 14B 模型进得去,入门唯一推荐。
16G 显存
AI 算力 36
蒸馏版 14B/32B(offload)的本地方 sweet spot
¥3,599
京东比价算账见云 vs 本地对比;API 价格见大模型 API 对比。
常见问题
网上说的「本地部署 DeepSeek」到底是什么?
99% 是蒸馏版(R1-Distill):把 R1 的推理能力蒸馏进 Qwen/Llama 小模型,7B-70B 规格,单卡能跑。它与满血 671B 差距明显——蒸馏版保留了推理风格,综合知识与满血版不在一个量级。
什么情况值得本地跑 DeepSeek?
两个硬条件:数据绝对不能出内网(金融/医疗/法务),或部署在内网做大批量离线任务。否则 API 的价格(百万 tokens 几块钱)让本地化在 economics 上几乎不成立。