01模型档案
| 模型 | Kimi K2 · 月之暗面 |
| 规格 | 1T MoE · 许可 Modified MIT · 上下文 256K |
| 类别 | 大语言模型 · 擅长 Agent · 工具调用 |
| 部署建议 | 本地不划算 — 开源 1T MoE 旗舰:本地 Q4 仍需 500G+,个人走 Kimi API;Agent 与工具调用口碑强 |
开源 1T MoE 旗舰:本地 Q4 仍需 500G+,个人走 Kimi API;Agent 与工具调用口碑强。
显存怎么算:1T 总参数 Q4 ≈ 500G+ 权重,叠加 KV cache 后只适合多卡服务器;个人使用走 API 是唯一划算解。本地生产力档(写代码、长文)看 Qwen3-32B 这一档,24G 卡即可。
选型对照:同类旗舰(DeepSeek-R1 / Qwen3-235B)横向对比见大语言模型总表;API 怎么选省钱 → 个人开发者 API 指南;想统一聚合多家 API → 自建 API 中转。
常见问题
Kimi K2 需要多少显存?
总参数 1T MoE:Q4 量化后权重仍 500G 以上,属于多卡服务器(8×48G 级)或云的领地。个人直接走 Kimi 官方 API,性价比远高于自建。
本地想跑同级别的怎么办?
显存买不起 1T,可以降档:32B 稠密(Qwen3-32B,24G 卡)覆盖日常生产力;要 MoE 的激活效率,等消费级可跑的开源中档 MoE,或云上按量租。
用什么软件跑?
个人:官方 API(可经 one-api 网关统一管理);企业自建:vLLM/SGLang 多卡张量并行,见引擎选型指南。