Kimi（月之暗面）

Kimi 是月之暗面的开源权重旗舰线，当前 K2 一代有两位成员：Kimi-K2.6 面向通用对话和推理，Kimi-K2.7-Code 面向编程和 agent 编码。两者都是 2026 年社区热门，且共用同一架构：1030B 参数 MoE，384 个专家，每 token 路由 8 个——每次生成只激活约 32B 参数。

正是这个 MoE 设计让万亿参数模型勉强可服务。每 token 的计算量更接近 32B 稠密模型而非 1030B，因此在足够硬件上 tok/s 惊喜地可用。但"足够硬件"这四个字很重：全部 1030B 参数仍然要栖身在内存某处，这让 Kimi 成为本站收录中最大、且大大领先的家族。

所以诚实的前置结论是：这是数据中心级模型。没有任何单张消费级显卡——哪怕是 192GB+ 档——能在任何我们跟踪的量化等级下装下 Kimi K2。本文告诉你到底需要多少显存，以及如果你的预算是一张显卡，该买什么替代品。

尺寸梯度

• Kimi-K2.6（1030B 总量，32B 激活，MoE 384 专家 / 每 token 8 个）— Q4 在 8K 上下文 ≈ 574 GB → 单卡无解，准备一台 8×96 GB 级别的多卡服务器。详见 Kimi-K2.6 模型页。
• Kimi-K2.7-Code（1030B 总量，32B 激活，MoE 384 专家 / 每 token 8 个）— Q4 在 8K 上下文 ≈ 574 GB，显存占用与 K2.6 完全相同；当负载是代码生成而非聊天时选它。详见 Kimi-K2.7-Code 模型页。

574 GB 怎么来的？我们公式是权重 + KV cache + 1 GB 开销。Q4 权重本身 566.5 GB，默认 8K 上下文下 KV cache 只增加约 6 GB——因为对 MoE，KV cache 跟的是*激活*的 32B，不是全部 1030B。但上下文长度是陷阱：往 256K 完整窗口拉伸，KV cache 会飙到大约 205 GB，所以 Q4 长上下文部署实际需要约 780 GB 甚至更高的总 VRAM。

更激进量化也帮不了太多。Q2 权重降到 288.4 GB——仍然远超本站收录的任何单卡。FP16 权重大约 2060 GB（约 2 TB），那已经是多节点的范畴了；实际上，所有人跑这个家族都是用低精度量化。

Kimi 特别在哪

第一是 MoE 经济学。你为 1030B 参数付了显存账单，但计算账单是 32B 的，所以在大铁上这些模型体感很快，同时完全不可能塞进桌面机。第二是上下文：两款都是 256K 窗口，够放整个代码库或一本书。第三是许可：Kimi K2 用的是 Modified MIT。在万亿参数旗舰的标准下算宽松，但不是纯 MIT——商用部署前还是要读一遍条款。

怎么选

按显存档位，实话实说：

• 12GB / 16GB / 24GB — 这个家族的哪一款都远远够不着。不是你的卡不行，是 1030B 模型的品类就不对口。用单张消费卡，不如看我们的 24GB 最佳模型 精选。
• 48GB / 96GB — 仍然不行。即便是 Q2 权重（288.4 GB）也是 96GB 卡的三倍。
• 192GB+ — 单卡仍然装不下 Kimi 在我们任何量化等级下。多 GPU 工作站或服务器是门槛：Q2 约 290 GB，Q4 在 8K 下约 574 GB，真要开 256K 窗口约 780 GB+。实际意味着 4× 到 8× 96 GB 级别的机子或同等数据中心卡。
• 如果你真有这硬件 — 两款的取舍不在显存，而在于负载（因为占用完全一样）：K2.6 用于通用聊天和推理，K2.7-Code 用于编程。

其他人还是选小一点的家族更舒服——70B 级稠密或百 B 以下 MoE 能塞进一两张消费卡，覆盖绝大多数本地 LLM 场景。我们的 VRAM 选型指南 拆解了全部计算。

相关链接

• Kimi-K2.6 — 适配与速度估算
• Kimi-K2.7-Code — 适配与速度估算
• 本地 LLM 到底需要多少 VRAM？
• LLM 量化详解（Q4、Q8、FP16）
• 2026 年本地 LLM 最佳 GPU
• 24GB 显卡最佳模型