DeepSeek（深度求索）

DeepSeek 是本站跟踪的前沿权重家族中许可最宽松的：本页每款模型都是 MIT 许可，尺寸从能装进 12GB 卡的 8B 蒸馏版一直覆盖到 862B MoE 旗舰——后者的 Q4 权重本身就要超过 4×96GB 卡的 VRAM。家族一分为二——R1 推理系列（含三款基于 Qwen 的蒸馏版）和 V4 对话系列——由统一的 MoE 架构串联，共同特点是激活参数远小于总参数。

以下 VRAM 数字按本站标准公式估算：Q4 权重 + 8K 上下文的 KV cache + 1 GB 开销。MoE 的 KV cache 按*激活*参数计算，不是总参数——所以即便是 862B 的 V4 Pro，每多 1K 上下文加的量也远小于稠密模型。

尺寸梯度

• DeepSeek-R1-0528-Qwen3-8B（8.2B 稠密，128K ctx）— Q4 ≈ 4.5 GB → 任何 12GB 卡跑起来都很轻松；体验 R1 推理风格的最低成本入场券。
• DeepSeek-R1-Distill-Qwen-14B（14.8B 稠密，128K ctx）— Q4 ≈ 8.1 GB → 12GB 跑 Q4 还有余量；16GB 更从容。
• DeepSeek-R1-Distill-Qwen-32B（32.8B 稠密，128K ctx）— Q4 ≈ 18.0 GB → 24GB 卡（RTX 3090/4090 档）；单张消费卡能跑的最大 R1 蒸馏版。
• DeepSeek-R1（684.5B MoE，37B 激活，128K ctx）— Q4 ≈ 376.5 GB → 多卡服务器（最低 4×96GB）；原始 R1 推理旗舰。
• DeepSeek-V4-Flash（158.1B MoE，13B 激活，1M ctx）— Q4 ≈ 87.0 GB → 96GB 档显卡；V4 家族的效率担当，每 token 仅 13B 激活。
• DeepSeek-V4-Pro（861.6B MoE，49B 激活，1M ctx）— Q4 ≈ 473.9 GB → 最低 5×96GB 服务器；V4 最高质量版。

家族亮点

• 全线 MIT，无附加条款。 本站收录的每一款 DeepSeek 模型都是 MIT 许可——商用、微调、再分发，全部不受限。在前沿权重家族中这很罕见，也是为什么这些模型的 GGUF 量化版到处都是。
• MoE 贯穿全场。 大模型（R1、V4 Flash、V4 Pro）都是 MoE，激活参数远小于总参数——R1 是 684.5B 中激活 37B，V4 Flash 是 158B 中激活 13B。这意味着一旦模型加载完毕，生成速度跟的是激活参数，不是总参数。
• V4 的 1M 上下文。 V4 Flash 和 V4 Pro 都带着 1M token 上下文窗口——我们跟踪的最长之一。但别忘了 KV cache 随上下文增长：从 8K 拉到 1M，V4 Flash（13B 激活）要多加约 25 GB KV cache，V4 Pro（49B 激活）则要多加约 98 GB。长文档部署请据此预留显存。
• R1 蒸馏版架起桥梁。 花不起 4×96GB 跑完整 R1？Qwen 系的蒸馏版让你在消费级尺寸上获得 R1 风格的推理能力。24GB 卡上跑 R1-Distill-32B Q4，是今天单卡推理模型质量/价格比最高的选择。

怎么选

• 12GB 显存 — R1-Distill-Qwen-8B 或 14B Q4。8B 是零门槛起点；14B 控制好上下文也能装下。
• 16GB 显存 — R1-Distill-14B Q4 跑得从容。8B 蒸馏款在这个档位毫无压力。
• 24GB 显存 — R1-Distill-32B Q4。单张消费卡推理模型的甜点——接近前沿推理质量，仅占 24GB。
• 96GB 显存 — V4 Flash Q4（约 87 GB）单卡刚好装下，拿到 V4 一代对话模型加 13B 激活 MoE 速度。完整 R1 装不下。
• 多卡（4×96GB+） — R1 Q4（约 377 GB）跨 4 卡。V4 Pro 需要 5×96GB 或更多 Q4。

对大多数单卡玩家，R1 蒸馏版——尤其是 24GB 卡上的 32B——就是现实的 DeepSeek 体验。完整 R1 和 V4 是数据中心级，但 MIT 许可让有硬件的构建者也直接能用。

相关链接

• DeepSeek-R1-Distill-Qwen-32B — 适配与速度估算
• DeepSeek-V4-Flash — 适配与速度估算
• 推理模型最佳显卡
• 本地跑得动的最佳 MoE 模型
• 指南：本地 LLM 到底需要多少 VRAM？
• 指南：LLM 量化详解