Qwen（通义千问）

阿里 Qwen（通义千问）是本站收录最多的开源权重家族：22 款模型，横跨四代——Qwen2.5、Qwen3（含 2507 更新版）、Qwen3.5 和 Qwen3.6——外加专门的 Coder、Thinking 和 Next 分支。全部 Apache-2.0 许可，上下文从 128K 到 256K，尺寸从 2B 口袋模型一直到 480B MoE 编程旗舰。

下面的 VRAM 数字统一按本站公式估算：Q4 权重 + 8K 上下文的 KV cache + 1 GB 开销。MoE 模型的 KV cache 按*激活*参数计算，不是总参数——这正是 A3B 系列性价比突出的原因。

尺寸梯度

• Qwen3.5-2B（2B dense，256K ctx）— Q4 ≈ 3 GB → 任何 12 GB 显卡都绰绰有余。（详情）
• Qwen3-4B-Instruct-2507（4B dense，256K ctx）— Q4 ≈ 4 GB → 12 GB；轻量任务的顺手日常款。（详情）
• Qwen3-4B-Thinking-2507（4B dense，256K ctx）— Q4 ≈ 4 GB → 12 GB；Instruct 版的推理调校姊妹款。（详情）
• Qwen2.5-7B-Instruct（7.6B dense，128K ctx）— Q4 ≈ 6 GB → 12 GB；经典老款，社区至今爱用。（详情）
• Qwen3-8B（8.2B dense，128K ctx）— Q4 ≈ 6 GB → 12 GB；本站下载量最高的 Qwen，超 1700 万次。（详情）
• Qwen3.5-9B（9B dense，256K ctx）— Q4 ≈ 7 GB → 12 GB；该尺寸下的最新一代。（详情）
• Qwen2.5-14B-Instruct（14.8B dense，128K ctx）— Q4 ≈ 10 GB → 12 GB，偏紧但能跑。（详情）
• Qwen3-14B（14.8B dense，128K ctx）— Q4 ≈ 10 GB → 12 GB；能装入 12 GB 卡的最大 Qwen 稠密款。（详情）
• Qwen3-30B-A3B-Instruct-2507（30.5B MoE，3B 激活，256K ctx）— Q4 ≈ 18 GB → 24 GB；中端预算享受 MoE 速度。（详情）
• Qwen3.5-35B-A3B（34.7B MoE，3B 激活，256K ctx）— Q4 ≈ 21 GB → 24 GB。（详情）
• Qwen3.5-27B（27B dense，256K ctx）— Q4 ≈ 21 GB → 24 GB。（详情）
• Qwen3.6-35B-A3B（36B MoE，3B 激活，256K ctx）— Q4 ≈ 21 GB → 24 GB；最新的 A3B 变体。（详情）
• Qwen3.6-27B（27.8B dense，256K ctx）— Q4 ≈ 22 GB → 24 GB。（详情）
• Qwen2.5-32B-Instruct（32.8B dense，128K ctx）— Q4 ≈ 26 GB → 刚好超出 24 GB，请准备 48 GB。（详情）
• Qwen2.5-Coder-32B-Instruct（32.8B dense，32K ctx）— Q4 ≈ 26 GB → 48 GB；广受好评的编程专精款。（详情）
• Qwen3-Coder-Next（79.7B MoE，3B 激活，256K ctx）— Q4 ≈ 45 GB → 48 GB；编程质量极高，每 token 仅约 3B 激活。（详情）
• Qwen3-Next-80B-A3B-Instruct（81.3B MoE，3B 激活，256K ctx）— Q4 ≈ 46 GB → 48 GB。（详情）
• Qwen2.5-72B-Instruct（72.7B dense，128K ctx）— Q4 ≈ 56 GB → 超出 48 GB，请上 96 GB 档。（详情）
• Qwen3.5-122B-A10B（122B MoE，10B 激活，256K ctx）— Q4 ≈ 70 GB → 96 GB。（详情）
• Qwen3-235B-A22B-Instruct-2507（235B MoE，22B 激活，256K ctx）— Q4 ≈ 135 GB → 192 GB+，多卡或统一内存方案。（详情）
• Qwen3.5-397B-A17B（397B MoE，17B 激活，256K ctx）— Q4 ≈ 223 GB → 仅 192 GB+。（详情）
• Qwen3-Coder-480B-A35B-Instruct（480B MoE，35B 激活，256K ctx）— Q4 ≈ 272 GB → 家族旗舰，仅适合工作站集群。（详情）

家族亮点

• MoE 做对了。 A3B / A10B / A22B 直接告诉你每 token 激活参数。我们的公式中 KV cache 随激活参数增长，所以一个 36B-A3B 模型在 8K 上下文下的 VRAM 需求和 27B 稠密款差不多——同时专家里存着多得多的知识。
• 长上下文是标配。 2507 更新版及以后全线 256K 上下文；老款 Qwen2.5 和初版 Qwen3 稠密款为 128K。记得 KV cache 随上下文线性增长，打算真用满窗口的话要多留显存。
• 一个许可，不折腾。 全线 Apache-2.0——商用、微调、再分发都可以，没有附加条款。
• 专用分支。 Coder 瞄准编程，Thinking 倾向长链推理，Next 线把稀疏 MoE 架构推到极致。

怎么选

• 12 GB（RTX 3060、RTX 5070 档）— Qwen3.5-9B 是甜点；Qwen3-14B Q4 挤一挤也能进。FP16 只有 2B–4B 款现实。
• 16 GB（RTX 4060 Ti 16GB、RTX 5060 Ti 16GB）— 模型跟 12 GB 一样，但上下文余量大——14B 跑 16K 上下文总共约 15 GB。
• 24 GB（RTX 3090、RTX 4090 档）— A3B MoE 三件套（30B、35B）或稠密 27B——全族性价比最高的区间。
• 48 GB（RTX 6000 Ada、A6000、双 24 GB）— 稠密 32B，或 80B Next / Coder-Next MoE。
• 96 GB（RTX PRO 6000、H100 档）— Qwen2.5-72B 稠密或 122B-A10B MoE。
• 192 GB+（M2 Ultra 192、B200、多卡）— 235B、397B 和 480B Coder。

相关链接

• Qwen3 最佳显卡
• 24GB 显存最佳模型
• 编程模型最佳显卡
• 指南：本地 LLM 到底需要多少 VRAM？
• 指南：在消费级显卡上跑大模型