跑 Qwen3 模型需要什么 GPU？

Q4 / 8K 上下文下，目录中 17 个 Qwen3 模型约需 2.5–272.11 GB VRAM（权重 + KV cache + 1 GB 开销）。17 个中 15 个至少能被一款收录的零售 GPU 完整装下；本页最常见的性价比之选是 RTX 5090 32GB（MSRP $1,999——标价，非实时售价）。

像 RTX 4090 24GB 这样的 24 GB 卡能跑 Qwen3 模型吗？

17 个中有 11 个可以（Q4/8K）：Qwen3.5-2B, Qwen3-4B-Instruct-2507, Qwen3-4B-Thinking-2507, Qwen3-8B 等 7 个。其余在 8K 上下文下需要超过 24 GB——各模型的最低需求见表。

Qwen3 模型应该跑 Q4 还是 FP16？

Q4。FP16 权重约为 Q4 的 3.6 倍（每参数 2.0 对 0.55 字节），同一模型 FP16 需要大得多的卡。本页按典型的本地配置 Q4 / 8K 上下文排名；每个链接的装机核对页也给出 FP16 结论。

Qwen3 模型最佳 GPU——Q4/8K 装机与 tok/s

Q: 跑 Qwen3 模型 需要什么 GPU？

Q4 / 8K 上下文下，目录中 17 个 Qwen3 模型 约需 2.5–272.11 GB VRAM（权重 + KV cache + 1 GB 开销）。17 个中 15 个至少能被一款收录的零售 GPU 完整装下；本页最常见的性价比之选是 RTX 5090 32GB（MSRP $1,999——标价，非实时售价）。

目录收录 17 个 Qwen3 模型（2B–480.2 参数）。下表为每个模型给出 Q4 / 8K 上下文下能完整装下它的最便宜零售 GPU 与最快零售 GPU，含解码 tok/s。装得下 = 权重 + KV cache + 1 GB 运行时开销不超过 95% VRAM——而非只看权重。其中 2 个超出我们收录的所有零售 GPU，已在表中标注。方法论.

#	模型	参数	Q4/8K 需求 (GB)	性价比 GPU（可装下）	最快零售 GPU	购买
1	Qwen3.5-2B	2.0B	2.5	Arc B570 10GB ≈120.9 tok/s 估算	RTX 5090 32GB ≈570.2 tok/s 估算	搜索 Amazon （返利链接）
2	Qwen3-4B-Instruct-2507	4.0B	4.0	Arc B570 10GB ≈60.5 tok/s 估算	RTX 5090 32GB ≈285.1 tok/s 估算	搜索 Amazon （返利链接）
3	Qwen3-4B-Thinking-2507	4.0B	4.0	Arc B570 10GB ≈60.5 tok/s 估算	RTX 5090 32GB ≈285.1 tok/s 估算	搜索 Amazon （返利链接）
4	Qwen3-8B	8.2B	7.15	Arc B570 10GB ≈29.5 tok/s 估算	RTX 5090 32GB ≈139.1 tok/s 估算	搜索 Amazon （返利链接）
5	Qwen3.5-9B	8.95B	7.71	Arc B570 10GB ≈27.0 tok/s 估算	RTX 5090 32GB ≈127.4 tok/s 估算	搜索 Amazon （返利链接）
6	Qwen3-14B	14.8B	12.1	RX 7600 XT 16GB ≈12.4 tok/s 估算	RTX 5090 32GB ≈77.1 tok/s 估算	搜索 Amazon （返利链接）
7	Qwen3.5-27B	27.0B	21.25	RX 7900 XTX 24GB ≈22.6 tok/s 估算	RTX 5090 32GB ≈42.2 tok/s 估算	ASRock Radeon RX 7900 XTX Phantom Gaming 24GB OC （返利链接） · 更多商品
8	Qwen3.6-27B	27.8B	21.85	RX 7900 XTX 24GB ≈22.0 tok/s 估算	RTX 5090 32GB ≈41.0 tok/s 估算	ASRock Radeon RX 7900 XTX Phantom Gaming 24GB OC （返利链接） · 更多商品
9	Qwen3-30B-A3B-Instruct-2507	30.5B MoE 激活 3B	18.38	RX 7900 XT 20GB ≈169.7 tok/s 估算	RTX 5090 32GB ≈380.1 tok/s 估算	搜索 Amazon （返利链接）
10	Qwen3.5-35B-A3B	34.7B MoE 激活 3.0B	20.69	RX 7900 XTX 24GB ≈203.6 tok/s 估算	RTX 5090 32GB ≈380.1 tok/s 估算	ASRock Radeon RX 7900 XTX Phantom Gaming 24GB OC （返利链接） · 更多商品
11	Qwen3.6-35B-A3B	36.0B MoE 激活 3.0B	21.4	RX 7900 XTX 24GB ≈203.6 tok/s 估算	RTX 5090 32GB ≈380.1 tok/s 估算	ASRock Radeon RX 7900 XTX Phantom Gaming 24GB OC （返利链接） · 更多商品
12	Qwen3-Coder-Next	79.7B MoE 激活 3B	45.44	Mac mini M4 Pro 64GB ≈57.9 tok/s 估算	RTX 6000 Ada 48GB ≈203.6 tok/s 估算	搜索 Amazon （返利链接）
13	Qwen3-Next-80B-A3B-Instruct	81.3B MoE 激活 3B	46.32	Mac mini M4 Pro 64GB ≈57.9 tok/s 估算	Mac Studio M3 Ultra 96GB ≈173.7 tok/s 估算	搜索 Amazon （返利链接）
14	Qwen3.5-122B-A10B	122.0B MoE 激活 10.0B	70.1	Mac Studio M3 Ultra 96GB ≈52.1 tok/s 估算	Mac Studio M3 Ultra 96GB ≈52.1 tok/s 估算	搜索 Amazon （返利链接）
15	Qwen3-235B-A22B-Instruct-2507	235.1B MoE 激活 22B	134.71	Mac Studio M2 Ultra 192GB ≈23.1 tok/s 估算	Mac Studio M2 Ultra 192GB ≈23.1 tok/s 估算	搜索 Amazon （返利链接）
16	Qwen3.5-397B-A17B	397.0B MoE 激活 17.0B	222.75	无零售 GPU 可装下	—	—
17	Qwen3-Coder-480B-A35B-Instruct	480.2B MoE 激活 35B	272.11	无零售 GPU 可装下	—	—

估算 = 基于带宽的估算；实测 = 收录的真实基准，覆盖估算值。GPU 名称链接到完整装机核对（4K/8K/32K 装机表 + VRAM 明细）。MSRP 为发布标价，非实时售价——Amazon 价格会变，点购买链接看当前价。标注「无零售 GPU 可装下」的模型所需 VRAM 超过目录内所有零售卡（最大 192 GB）——数据中心级选择见模型页。

对比入选 GPU

Arc B570 10GB vs RTX 5090 32GB · RTX 5090 32GB vs RX 7900 XTX 24GB · Mac Studio M3 Ultra 96GB vs RTX 5090 32GB · Arc B570 10GB vs RX 7900 XTX 24GB · Arc B570 10GB vs Mac Studio M3 Ultra 96GB · Mac Studio M3 Ultra 96GB vs RX 7900 XTX 24GB

Qwen3 模型最佳 GPU

热门装机核对

对比入选 GPU