Qwen3.6-35B-A3B-FP8

Qwen · 36.0B（激活 NoneB） · MoE · ctx NoneK · apache-2.0 · HuggingFace

Qwen3.6-35B-A3B-FP8（Qwen）是 AI Hashrate 收录的36.0B 参数 MoE（每 token 激活 36.0B）开放权重模型。 按 8K 上下文估算：Q4 约需 28.0 GB VRAM（权重 19.8 GB + KV 7.2 GB + 开销 1 GB），FP16 约需 80.2 GB。 在该上下文假设下，目录中约有 24 款 GPU/加速器能在 Q4 下完整装下此模型。 Q4 最快配置：B200 192GB SXM ≈ 141.4 tok/s（估算）; MI300X 192GB ≈ 93.7 tok/s（估算）; H200 141GB SXM5 ≈ 84.8 tok/s（估算）; H100 80GB SXM5 ≈ 59.2 tok/s（估算）; Gaudi 3 128GB ≈ 57.9 tok/s（估算）。 下表给出各硬件的 VRAM 装机情况与每美元 tok/s（按 MSRP 标价）。估算基于显存带宽公式；有实测时以实测为准。详见方法论页。 方法论.

92 个硬件配置——按 tok/s 排序。默认装机上下文 8K。

硬件	VRAM	量化	tok/s	装得下？	tok/s/$
B200 192GB SXM	192	Q4	141.4 估算	是	0.004
MI300X 192GB	192	Q4	93.7 估算	是	0.006
H200 141GB SXM5	141	Q4	84.8 估算	是	0.002
H100 80GB SXM5	80	Q4	59.2 估算	是	0.002
Gaudi 3 128GB	128	Q4	57.9 估算	是	0.005
H100 80GB SXM5	80	FP16	46.3 估算	否	0.002
B200 192GB SXM	192	FP16	38.9 估算	是	0.001
RTX 4090 24GB	24	Q4	37.3 估算	否	0.023
RTX 4090D 24GB (China)	24	Q4	37.3 估算	否	0.023
RTX 3090 Ti 24GB	24	Q4	37.3 估算	否	0.019
A100 80GB SXM4	80	Q4	36.0 估算	是	0.002
RX 7900 XTX 24GB	24	Q4	35.5 估算	否	0.036
RTX 3090 24GB	24	Q4	34.7 估算	否	0.023
RTX 5090 32GB	32	Q4	31.7 估算	是	0.016
A100 80GB SXM4	80	FP16	28.2 估算	否	0.002
MI300X 192GB	192	FP16	25.8 估算	是	0.002
H200 141GB SXM5	141	FP16	23.3 估算	是	0.001
RX 7900 XT 20GB	20	Q4	20.6 估算	否	0.023
RTX 6000 Ada 48GB	48	Q4	17.0 估算	是	0.003
V100 32GB SXM2	32	Q4	15.9 估算	是	0.002
Gaudi 3 128GB	128	FP16	15.9 估算	是	0.001
RTX 5080 16GB	16	Q4	15.8 估算	否	0.016
L40S 48GB	48	Q4	15.3 估算	是	0.002
V100 16GB PCIe	16	Q4	14.8 估算	否	0.002
RTX 5070 Ti 16GB	16	Q4	14.7 估算	否	0.02
Mac Studio M3 Ultra 96GB	96	Q4	14.5 估算	是	0.004
Mac Studio M2 Ultra 192GB	192	Q4	14.1 估算	是	0.002
RTX A6000 48GB	48	Q4	13.6 估算	是	0.003
RTX 4080 Super 16GB	16	Q4	12.1 估算	否	0.012
RTX 4070 Ti Super 16GB	16	Q4	11.0 估算	否	0.014
Arc Pro B70 32GB	32	Q4	10.7 估算	是	0.011
RX 9070 16GB	16	Q4	10.5 估算	否	0.019
RX 9070 XT 16GB	16	Q4	10.5 估算	否	0.018
RX 7800 XT 16GB	16	Q4	10.3 估算	否	0.021
MacBook Pro M4 Max 128GB	128	Q4	9.7 估算	是	0.002
RX 7900 GRE 16GB	16	Q4	9.5 估算	否	0.017
Arc A770 16GB	16	Q4	9.2 估算	否	0.026
DGX Spark (GH200 480GB)	480	Q4	8.8 估算	是	0.003
RTX 5060 Ti 16GB	16	Q4	7.4 估算	否	0.017
MacBook Pro M1 Max 32GB	32	Q4	7.1 估算	是	0.002
MacBook Pro M1 Max 64GB	64	Q4	7.1 估算	是	0.002
MacBook Pro M3 Max 128GB	128	Q4	7.1 估算	是	0.002
RTX 5070 12GB	12	Q4	6.2 估算	否	0.011
Titan V 12GB	12	Q4	6.0 估算	否	0.002
T4 16GB	16	Q4	5.3 估算	否	0.003
RTX 4070 Ti 12GB	12	Q4	5.1 估算	否	0.006
Titan Xp 12GB	12	Q4	5.1 估算	否	0.004
RTX 3080 10GB	10	Q4	4.9 估算	否	0.007
RTX 6000 Ada 48GB	48	FP16	4.8 估算	否	0.001
Mac mini M4 Pro 64GB	64	Q4	4.8 估算	是	0.002
RTX 4070 12GB	12	Q4	4.7 估算	否	0.008
RTX 4060 Ti 16GB	16	Q4	4.7 估算	否	0.009
RTX 4070 Super 12GB	12	Q4	4.7 估算	否	0.008
RX 7600 XT 16GB	16	Q4	4.7 估算	否	0.014
Titan X Pascal 12GB	12	Q4	4.4 估算	否	0.004
L40S 48GB	48	FP16	4.3 估算	否	0.001
Arc B580 12GB	12	Q4	4.2 估算	否	0.017
RTX 5090 32GB	32	FP16	4.0 估算	否	0.002
RX 7700 XT 12GB	12	Q4	4.0 估算	否	0.009
Mac Studio M3 Ultra 96GB	96	FP16	4.0 估算	是	0.001
Mac Studio M2 Ultra 192GB	192	FP16	3.9 估算	是	0.001
RTX A6000 48GB	48	FP16	3.8 估算	否	0.001
Ryzen AI Max+ 395 128GB	96	Q4	3.8 估算	是	0.002
Ryzen AI Max+ 395 64GB	48	Q4	3.8 估算	是	0.003
Ryzen AI Max 390 64GB	48	Q4	3.8 估算	是	0.003
MacBook Pro M1 Max 64GB	64	FP16	3.5 估算	否	0.001
RTX 3060 12GB	12	Q4	3.3 估算	否	0.01
MacBook Pro M4 Max 128GB	128	FP16	2.7 估算	是	0.001
DGX Spark (GH200 480GB)	480	FP16	2.4 估算	是	0.001
Arc B570 10GB	10	Q4	2.4 估算	否	0.011
Mac mini M4 Pro 64GB	64	FP16	2.4 估算	否	0.001
Mac mini M4 32GB	32	Q4	2.1 估算	是	0.002
V100 32GB SXM2	32	FP16	2.0 估算	否	0.0
MacBook Pro M3 Max 128GB	128	FP16	1.9 估算	是	0.0
RTX 5060 8GB	8	Q4	1.8 估算	否	0.006
RTX 5060 Ti 8GB	8	Q4	1.8 估算	否	0.005
RTX 3070 8GB	8	Q4	1.8 估算	否	0.004
RTX 4090 24GB	24	FP16	1.3 估算	否	0.001
RTX 4090D 24GB (China)	24	FP16	1.3 估算	否	0.001
RTX 3090 Ti 24GB	24	FP16	1.3 估算	否	0.001
Arc Pro B70 32GB	32	FP16	1.3 估算	否	0.001
RTX 3090 24GB	24	FP16	1.2 估算	否	0.001
RX 7900 XTX 24GB	24	FP16	1.2 估算	否	0.001
RTX 4060 Ti 8GB	8	Q4	1.2 估算	否	0.003
RX 7600 8GB	8	Q4	1.2 估算	否	0.004
RTX 4060 8GB	8	Q4	1.1 估算	否	0.004
Ryzen AI Max+ 395 64GB	48	FP16	1.1 估算	否	0.001
Ryzen AI Max 390 64GB	48	FP16	1.1 估算	否	0.001
Ryzen AI Max+ 395 128GB	96	FP16	1.0 估算	是	0.001
MacBook Pro M1 Max 32GB	32	FP16	0.9 估算	否	0.0
Tesla P4 8GB	8	Q4	0.8 估算	否	0.01
Mac mini M4 32GB	32	FP16	0.3 估算	否	0.0

装机核对

• RTX 5090 32GB — 装得下 · ≈31.7 tok/s Q4 估算
• RTX 3090 Ti 24GB — 装不下 · ≈37.3 tok/s Q4 估算
• RTX 4090 24GB — 装不下 · ≈37.3 tok/s Q4 估算
• RTX 5080 16GB — 装不下 · ≈15.8 tok/s Q4 估算
• RTX 6000 Ada 48GB — 装得下 · ≈17.0 tok/s Q4 估算
• RX 7900 XTX 24GB — 装不下 · ≈35.5 tok/s Q4 估算
• RTX 3090 24GB — 装不下 · ≈34.7 tok/s Q4 估算
• RTX 5070 Ti 16GB — 装不下 · ≈14.7 tok/s Q4 估算
• L40S 48GB — 装得下 · ≈15.3 tok/s Q4 估算
• Mac Studio M3 Ultra 96GB — 装得下 · ≈14.5 tok/s Q4 估算
• Mac Studio M2 Ultra 192GB — 装得下 · ≈14.1 tok/s Q4 估算
• RX 7900 XT 20GB — 装不下 · ≈20.6 tok/s Q4 估算

12 款热门零售 GPU；上表每行的「装得下？」结论同样链接到完整装机核对页。

同族模型：Qwen（通义千问）

Qwen3 Qwen3-8B · Qwen3-14B
Qwen2.5 Qwen2.5-7B-Instruct · Qwen2.5-32B-Instruct · Qwen2.5-14B-Instruct · Qwen2.5-72B-Instruct
Qwen3.5 Qwen3.5-9B · Qwen3.5-35B-A3B · Qwen3.5-2B · Qwen3.5-27B · Qwen3.5-122B-A10B · Qwen3.5-397B-A17B
Qwen3.6 Qwen3.6-35B-A3B · Qwen3.6-27B
Qwen3 2507 Qwen3-4B-Instruct-2507 · Qwen3-30B-A3B-Instruct-2507 · Qwen3-4B-Thinking-2507 · Qwen3-235B-A22B-Instruct-2507
Qwen2.5 Coder Qwen2.5-Coder-32B-Instruct
Qwen3 Coder Qwen3-Coder-Next · Qwen3-Coder-480B-A35B-Instruct
Qwen3 Next Qwen3-Next-80B-A3B-Instruct

全部 Qwen（通义千问） 模型 →