Qwen3-8B — which GPUs fit

Alibaba · 8.2B · ctx 128K · apache-2.0 · HuggingFace

Qwen3-8B (Alibaba) is a 8.2B parameters open-weight model tracked on AI Hashrate. At 8K context we estimate roughly 7.15 GB VRAM for Q4 (weights 4.51 GB + KV 1.64 GB + 1 GB overhead) and 19.04 GB for FP16. About 50 GPUs/accelerators in our catalog fully fit this model at Q4 under that context assumption. Fastest Q4 configs: B200 192GB SXM ≈ 620.8 tok/s (estimated); MI300X 192GB ≈ 411.3 tok/s (estimated); H200 141GB SXM5 ≈ 372.5 tok/s (estimated); H100 80GB SXM5 ≈ 260.0 tok/s (estimated); Gaudi 3 128GB ≈ 254.2 tok/s (estimated). Use the table below for VRAM fit and tok/s per dollar (list MSRP). Estimates follow memory-bandwidth math; measured rows override when present. See methodology for details. Methodology.

100 hardware configs — sorted by tok/s. Default fit context 8K.

Hardware	VRAM	Quant	tok/s	Fits?	tok/s/$
B200 192GB SXM	192	Q4	620.8 est.	Yes	0.016
MI300X 192GB	192	Q4	411.3 est.	Yes	0.027
H200 141GB SXM5	141	Q4	372.5 est.	Yes	0.011
H100 80GB SXM5	80	Q4	260.0 est.	Yes	0.009
Gaudi 3 128GB	128	Q4	254.2 est.	Yes	0.02
B200 192GB SXM	192	FP16	170.7 est.	Yes	0.004
A100 80GB SXM4	80	Q4	158.2 est.	Yes	0.011
RTX 5090 32GB	32	Q4	139.1 est.	Yes	0.07
MI300X 192GB	192	FP16	113.1 est.	Yes	0.008
H200 141GB SXM5	141	FP16	102.4 est.	Yes	0.003
RTX 4090D 24GB (China)	24	Q4	78.2 est.	Yes	0.049
RTX 3090 Ti 24GB	24	Q4	78.2 est.	Yes	0.039
RTX 4090 24GB	24	Q4	75.0 measured	Yes	0.047
RTX 5080 16GB	16	Q4	74.5 est.	Yes	0.075
RX 7900 XTX 24GB	24	Q4	74.5 est.	Yes	0.075
RTX 6000 Ada 48GB	48	Q4	74.5 est.	Yes	0.011
RTX 3090 24GB	24	Q4	72.6 est.	Yes	0.048
H100 80GB SXM5	80	FP16	71.5 est.	Yes	0.002
Gaudi 3 128GB	128	FP16	69.9 est.	Yes	0.006
RTX 5070 Ti 16GB	16	Q4	69.5 est.	Yes	0.093
L40S 48GB	48	Q4	67.1 est.	Yes	0.008
Mac Studio M3 Ultra 96GB	96	Q4	63.6 est.	Yes	0.016
Mac Studio M2 Ultra 192GB	192	Q4	62.1 est.	Yes	0.009
RX 7900 XT 20GB	20	Q4	62.1 est.	Yes	0.069
RTX A6000 48GB	48	Q4	59.6 est.	Yes	0.013
RTX 3080 10GB	10	Q4	59.0 est.	Yes	0.084
RTX 4080 Super 16GB	16	Q4	57.1 est.	Yes	0.057
RX 7900 XT 20GB	20	FP16	53.8 est.	No	0.06
RTX 4070 Ti Super 16GB	16	Q4	52.2 est.	Yes	0.065
RTX 5070 12GB	12	Q4	52.2 est.	Yes	0.095
RX 9070 16GB	16	Q4	49.7 est.	Yes	0.091
RX 9070 XT 16GB	16	Q4	49.7 est.	Yes	0.083
RX 7800 XT 16GB	16	Q4	48.4 est.	Yes	0.097
RX 7900 GRE 16GB	16	Q4	44.7 est.	Yes	0.081
A100 80GB SXM4	80	FP16	43.5 est.	Yes	0.003
Arc A770 16GB	16	Q4	43.5 est.	Yes	0.125
RTX 4070 Ti 12GB	12	Q4	43.0 est.	Yes	0.054
MacBook Pro M4 Max 128GB	128	Q4	42.4 est.	Yes	0.01
RTX 5080 16GB	16	FP16	41.3 est.	No	0.041
RTX 4070 12GB	12	Q4	39.1 est.	Yes	0.065
RTX 4070 Super 12GB	12	Q4	39.1 est.	Yes	0.065
RTX 5070 Ti 16GB	16	FP16	38.6 est.	No	0.052
RTX 5090 32GB	32	FP16	38.2 est.	Yes	0.019
Arc B580 12GB	12	Q4	35.4 est.	Yes	0.142
RTX 5060 8GB	8	Q4	34.8 est.	Yes	0.116
RTX 5060 Ti 8GB	8	Q4	34.8 est.	Yes	0.092
RTX 5060 Ti 16GB	16	Q4	34.8 est.	Yes	0.081
RTX 3070 8GB	8	Q4	34.8 est.	Yes	0.07
RX 7700 XT 12GB	12	Q4	33.5 est.	Yes	0.075
RTX 4080 Super 16GB	16	FP16	31.7 est.	No	0.032
MacBook Pro M3 Max 128GB	128	Q4	31.0 est.	Yes	0.007
Arc B570 10GB	10	Q4	29.5 est.	Yes	0.135
RTX 4070 Ti Super 16GB	16	FP16	28.9 est.	No	0.036
RTX 3060 12GB	12	Q4	27.9 est.	Yes	0.085
RX 9070 16GB	16	FP16	27.6 est.	No	0.05
RX 9070 XT 16GB	16	FP16	27.6 est.	No	0.046
RX 7800 XT 16GB	16	FP16	26.9 est.	No	0.054
T4 16GB	16	Q4	24.8 est.	Yes	0.012
RX 7900 GRE 16GB	16	FP16	24.8 est.	No	0.045
Arc A770 16GB	16	FP16	24.1 est.	No	0.069
RTX 4060 Ti 8GB	8	Q4	22.4 est.	Yes	0.056
RTX 4060 Ti 16GB	16	Q4	22.4 est.	Yes	0.045
RX 7600 8GB	8	Q4	22.4 est.	Yes	0.083
RX 7600 XT 16GB	16	Q4	22.4 est.	Yes	0.068
RTX 4090 24GB	24	FP16	21.5 est.	Yes	0.013
RTX 4090D 24GB (China)	24	FP16	21.5 est.	Yes	0.013
RTX 3090 Ti 24GB	24	FP16	21.5 est.	Yes	0.011
Mac mini M4 Pro 64GB	64	Q4	21.2 est.	Yes	0.01
RTX 4060 8GB	8	Q4	21.1 est.	Yes	0.071
RX 7900 XTX 24GB	24	FP16	20.5 est.	Yes	0.021
RTX 6000 Ada 48GB	48	FP16	20.5 est.	Yes	0.003
RTX 3090 24GB	24	FP16	20.0 est.	Yes	0.013
RTX 5060 Ti 16GB	16	FP16	19.3 est.	No	0.045
L40S 48GB	48	FP16	18.4 est.	Yes	0.002
Mac Studio M3 Ultra 96GB	96	FP16	17.5 est.	Yes	0.004
Mac Studio M2 Ultra 192GB	192	FP16	17.1 est.	Yes	0.002
RTX A6000 48GB	48	FP16	16.4 est.	Yes	0.004
RTX 5070 12GB	12	FP16	16.3 est.	No	0.03
T4 16GB	16	FP16	13.8 est.	No	0.007
RTX 4070 Ti 12GB	12	FP16	13.4 est.	No	0.017
RTX 3080 10GB	10	FP16	12.8 est.	No	0.018
RTX 4060 Ti 16GB	16	FP16	12.4 est.	No	0.025
RX 7600 XT 16GB	16	FP16	12.4 est.	No	0.038
RTX 4070 12GB	12	FP16	12.2 est.	No	0.02
RTX 4070 Super 12GB	12	FP16	12.2 est.	No	0.02
MacBook Pro M4 Max 128GB	128	FP16	11.7 est.	Yes	0.003
Arc B580 12GB	12	FP16	11.0 est.	No	0.044
RX 7700 XT 12GB	12	FP16	10.5 est.	No	0.023
Mac mini M4 32GB	32	Q4	9.3 est.	Yes	0.009
RTX 3060 12GB	12	FP16	8.7 est.	No	0.026
MacBook Pro M3 Max 128GB	128	FP16	8.5 est.	Yes	0.002
Arc B570 10GB	10	FP16	6.4 est.	No	0.029
Mac mini M4 Pro 64GB	64	FP16	5.8 est.	Yes	0.003
RTX 5060 8GB	8	FP16	4.8 est.	No	0.016
RTX 5060 Ti 8GB	8	FP16	4.8 est.	No	0.013
RTX 3070 8GB	8	FP16	4.8 est.	No	0.01
RTX 4060 Ti 8GB	8	FP16	3.1 est.	No	0.008
RX 7600 8GB	8	FP16	3.1 est.	No	0.012
RTX 4060 8GB	8	FP16	2.9 est.	No	0.01
Mac mini M4 32GB	32	FP16	2.6 est.	Yes	0.003