DeepSeek-R1-Distill-Qwen-14B

DeepSeek · 14.8B · ctx 128K · MIT · HuggingFace

DeepSeek-R1-Distill-Qwen-14B（DeepSeek）是 AI Hashrate 收录的14.8B 参数开放权重模型。 按 8K 上下文估算：Q4 约需 12.1 GB VRAM（权重 8.14 GB + KV 2.96 GB + 开销 1 GB），FP16 约需 33.56 GB。 在该上下文假设下，目录中约有 35 款 GPU/加速器能在 Q4 下完整装下此模型。 Q4 最快配置：B200 192GB SXM ≈ 344.0 tok/s（估算）; MI300X 192GB ≈ 227.9 tok/s（估算）; H200 141GB SXM5 ≈ 206.4 tok/s（估算）; H100 80GB SXM5 ≈ 144.0 tok/s（估算）; Gaudi 3 128GB ≈ 140.9 tok/s（估算）。 下表给出各硬件的 VRAM 装机情况与每美元 tok/s（按 MSRP 标价）。估算基于显存带宽公式；有实测时以实测为准。详见方法论页。 方法论.

94 个硬件配置——按 tok/s 排序。默认装机上下文 8K。

硬件	VRAM	量化	tok/s	装得下？	tok/s/$
B200 192GB SXM	192	Q4	344.0 估算	是	0.009
MI300X 192GB	192	Q4	227.9 估算	是	0.015
H200 141GB SXM5	141	Q4	206.4 估算	是	0.006
H100 80GB SXM5	80	Q4	144.0 估算	是	0.005
Gaudi 3 128GB	128	Q4	140.9 估算	是	0.011
B200 192GB SXM	192	FP16	94.6 估算	是	0.002
RTX 4090 24GB	24	Q4	92.5 实测	是	0.058
A100 80GB SXM4	80	Q4	87.7 估算	是	0.006
RTX 5070 12GB	12	Q4	81.2 估算	否	0.148
RTX 5090 32GB	32	Q4	77.1 估算	是	0.039
RTX 3080 10GB	10	Q4	63.8 估算	否	0.091
MI300X 192GB	192	FP16	62.7 估算	是	0.004
RTX 4070 12GB	12	Q4	60.9 估算	否	0.102
RTX 4070 Super 12GB	12	Q4	60.9 估算	否	0.102
H200 141GB SXM5	141	FP16	56.8 估算	是	0.002
Arc B580 12GB	12	Q4	55.1 估算	否	0.221
RTX 5090 32GB	32	FP16	55.0 估算	否	0.028
RX 7700 XT 12GB	12	Q4	52.2 估算	否	0.116
Mac Studio M3 Ultra 96GB	96	Q4	51.9 实测	是	0.013
RTX 4070 Ti 12GB	12	Q4	49.7 实测	否	0.062
RTX 4090D 24GB (China)	24	Q4	43.3 估算	是	0.027
RTX 3090 Ti 24GB	24	Q4	43.3 估算	是	0.022
RTX 5080 16GB	16	Q4	41.3 估算	是	0.041
RX 7900 XTX 24GB	24	Q4	41.3 估算	是	0.041
RTX 6000 Ada 48GB	48	Q4	41.3 估算	是	0.006
RTX 3090 24GB	24	Q4	40.2 估算	是	0.027
H100 80GB SXM5	80	FP16	39.6 估算	是	0.001
Gaudi 3 128GB	128	FP16	38.7 估算	是	0.003
RTX 5070 Ti 16GB	16	Q4	38.5 估算	是	0.051
L40S 48GB	48	Q4	37.1 估算	是	0.005
Mac Studio M2 Ultra 192GB	192	Q4	34.4 估算	是	0.005
RX 7900 XT 20GB	20	Q4	34.4 估算	是	0.038
RTX A6000 48GB	48	Q4	33.0 估算	是	0.007
Arc B570 10GB	10	Q4	31.9 估算	否	0.146
RTX 4080 Super 16GB	16	Q4	31.6 估算	是	0.032
RTX 3060 12GB	12	Q4	29.8 实测	否	0.091
RTX 4070 Ti Super 16GB	16	Q4	28.9 估算	是	0.036
RX 9070 16GB	16	Q4	27.5 估算	是	0.05
RX 9070 XT 16GB	16	Q4	27.5 估算	是	0.046
RX 7800 XT 16GB	16	Q4	26.8 估算	是	0.054
RX 7900 GRE 16GB	16	Q4	24.8 估算	是	0.045
A100 80GB SXM4	80	FP16	24.1 估算	是	0.002
RTX 5060 8GB	8	Q4	24.1 估算	否	0.081
RTX 5060 Ti 8GB	8	Q4	24.1 估算	否	0.064
RTX 3070 8GB	8	Q4	24.1 估算	否	0.048
Arc A770 16GB	16	Q4	24.1 估算	是	0.069
MacBook Pro M4 Max 128GB	128	Q4	23.5 估算	是	0.005
RTX 5060 Ti 16GB	16	Q4	19.3 估算	是	0.045
RTX 4090 24GB	24	FP16	17.4 估算	否	0.011
RTX 4090D 24GB (China)	24	FP16	17.4 估算	否	0.011
RTX 3090 Ti 24GB	24	FP16	17.4 估算	否	0.009
MacBook Pro M3 Max 128GB	128	Q4	17.2 估算	是	0.004
RX 7900 XTX 24GB	24	FP16	16.6 估算	否	0.017
RTX 3090 24GB	24	FP16	16.2 估算	否	0.011
RTX 4060 Ti 8GB	8	Q4	15.5 估算	否	0.039
RX 7600 8GB	8	Q4	15.5 估算	否	0.058
RTX 4060 8GB	8	Q4	14.6 估算	否	0.049
T4 16GB	16	Q4	13.8 估算	是	0.007
RTX 4060 Ti 16GB	16	Q4	12.4 估算	是	0.025
RX 7600 XT 16GB	16	Q4	12.4 估算	是	0.038
Mac mini M4 Pro 64GB	64	Q4	11.7 估算	是	0.005
RTX 6000 Ada 48GB	48	FP16	11.4 估算	是	0.002
L40S 48GB	48	FP16	10.2 估算	是	0.001
Mac Studio M3 Ultra 96GB	96	FP16	9.7 估算	是	0.002
RX 7900 XT 20GB	20	FP16	9.6 估算	否	0.011
Mac Studio M2 Ultra 192GB	192	FP16	9.5 估算	是	0.001
RTX A6000 48GB	48	FP16	9.1 估算	是	0.002
RTX 5080 16GB	16	FP16	7.4 估算	否	0.007
RTX 5070 Ti 16GB	16	FP16	6.9 估算	否	0.009
MacBook Pro M4 Max 128GB	128	FP16	6.5 估算	是	0.001
RTX 4080 Super 16GB	16	FP16	5.7 估算	否	0.006
RTX 4070 Ti Super 16GB	16	FP16	5.2 估算	否	0.007
Mac mini M4 32GB	32	Q4	5.2 估算	是	0.005
RX 9070 16GB	16	FP16	4.9 估算	否	0.009
RX 9070 XT 16GB	16	FP16	4.9 估算	否	0.008
RX 7800 XT 16GB	16	FP16	4.8 估算	否	0.01
MacBook Pro M3 Max 128GB	128	FP16	4.7 估算	是	0.001
RX 7900 GRE 16GB	16	FP16	4.4 估算	否	0.008
Arc A770 16GB	16	FP16	4.3 估算	否	0.012
Mac mini M4 32GB	32	FP16	3.7 估算	否	0.004
RTX 5060 Ti 16GB	16	FP16	3.4 估算	否	0.008
Mac mini M4 Pro 64GB	64	FP16	3.2 估算	是	0.001
RTX 5070 12GB	12	FP16	2.9 估算	否	0.005
T4 16GB	16	FP16	2.5 估算	否	0.001
RTX 4070 Ti 12GB	12	FP16	2.4 估算	否	0.003
RTX 3080 10GB	10	FP16	2.3 估算	否	0.003
RTX 4070 12GB	12	FP16	2.2 估算	否	0.004
RTX 4060 Ti 16GB	16	FP16	2.2 估算	否	0.004
RTX 4070 Super 12GB	12	FP16	2.2 估算	否	0.004
RX 7600 XT 16GB	16	FP16	2.2 估算	否	0.007
Arc B580 12GB	12	FP16	2.0 估算	否	0.008
RX 7700 XT 12GB	12	FP16	1.9 估算	否	0.004
RTX 3060 12GB	12	FP16	1.6 估算	否	0.005
Arc B570 10GB	10	FP16	1.1 估算	否	0.005

装机核对

• RTX 5090 32GB — 装得下 · ≈77.1 tok/s Q4 估算
• RTX 3090 Ti 24GB — 装得下 · ≈43.3 tok/s Q4 估算
• RTX 4090 24GB — 装得下 · ≈92.5 tok/s Q4 实测
• RTX 5080 16GB — 装得下 · ≈41.3 tok/s Q4 估算
• RTX 6000 Ada 48GB — 装得下 · ≈41.3 tok/s Q4 估算
• RX 7900 XTX 24GB — 装得下 · ≈41.3 tok/s Q4 估算
• RTX 3090 24GB — 装得下 · ≈40.2 tok/s Q4 估算
• RTX 5070 Ti 16GB — 装得下 · ≈38.5 tok/s Q4 估算
• L40S 48GB — 装得下 · ≈37.1 tok/s Q4 估算
• Mac Studio M3 Ultra 96GB — 装得下 · ≈51.9 tok/s Q4 实测
• Mac Studio M2 Ultra 192GB — 装得下 · ≈34.4 tok/s Q4 估算
• RX 7900 XT 20GB — 装得下 · ≈34.4 tok/s Q4 估算

12 款热门零售 GPU；上表每行的「装得下？」结论同样链接到完整装机核对页。

同族模型：DeepSeek（深度求索）

DeepSeek R1 DeepSeek-R1
DeepSeek V4 DeepSeek-V4-Flash · DeepSeek-V4-Pro
DeepSeek R1 0528 DeepSeek-R1-0528-Qwen3-8B
DeepSeek R1 Distill DeepSeek-R1-Distill-Qwen-32B

全部 DeepSeek（深度求索） 模型 →