Qwen2.5-7B-Instruct

Alibaba · 7.6B · ctx 128K · apache-2.0 · HuggingFace

Qwen2.5-7B-Instruct（Alibaba）是 AI Hashrate 收录的7.6B 参数开放权重模型。 按 8K 上下文估算：Q4 约需 6.7 GB VRAM（权重 4.18 GB + KV 1.52 GB + 开销 1 GB），FP16 约需 17.72 GB。 在该上下文假设下，目录中约有 50 款 GPU/加速器能在 Q4 下完整装下此模型。 Q4 最快配置：B200 192GB SXM ≈ 669.9 tok/s（估算）; MI300X 192GB ≈ 443.8 tok/s（估算）; H200 141GB SXM5 ≈ 401.9 tok/s（估算）; H100 80GB SXM5 ≈ 280.5 tok/s（估算）; Gaudi 3 128GB ≈ 274.3 tok/s（估算）。 下表给出各硬件的 VRAM 装机情况与每美元 tok/s（按 MSRP 标价）。估算基于显存带宽公式；有实测时以实测为准。详见方法论页。 方法论.

100 个硬件配置——按 tok/s 排序。默认装机上下文 8K。

硬件	VRAM	量化	tok/s	装得下？	tok/s/$
B200 192GB SXM	192	Q4	669.9 估算	是	0.017
MI300X 192GB	192	Q4	443.8 估算	是	0.03
H200 141GB SXM5	141	Q4	401.9 估算	是	0.011
H100 80GB SXM5	80	Q4	280.5 估算	是	0.009
Gaudi 3 128GB	128	Q4	274.3 估算	是	0.022
B200 192GB SXM	192	FP16	184.2 估算	是	0.005
A100 80GB SXM4	80	Q4	154.05 实测	是	0.01
RTX 5090 32GB	32	Q4	150.0 估算	是	0.075
MI300X 192GB	192	FP16	122.0 估算	是	0.008
H200 141GB SXM5	141	FP16	110.5 估算	是	0.003
RTX 4090 24GB	24	Q4	84.4 估算	是	0.053
RTX 4090D 24GB (China)	24	Q4	84.4 估算	是	0.053
RTX 3090 Ti 24GB	24	Q4	84.4 估算	是	0.042
A100 80GB SXM4	80	FP16	84.28 实测	是	0.006
RTX 5080 16GB	16	Q4	80.4 估算	是	0.08
RX 7900 XTX 24GB	24	Q4	80.4 估算	是	0.08
RTX 6000 Ada 48GB	48	Q4	80.4 估算	是	0.012
RTX 3090 24GB	24	Q4	78.4 估算	是	0.052
H100 80GB SXM5	80	FP16	77.1 估算	是	0.003
Gaudi 3 128GB	128	FP16	75.4 估算	是	0.006
RTX 5070 Ti 16GB	16	Q4	75.0 估算	是	0.1
L40S 48GB	48	Q4	72.3 估算	是	0.009
Mac Studio M3 Ultra 96GB	96	Q4	68.6 估算	是	0.017
RX 7900 XT 20GB	20	Q4	67.0 估算	是	0.075
RTX A6000 48GB	48	Q4	64.3 估算	是	0.014
RTX 3080 10GB	10	Q4	63.6 估算	是	0.091
RTX 4080 Super 16GB	16	Q4	61.6 估算	是	0.062
RTX 4070 Ti Super 16GB	16	Q4	56.3 估算	是	0.07
RTX 5070 12GB	12	Q4	56.3 估算	是	0.103
RX 7900 XTX 24GB	24	FP16	56.0 实测	是	0.056
RX 9070 16GB	16	Q4	53.6 估算	是	0.098
RX 9070 XT 16GB	16	Q4	53.6 估算	是	0.089
RX 7800 XT 16GB	16	Q4	52.2 估算	是	0.105
RTX 5080 16GB	16	FP16	51.5 估算	否	0.052
RX 7900 GRE 16GB	16	Q4	48.2 估算	是	0.088
RTX 5070 Ti 16GB	16	FP16	48.1 估算	否	0.064
Arc A770 16GB	16	Q4	46.9 估算	是	0.134
RTX 4070 Ti 12GB	12	Q4	46.4 估算	是	0.058
MacBook Pro M4 Max 128GB	128	Q4	45.7 估算	是	0.01
RTX 4070 12GB	12	Q4	42.2 估算	是	0.07
RTX 4070 Super 12GB	12	Q4	42.2 估算	是	0.07
RTX 5090 32GB	32	FP16	41.3 估算	是	0.021
RTX 4080 Super 16GB	16	FP16	39.5 估算	否	0.04
Arc B580 12GB	12	Q4	38.2 估算	是	0.153
RTX 5060 8GB	8	Q4	37.5 估算	是	0.125
RTX 5060 Ti 8GB	8	Q4	37.5 估算	是	0.099
RTX 5060 Ti 16GB	16	Q4	37.5 估算	是	0.087
RTX 3070 8GB	8	Q4	37.5 估算	是	0.075
RX 7700 XT 12GB	12	Q4	36.2 估算	是	0.081
RTX 4070 Ti Super 16GB	16	FP16	36.0 估算	否	0.045
RX 9070 16GB	16	FP16	34.3 估算	否	0.062
RX 9070 XT 16GB	16	FP16	34.3 估算	否	0.057
MacBook Pro M3 Max 128GB	128	Q4	33.5 估算	是	0.008
RX 7800 XT 16GB	16	FP16	33.5 估算	否	0.067
Arc B570 10GB	10	Q4	31.8 估算	是	0.145
RX 7900 GRE 16GB	16	FP16	30.9 估算	否	0.056
RTX 3060 12GB	12	Q4	30.1 估算	是	0.091
Arc A770 16GB	16	FP16	30.0 估算	否	0.086
Mac Studio M2 Ultra 192GB	192	Q4	28.0 实测	是	0.004
T4 16GB	16	Q4	26.8 估算	是	0.013
RTX 4060 Ti 8GB	8	Q4	24.1 估算	是	0.06
RTX 4060 Ti 16GB	16	Q4	24.1 估算	是	0.048
RX 7600 8GB	8	Q4	24.1 估算	是	0.09
RX 7600 XT 16GB	16	Q4	24.1 估算	是	0.073
RTX 5060 Ti 16GB	16	FP16	24.0 估算	否	0.056
RTX 4090 24GB	24	FP16	23.2 估算	是	0.015
RTX 4090D 24GB (China)	24	FP16	23.2 估算	是	0.015
RTX 3090 Ti 24GB	24	FP16	23.2 估算	是	0.012
Mac mini M4 Pro 64GB	64	Q4	22.9 估算	是	0.01
RTX 4060 8GB	8	Q4	22.8 估算	是	0.076
RTX 6000 Ada 48GB	48	FP16	22.1 估算	是	0.003
RTX 3090 24GB	24	FP16	21.6 估算	是	0.014
RTX 5070 12GB	12	FP16	20.3 估算	否	0.037
L40S 48GB	48	FP16	19.9 估算	是	0.002
Mac Studio M3 Ultra 96GB	96	FP16	18.9 估算	是	0.005
Mac Studio M2 Ultra 192GB	192	FP16	18.4 估算	是	0.003
RX 7900 XT 20GB	20	FP16	18.4 估算	是	0.02
RTX A6000 48GB	48	FP16	17.7 估算	是	0.004
T4 16GB	16	FP16	17.2 估算	否	0.009
RTX 4070 Ti 12GB	12	FP16	16.7 估算	否	0.021
RTX 3080 10GB	10	FP16	15.9 估算	否	0.023
RTX 4060 Ti 16GB	16	FP16	15.4 估算	否	0.031
RX 7600 XT 16GB	16	FP16	15.4 估算	否	0.047
RTX 4070 12GB	12	FP16	15.2 估算	否	0.025
RTX 4070 Super 12GB	12	FP16	15.2 估算	否	0.025
Arc B580 12GB	12	FP16	13.8 估算	否	0.055
RX 7700 XT 12GB	12	FP16	13.0 估算	否	0.029
MacBook Pro M4 Max 128GB	128	FP16	12.6 估算	是	0.003
RTX 3060 12GB	12	FP16	10.9 估算	否	0.033
Mac mini M4 32GB	32	Q4	10.0 估算	是	0.01
MacBook Pro M3 Max 128GB	128	FP16	9.2 估算	是	0.002
Arc B570 10GB	10	FP16	8.0 估算	否	0.037
Mac mini M4 Pro 64GB	64	FP16	6.3 估算	是	0.003
RTX 5060 8GB	8	FP16	6.0 估算	否	0.02
RTX 5060 Ti 8GB	8	FP16	6.0 估算	否	0.016
RTX 3070 8GB	8	FP16	6.0 估算	否	0.012
RTX 4060 Ti 8GB	8	FP16	3.9 估算	否	0.01
RX 7600 8GB	8	FP16	3.9 估算	否	0.014
RTX 4060 8GB	8	FP16	3.6 估算	否	0.012
Mac mini M4 32GB	32	FP16	2.8 估算	是	0.003

装机核对

• RTX 5090 32GB — 装得下 · ≈150.0 tok/s Q4 估算
• RTX 3090 Ti 24GB — 装得下 · ≈84.4 tok/s Q4 估算
• RTX 4090 24GB — 装得下 · ≈84.4 tok/s Q4 估算
• RTX 5080 16GB — 装得下 · ≈80.4 tok/s Q4 估算
• RTX 6000 Ada 48GB — 装得下 · ≈80.4 tok/s Q4 估算
• RX 7900 XTX 24GB — 装得下 · ≈80.4 tok/s Q4 估算
• RTX 3090 24GB — 装得下 · ≈78.4 tok/s Q4 估算
• RTX 5070 Ti 16GB — 装得下 · ≈75.0 tok/s Q4 估算
• L40S 48GB — 装得下 · ≈72.3 tok/s Q4 估算
• Mac Studio M3 Ultra 96GB — 装得下 · ≈68.6 tok/s Q4 估算
• Mac Studio M2 Ultra 192GB — 装得下 · ≈28.0 tok/s Q4 实测
• RX 7900 XT 20GB — 装得下 · ≈67.0 tok/s Q4 估算

12 款热门零售 GPU；上表每行的「装得下？」结论同样链接到完整装机核对页。

同族模型：Qwen（通义千问）

Qwen3 Qwen3-8B · Qwen3-14B
Qwen3 2507 Qwen3-4B-Instruct-2507 · Qwen3-4B-Thinking-2507 · Qwen3-30B-A3B-Instruct-2507 · Qwen3-235B-A22B-Instruct-2507
Qwen2.5 Qwen2.5-14B-Instruct · Qwen2.5-32B-Instruct · Qwen2.5-72B-Instruct
Qwen2.5 Coder Qwen2.5-Coder-32B-Instruct
Qwen3 Next Qwen3-Next-80B-A3B-Instruct
Qwen3 Coder Qwen3-Coder-480B-A35B-Instruct · Qwen3-Coder-Next
Qwen3.5 Qwen3.5-2B · Qwen3.5-9B · Qwen3.5-27B · Qwen3.5-35B-A3B · Qwen3.5-122B-A10B · Qwen3.5-397B-A17B
Qwen3.6 Qwen3.6-27B · Qwen3.6-35B-A3B

全部 Qwen（通义千问） 模型 →