gpt-oss-20b

OpenAI · 21.5B（激活 3.6B） · MoE · ctx 128K · Apache 2.0 · HuggingFace

gpt-oss-20b（OpenAI）是 AI Hashrate 收录的21.5B 参数 MoE（每 token 激活 3.6B）开放权重模型。 按 8K 上下文估算：Q4 约需 13.55 GB VRAM（权重 11.83 GB + KV 0.72 GB + 开销 1 GB），FP16 约需 44.72 GB。 在该上下文假设下，目录中约有 35 款 GPU/加速器能在 Q4 下完整装下此模型。 Q4 最快配置：B200 192GB SXM ≈ 1414.1 tok/s（估算）; MI300X 192GB ≈ 936.9 tok/s（估算）; H200 141GB SXM5 ≈ 848.5 tok/s（估算）; H100 80GB SXM5 ≈ 592.2 tok/s（估算）; Gaudi 3 128GB ≈ 579.1 tok/s（估算）。 下表给出各硬件的 VRAM 装机情况与每美元 tok/s（按 MSRP 标价）。估算基于显存带宽公式；有实测时以实测为准。详见方法论页。 方法论.

92 个硬件配置——按 tok/s 排序。默认装机上下文 8K。

硬件	VRAM	量化	tok/s	装得下？	tok/s/$
B200 192GB SXM	192	Q4	1414.1 估算	是	0.035
MI300X 192GB	192	Q4	936.9 估算	是	0.062
H200 141GB SXM5	141	Q4	848.5 估算	是	0.024
H100 80GB SXM5	80	Q4	592.2 估算	是	0.02
Gaudi 3 128GB	128	Q4	579.1 估算	是	0.046
B200 192GB SXM	192	FP16	388.9 估算	是	0.01
A100 80GB SXM4	80	Q4	360.4 估算	是	0.024
RTX 5090 32GB	32	Q4	282.5 实测	是	0.141
RTX 5070 12GB	12	Q4	266.2 估算	否	0.485
MI300X 192GB	192	FP16	257.6 估算	是	0.017
H200 141GB SXM5	141	FP16	233.3 估算	是	0.007
RTX 4090 24GB	24	Q4	225.2 实测	是	0.141
RTX 3080 10GB	10	Q4	209.1 估算	否	0.299
RTX 5080 16GB	16	Q4	204.9 实测	是	0.205
RTX 4070 12GB	12	Q4	199.6 估算	否	0.333
RTX 4070 Super 12GB	12	Q4	199.6 估算	否	0.333
RTX 5070 Ti 16GB	16	Q4	189.5 实测	是	0.253
RTX 4080 Super 16GB	16	Q4	186.5 实测	是	0.187
Arc B580 12GB	12	Q4	180.6 估算	否	0.725
RTX 4090D 24GB (China)	24	Q4	178.2 估算	是	0.111
RTX 3090 Ti 24GB	24	Q4	178.2 估算	是	0.089
RX 7700 XT 12GB	12	Q4	171.1 估算	否	0.381
RX 7900 XTX 24GB	24	Q4	169.7 估算	是	0.17
RTX 6000 Ada 48GB	48	Q4	169.7 估算	是	0.025
RTX 4070 Ti 12GB	12	Q4	163.1 实测	否	0.204
H100 80GB SXM5	80	FP16	162.8 估算	是	0.005
RTX 3090 24GB	24	Q4	161.8 实测	是	0.108
Gaudi 3 128GB	128	FP16	159.2 估算	是	0.013
L40S 48GB	48	Q4	152.7 估算	是	0.019
RX 7900 XT 20GB	20	Q4	141.4 估算	是	0.157
RTX A6000 48GB	48	Q4	135.8 估算	是	0.03
RTX 5090 32GB	32	FP16	127.4 估算	否	0.064
RTX 4070 Ti Super 16GB	16	Q4	118.8 估算	是	0.149
Mac Studio M2 Ultra 192GB	192	Q4	116.1 实测	是	0.017
Mac Studio M3 Ultra 96GB	96	Q4	115.5 实测	是	0.029
RX 9070 16GB	16	Q4	113.1 估算	是	0.206
RX 9070 XT 16GB	16	Q4	113.1 估算	是	0.189
RTX 5060 Ti 16GB	16	Q4	111.5 实测	是	0.26
RX 7800 XT 16GB	16	Q4	110.3 估算	是	0.221
Arc B570 10GB	10	Q4	104.5 估算	否	0.477
RX 7900 GRE 16GB	16	Q4	101.8 估算	是	0.185
A100 80GB SXM4	80	FP16	99.1 估算	是	0.007
Arc A770 16GB	16	Q4	99.0 估算	是	0.284
MacBook Pro M4 Max 128GB	128	Q4	96.5 估算	是	0.022
RTX 3060 12GB	12	Q4	84.0 实测	否	0.255
RTX 5060 8GB	8	Q4	78.9 估算	否	0.264
RTX 5060 Ti 8GB	8	Q4	78.9 估算	否	0.208
RTX 3070 8GB	8	Q4	78.9 估算	否	0.158
MacBook Pro M3 Max 128GB	128	Q4	70.7 估算	是	0.017
T4 16GB	16	Q4	56.6 估算	是	0.028
RTX 4060 Ti 16GB	16	Q4	50.9 估算	是	0.102
RX 7600 XT 16GB	16	Q4	50.9 估算	是	0.155
RTX 4060 Ti 8GB	8	Q4	50.7 估算	否	0.127
RX 7600 8GB	8	Q4	50.7 估算	否	0.188
Mac mini M4 Pro 64GB	64	Q4	48.3 估算	是	0.022
RTX 4060 8GB	8	Q4	47.9 估算	否	0.16
RTX 6000 Ada 48GB	48	FP16	46.7 估算	是	0.007
L40S 48GB	48	FP16	42.0 估算	是	0.005
RTX 4090 24GB	24	FP16	40.3 估算	否	0.025
RTX 4090D 24GB (China)	24	FP16	40.3 估算	否	0.025
RTX 3090 Ti 24GB	24	FP16	40.3 估算	否	0.02
Mac Studio M3 Ultra 96GB	96	FP16	39.8 估算	是	0.01
Mac Studio M2 Ultra 192GB	192	FP16	38.9 估算	是	0.006
RX 7900 XTX 24GB	24	FP16	38.4 估算	否	0.038
RTX 3090 24GB	24	FP16	37.4 估算	否	0.025
RTX A6000 48GB	48	FP16	37.3 估算	是	0.008
MacBook Pro M4 Max 128GB	128	FP16	26.5 估算	是	0.006
RX 7900 XT 20GB	20	FP16	22.2 估算	否	0.025
Mac mini M4 32GB	32	Q4	21.2 估算	是	0.021
MacBook Pro M3 Max 128GB	128	FP16	19.4 估算	是	0.005
RTX 5080 16GB	16	FP16	17.1 估算	否	0.017
RTX 5070 Ti 16GB	16	FP16	15.9 估算	否	0.021
Mac mini M4 Pro 64GB	64	FP16	13.3 估算	是	0.006
RTX 4080 Super 16GB	16	FP16	13.1 估算	否	0.013
RTX 4070 Ti Super 16GB	16	FP16	11.9 估算	否	0.015
RX 9070 16GB	16	FP16	11.4 估算	否	0.021
RX 9070 XT 16GB	16	FP16	11.4 估算	否	0.019
RX 7800 XT 16GB	16	FP16	11.1 估算	否	0.022
RX 7900 GRE 16GB	16	FP16	10.2 估算	否	0.019
Arc A770 16GB	16	FP16	10.0 估算	否	0.029
Mac mini M4 32GB	32	FP16	8.5 估算	否	0.009
RTX 5060 Ti 16GB	16	FP16	8.0 估算	否	0.019
RTX 5070 12GB	12	FP16	6.7 估算	否	0.012
T4 16GB	16	FP16	5.7 估算	否	0.003
RTX 4070 Ti 12GB	12	FP16	5.5 估算	否	0.007
RTX 4060 Ti 16GB	16	FP16	5.1 估算	否	0.01
RX 7600 XT 16GB	16	FP16	5.1 估算	否	0.016
RTX 4070 12GB	12	FP16	5.0 估算	否	0.008
RTX 4070 Super 12GB	12	FP16	5.0 估算	否	0.008
Arc B580 12GB	12	FP16	4.6 估算	否	0.018
RX 7700 XT 12GB	12	FP16	4.3 估算	否	0.01
RTX 3060 12GB	12	FP16	3.6 估算	否	0.011

装机核对

• RTX 5090 32GB — 装得下 · ≈282.5 tok/s Q4 实测
• RTX 3090 Ti 24GB — 装得下 · ≈178.2 tok/s Q4 估算
• RTX 4090 24GB — 装得下 · ≈225.2 tok/s Q4 实测
• RTX 5080 16GB — 装得下 · ≈204.9 tok/s Q4 实测
• RTX 6000 Ada 48GB — 装得下 · ≈169.7 tok/s Q4 估算
• RX 7900 XTX 24GB — 装得下 · ≈169.7 tok/s Q4 估算
• RTX 3090 24GB — 装得下 · ≈161.8 tok/s Q4 实测
• RTX 5070 Ti 16GB — 装得下 · ≈189.5 tok/s Q4 实测
• L40S 48GB — 装得下 · ≈152.7 tok/s Q4 估算
• Mac Studio M3 Ultra 96GB — 装得下 · ≈115.5 tok/s Q4 实测
• Mac Studio M2 Ultra 192GB — 装得下 · ≈116.1 tok/s Q4 实测
• RX 7900 XT 20GB — 装得下 · ≈141.4 tok/s Q4 估算

12 款热门零售 GPU；上表每行的「装得下？」结论同样链接到完整装机核对页。

同族模型：gpt-oss

gpt-oss gpt-oss-120b

全部 gpt-oss 模型 →