Llama-3.3-70B-Instruct

Meta · 70.6B · ctx 128K · Llama 3.3 Community · HuggingFace

Llama-3.3-70B-Instruct（Meta）是 AI Hashrate 收录的70.6B 参数开放权重模型。 按 8K 上下文估算：Q4 约需 53.83 GB VRAM（权重 38.83 GB + KV 14.0 GB + 开销 1 GB），FP16 约需 156.2 GB。 在该上下文假设下，目录中约有 11 款 GPU/加速器能在 Q4 下完整装下此模型。 Q4 最快配置：B200 192GB SXM ≈ 72.7 tok/s（估算）; MI300X 192GB ≈ 48.2 tok/s（估算）; H200 141GB SXM5 ≈ 43.6 tok/s（估算）; H100 80GB SXM5 ≈ 30.5 tok/s（估算）; Gaudi 3 128GB ≈ 29.8 tok/s（估算）。 下表给出各硬件的 VRAM 装机情况与每美元 tok/s（按 MSRP 标价）。估算基于显存带宽公式；有实测时以实测为准。详见方法论页。 方法论.

49 个硬件配置——按 tok/s 排序。默认装机上下文 8K。

硬件	VRAM	量化	tok/s	装得下？	tok/s/$
H100 80GB SXM5	80	FP16	185.0 实测	否	0.006
B200 192GB SXM	192	Q4	72.7 估算	是	0.002
MI300X 192GB	192	Q4	48.2 估算	是	0.003
H200 141GB SXM5	141	Q4	43.6 估算	是	0.001
H100 80GB SXM5	80	Q4	30.5 估算	是	0.001
Gaudi 3 128GB	128	Q4	29.8 估算	是	0.002
H200 141GB SXM5	141	FP16	27.9 估算	否	0.001
B200 192GB SXM	192	FP16	20.0 估算	是	0.001
RTX 6000 Ada 48GB	48	Q4	19.8 估算	否	0.003
A100 80GB SXM4	80	Q4	18.5 估算	是	0.001
L40S 48GB	48	Q4	17.8 估算	否	0.002
RTX 5090 32GB	32	Q4	16.4 估算	否	0.008
RTX A6000 48GB	48	Q4	15.9 估算	否	0.004
Gaudi 3 128GB	128	FP16	15.7 估算	否	0.001
MI300X 192GB	192	FP16	13.2 估算	是	0.001
RTX 4090 24GB	24	Q4	13.0 实测	否	0.008
MacBook Pro M4 Max 128GB	128	Q4	11.0 实测	是	0.003
Mac Studio M3 Ultra 96GB	96	Q4	7.4 估算	是	0.002
Mac Studio M2 Ultra 192GB	192	Q4	7.3 估算	是	0.001
RTX 4090D 24GB (China)	24	Q4	5.2 估算	否	0.003
RTX 3090 Ti 24GB	24	Q4	5.2 估算	否	0.003
RX 7900 XTX 24GB	24	Q4	5.0 估算	否	0.005
RTX 3090 24GB	24	Q4	4.8 估算	否	0.003
A100 80GB SXM4	80	FP16	3.8 估算	否	0.0
MacBook Pro M3 Max 128GB	128	Q4	3.6 估算	是	0.001
RX 7900 XT 20GB	20	Q4	2.9 估算	否	0.003
MacBook Pro M4 Max 128GB	128	FP16	2.6 估算	否	0.001
Mac mini M4 Pro 64GB	64	Q4	2.5 估算	是	0.001
RTX 5080 16GB	16	Q4	2.2 估算	否	0.002
Mac Studio M3 Ultra 96GB	96	FP16	2.2 估算	否	0.001
RTX 5070 Ti 16GB	16	Q4	2.1 估算	否	0.003
Mac Studio M2 Ultra 192GB	192	FP16	2.0 估算	是	0.0
MacBook Pro M3 Max 128GB	128	FP16	1.9 估算	否	0.0
RTX 4080 Super 16GB	16	Q4	1.7 估算	否	0.002
RTX 4070 Ti Super 16GB	16	Q4	1.5 估算	否	0.002
RX 9070 16GB	16	Q4	1.5 估算	否	0.003
RX 9070 XT 16GB	16	Q4	1.5 估算	否	0.003
RX 7800 XT 16GB	16	Q4	1.4 估算	否	0.003
RX 7900 GRE 16GB	16	Q4	1.3 估算	否	0.002
Arc A770 16GB	16	Q4	1.3 估算	否	0.004
Mac mini M4 32GB	32	Q4	1.1 估算	否	0.001
RTX 5060 Ti 16GB	16	Q4	1.0 估算	否	0.002
T4 16GB	16	Q4	0.7 估算	否	0.0
RTX 4060 Ti 16GB	16	Q4	0.7 估算	否	0.001
RX 7600 XT 16GB	16	Q4	0.7 估算	否	0.002
L40S 48GB	48	FP16	0.6 估算	否	0.0
RTX 6000 Ada 48GB	48	FP16	0.6 估算	否	0.0
RTX A6000 48GB	48	FP16	0.5 估算	否	0.0
Mac mini M4 Pro 64GB	64	FP16	0.3 估算	否	0.0

装机核对

• RTX 5090 32GB — 装不下 · ≈16.4 tok/s Q4 估算
• RTX 3090 Ti 24GB — 装不下 · ≈5.2 tok/s Q4 估算
• RTX 4090 24GB — 装不下 · ≈13.0 tok/s Q4 实测
• RTX 5080 16GB — 装不下 · ≈2.2 tok/s Q4 估算
• RTX 6000 Ada 48GB — 装不下 · ≈19.8 tok/s Q4 估算
• RX 7900 XTX 24GB — 装不下 · ≈5.0 tok/s Q4 估算
• RTX 3090 24GB — 装不下 · ≈4.8 tok/s Q4 估算
• RTX 5070 Ti 16GB — 装不下 · ≈2.1 tok/s Q4 估算
• L40S 48GB — 装不下 · ≈17.8 tok/s Q4 估算
• Mac Studio M3 Ultra 96GB — 装得下 · ≈7.4 tok/s Q4 估算
• Mac Studio M2 Ultra 192GB — 装得下 · ≈7.3 tok/s Q4 估算
• RX 7900 XT 20GB — 装不下 · ≈2.9 tok/s Q4 估算

12 款热门零售 GPU；上表每行的「装得下？」结论同样链接到完整装机核对页。

同族模型：Llama

Llama 3.1 Llama-3.1-8B-Instruct · Llama-3.1-70B-Instruct
Llama 3.2 Llama-3.2-3B-Instruct
Llama 4 Llama-4-Scout-17B-16E-Instruct

全部 Llama 模型 →