Qwen3-235B-A22B-Instruct-2507

Alibaba · 235.1B（激活 22B） · MoE · ctx 256K · apache-2.0 · HuggingFace

Qwen3-235B-A22B-Instruct-2507（Alibaba）是 AI Hashrate 收录的235.1B 参数 MoE（每 token 激活 22B）开放权重模型。 按 8K 上下文估算：Q4 约需 134.71 GB VRAM（权重 129.31 GB + KV 4.4 GB + 开销 1 GB），FP16 约需 475.6 GB。 在该上下文假设下，目录中约有 3 款 GPU/加速器能在 Q4 下完整装下此模型。 Q4 最快配置：B200 192GB SXM ≈ 231.4 tok/s（估算）; MI300X 192GB ≈ 153.3 tok/s（估算）; Mac Studio M2 Ultra 192GB ≈ 23.1 tok/s（估算）。 下表给出各硬件的 VRAM 装机情况与每美元 tok/s（按 MSRP 标价）。估算基于显存带宽公式；有实测时以实测为准。详见方法论页。 方法论.

21 个硬件配置——按 tok/s 排序。默认装机上下文 8K。

硬件	VRAM	量化	tok/s	装得下？	tok/s/$
H200 141GB SXM5	141	Q4	434.6 估算	否	0.012
Gaudi 3 128GB	128	Q4	244.4 估算	否	0.02
B200 192GB SXM	192	Q4	231.4 估算	是	0.006
MI300X 192GB	192	Q4	153.3 估算	是	0.01
H100 80GB SXM5	80	Q4	97.6 估算	否	0.003
A100 80GB SXM4	80	Q4	59.4 估算	否	0.004
MacBook Pro M4 Max 128GB	128	Q4	40.7 估算	否	0.009
Mac Studio M3 Ultra 96GB	96	Q4	34.4 估算	否	0.009
MacBook Pro M3 Max 128GB	128	Q4	29.8 估算	否	0.007
B200 192GB SXM	192	FP16	29.6 估算	否	0.001
Mac Studio M2 Ultra 192GB	192	Q4	23.1 估算	是	0.003
MI300X 192GB	192	FP16	19.6 估算	否	0.001
RTX 6000 Ada 48GB	48	Q4	10.1 估算	否	0.001
H200 141GB SXM5	141	FP16	9.6 估算	否	0.0
L40S 48GB	48	Q4	9.1 估算	否	0.001
RTX A6000 48GB	48	Q4	8.1 估算	否	0.002
Gaudi 3 128GB	128	FP16	5.4 估算	否	0.0
Mac mini M4 Pro 64GB	64	Q4	5.1 估算	否	0.002
Mac Studio M2 Ultra 192GB	192	FP16	3.0 估算	否	0.0
MacBook Pro M4 Max 128GB	128	FP16	0.9 估算	否	0.0
MacBook Pro M3 Max 128GB	128	FP16	0.7 估算	否	0.0

装机核对

• RTX 6000 Ada 48GB — 装不下 · ≈10.1 tok/s Q4 估算
• L40S 48GB — 装不下 · ≈9.1 tok/s Q4 估算
• Mac Studio M3 Ultra 96GB — 装不下 · ≈34.4 tok/s Q4 估算
• Mac Studio M2 Ultra 192GB — 装得下 · ≈23.1 tok/s Q4 估算

12 款热门零售 GPU；上表每行的「装得下？」结论同样链接到完整装机核对页。

同族模型：Qwen（通义千问）

Qwen3 Qwen3-8B · Qwen3-14B
Qwen3 2507 Qwen3-4B-Instruct-2507 · Qwen3-4B-Thinking-2507 · Qwen3-30B-A3B-Instruct-2507
Qwen2.5 Qwen2.5-7B-Instruct · Qwen2.5-14B-Instruct · Qwen2.5-32B-Instruct · Qwen2.5-72B-Instruct
Qwen2.5 Coder Qwen2.5-Coder-32B-Instruct
Qwen3 Next Qwen3-Next-80B-A3B-Instruct
Qwen3 Coder Qwen3-Coder-480B-A35B-Instruct · Qwen3-Coder-Next
Qwen3.5 Qwen3.5-2B · Qwen3.5-9B · Qwen3.5-27B · Qwen3.5-35B-A3B · Qwen3.5-122B-A10B · Qwen3.5-397B-A17B
Qwen3.6 Qwen3.6-27B · Qwen3.6-35B-A3B

全部 Qwen（通义千问） 模型 →