← AI Hashrate EN

Qwen3.5-35B-A3B

Alibaba · 34.7B（激活 3.0B） · MoE · ctx 256K · apache-2.0 · HuggingFace

Qwen3.5-35B-A3B（Alibaba）是 AI Hashrate 收录的34.7B 参数 MoE（每 token 激活 3.0B）开放权重模型。 按 8K 上下文估算：Q4 约需 20.69 GB VRAM（权重 19.09 GB + KV 0.6 GB + 开销 1 GB），FP16 约需 71.0 GB。 在该上下文假设下，目录中约有 21 款 GPU/加速器能在 Q4 下完整装下此模型。 Q4 最快配置：B200 192GB SXM ≈ 1697.0 tok/s（估算）; MI300X 192GB ≈ 1124.2 tok/s（估算）; H200 141GB SXM5 ≈ 1018.2 tok/s（估算）; H100 80GB SXM5 ≈ 710.6 tok/s（估算）; Gaudi 3 128GB ≈ 694.9 tok/s（估算）。 下表给出各硬件的 VRAM 装机情况与每美元 tok/s（按 MSRP 标价）。估算基于显存带宽公式；有实测时以实测为准。详见方法论页。 方法论.

72 个硬件配置——按 tok/s 排序。默认装机上下文 8K。

硬件VRAM量化tok/s装得下？tok/s/$
B200 192GB SXM192Q41697.0 估算是0.042
MI300X 192GB192Q41124.2 估算是0.075
H200 141GB SXM5141Q41018.2 估算是0.029
H100 80GB SXM580Q4710.6 估算是0.024
Gaudi 3 128GB128Q4694.9 估算是0.056
B200 192GB SXM192FP16466.7 估算是0.012
RX 7900 XT 20GB20Q4453.0 估算否0.504
A100 80GB SXM480Q4432.5 估算是0.029
RTX 5090 32GB32Q4380.1 估算是0.19
RTX 5080 16GB16Q4347.9 估算否0.348
RTX 5070 Ti 16GB16Q4324.7 估算否0.434
MI300X 192GB192FP16309.2 估算是0.021
H200 141GB SXM5141FP16280.0 估算是0.008
RTX 4080 Super 16GB16Q4266.8 估算否0.267
RTX 4070 Ti Super 16GB16Q4243.6 估算否0.305
RX 9070 16GB16Q4232.0 估算否0.423
RX 9070 XT 16GB16Q4232.0 估算否0.387
RX 7800 XT 16GB16Q4226.2 估算否0.453
RTX 4090 24GB24Q4213.8 估算是0.134
RTX 4090D 24GB (China)24Q4213.8 估算是0.134
RTX 3090 Ti 24GB24Q4213.8 估算是0.107
RX 7900 GRE 16GB16Q4208.8 估算否0.38
RX 7900 XTX 24GB24Q4203.6 估算是0.204
RTX 6000 Ada 48GB48Q4203.6 估算是0.03
Arc A770 16GB16Q4203.0 估算否0.582
RTX 3090 24GB24Q4198.5 估算是0.132
H100 80GB SXM580FP16195.4 估算是0.007
Gaudi 3 128GB128FP16191.1 估算是0.015
L40S 48GB48Q4183.3 估算是0.023
Mac Studio M3 Ultra 96GB96Q4173.7 估算是0.043
Mac Studio M2 Ultra 192GB192Q4169.7 估算是0.024
RTX A6000 48GB48Q4162.9 估算是0.036
RTX 5060 Ti 16GB16Q4162.4 估算否0.379
RTX 5070 12GB12Q4137.0 估算否0.25
A100 80GB SXM480FP16118.9 估算是0.008
T4 16GB16Q4116.0 估算否0.058
MacBook Pro M4 Max 128GB128Q4115.8 估算是0.026
RTX 4070 Ti 12GB12Q4112.9 估算否0.141
RTX 3080 10GB10Q4107.6 估算否0.154
RTX 4060 Ti 16GB16Q4104.4 估算否0.209
RX 7600 XT 16GB16Q4104.4 估算否0.317
RTX 4070 12GB12Q4102.8 估算否0.172
RTX 4070 Super 12GB12Q4102.8 估算否0.172
Arc B580 12GB12Q493.0 估算否0.373
RX 7700 XT 12GB12Q488.1 估算否0.196
MacBook Pro M3 Max 128GB128Q484.8 估算是0.02
RTX 3060 12GB12Q473.4 估算否0.223
RTX 6000 Ada 48GB48FP1673.1 估算否0.011
L40S 48GB48FP1665.8 估算否0.008
RTX 5090 32GB32FP1660.7 估算否0.03
RTX A6000 48GB48FP1658.5 估算否0.013
Mac mini M4 Pro 64GB64Q457.9 估算是0.026
Arc B570 10GB10Q453.8 估算否0.246
Mac Studio M3 Ultra 96GB96FP1647.8 估算是0.012
Mac Studio M2 Ultra 192GB192FP1646.7 估算是0.007
RTX 5060 8GB8Q440.6 估算否0.136
RTX 5060 Ti 8GB8Q440.6 估算否0.107
RTX 3070 8GB8Q440.6 估算否0.081
Mac mini M4 Pro 64GB64FP1637.0 估算否0.017
MacBook Pro M4 Max 128GB128FP1631.8 估算是0.007
RTX 4060 Ti 8GB8Q426.1 估算否0.065
RX 7600 8GB8Q426.1 估算否0.097
Mac mini M4 32GB32Q425.5 估算是0.026
RTX 4060 8GB8Q424.6 估算否0.082
MacBook Pro M3 Max 128GB128FP1623.3 估算是0.006
RTX 4090 24GB24FP1619.2 估算否0.012
RTX 4090D 24GB (China)24FP1619.2 估算否0.012
RTX 3090 Ti 24GB24FP1619.2 估算否0.01
RX 7900 XTX 24GB24FP1618.3 估算否0.018
RTX 3090 24GB24FP1617.8 估算否0.012
RX 7900 XT 20GB20FP1610.6 估算否0.012
Mac mini M4 32GB32FP164.1 估算否0.004

装机核对

12 款热门零售 GPU；上表每行的「装得下？」结论同样链接到完整装机核对页。

同族模型：Qwen（通义千问）

Qwen3 Qwen3-8B · Qwen3-14B
Qwen3 2507 Qwen3-4B-Instruct-2507 · Qwen3-4B-Thinking-2507 · Qwen3-30B-A3B-Instruct-2507 · Qwen3-235B-A22B-Instruct-2507
Qwen2.5 Qwen2.5-7B-Instruct · Qwen2.5-14B-Instruct · Qwen2.5-32B-Instruct · Qwen2.5-72B-Instruct
Qwen2.5 Coder Qwen2.5-Coder-32B-Instruct
Qwen3 Next Qwen3-Next-80B-A3B-Instruct
Qwen3 Coder Qwen3-Coder-480B-A35B-Instruct · Qwen3-Coder-Next
Qwen3.5 Qwen3.5-2B · Qwen3.5-9B · Qwen3.5-27B · Qwen3.5-122B-A10B · Qwen3.5-397B-A17B
Qwen3.6 Qwen3.6-27B · Qwen3.6-35B-A3B

全部 Qwen（通义千问） 模型 →