MiniMax-M2.7(MiniMax)是 AI Hashrate 收录的228.7B 参数 MoE(每 token 激活 10B)开放权重模型。 按 8K 上下文估算:Q4 约需 128.79 GB VRAM(权重 125.79 GB + KV 2.0 GB + 开销 1 GB),FP16 约需 460.4 GB。 在该上下文假设下,目录中约有 4 款 GPU/加速器能在 Q4 下完整装下此模型。 Q4 最快配置:B200 192GB SXM ≈ 509.1 tok/s(估算); MI300X 192GB ≈ 337.3 tok/s(估算); H200 141GB SXM5 ≈ 305.5 tok/s(估算); Mac Studio M2 Ultra 192GB ≈ 50.9 tok/s(估算)。 下表给出各硬件的 VRAM 装机情况与每美元 tok/s(按 MSRP 标价)。估算基于显存带宽公式;有实测时以实测为准。详见方法论页。 方法论.
| 硬件 | VRAM | 量化 | tok/s | 装得下? | tok/s/$ |
|---|---|---|---|---|---|
| Gaudi 3 128GB | 128 | Q4 | 588.4 估算 | 否 | 0.047 |
| B200 192GB SXM | 192 | Q4 | 509.1 估算 | 是 | 0.013 |
| MI300X 192GB | 192 | Q4 | 337.3 估算 | 是 | 0.022 |
| H200 141GB SXM5 | 141 | Q4 | 305.5 估算 | 是 | 0.009 |
| H100 80GB SXM5 | 80 | Q4 | 235.0 估算 | 否 | 0.008 |
| A100 80GB SXM4 | 80 | Q4 | 143.0 估算 | 否 | 0.01 |
| MacBook Pro M4 Max 128GB | 128 | Q4 | 98.1 估算 | 否 | 0.022 |
| Mac Studio M3 Ultra 96GB | 96 | Q4 | 82.7 估算 | 否 | 0.021 |
| MacBook Pro M3 Max 128GB | 128 | Q4 | 71.8 估算 | 否 | 0.017 |
| B200 192GB SXM | 192 | FP16 | 69.6 估算 | 否 | 0.002 |
| Mac Studio M2 Ultra 192GB | 192 | Q4 | 50.9 估算 | 是 | 0.007 |
| MI300X 192GB | 192 | FP16 | 46.1 估算 | 否 | 0.003 |
| RTX 6000 Ada 48GB | 48 | Q4 | 24.2 估算 | 否 | 0.004 |
| H200 141GB SXM5 | 141 | FP16 | 22.5 估算 | 否 | 0.001 |
| L40S 48GB | 48 | Q4 | 21.8 估算 | 否 | 0.003 |
| RTX A6000 48GB | 48 | Q4 | 19.4 估算 | 否 | 0.004 |
| Gaudi 3 128GB | 128 | FP16 | 12.7 估算 | 否 | 0.001 |
| Mac mini M4 Pro 64GB | 64 | Q4 | 12.3 估算 | 否 | 0.006 |
| Mac Studio M2 Ultra 192GB | 192 | FP16 | 7.0 估算 | 否 | 0.001 |
| MacBook Pro M4 Max 128GB | 128 | FP16 | 2.1 估算 | 否 | 0.0 |
| MacBook Pro M3 Max 128GB | 128 | FP16 | 1.5 估算 | 否 | 0.0 |