Inkling（Thinking Machines）是 AI Hashrate 收录的975.0B 参数 MoE（每 token 激活 41.0B）开放权重模型。 按 8K 上下文估算：Q4 约需 545.45 GB VRAM（权重 536.25 GB + KV 8.2 GB + 开销 1 GB），FP16 约需 1959.2 GB。 在该上下文假设下，目录中约有 0 款 GPU/加速器能在 Q4 下完整装下此模型。 Q4 最快配置：B200 192GB SXM ≈ 44.0 tok/s（估算）; MI300X 192GB ≈ 29.1 tok/s（估算）; H200 141GB SXM5 ≈ 14.2 tok/s（估算）。 下表给出各硬件的 VRAM 装机情况与每美元 tok/s（按 MSRP 标价）。估算基于显存带宽公式；有实测时以实测为准。详见方法论页。 方法论.
| 硬件 | VRAM | 量化 | tok/s | 装得下？ | tok/s/$ |
|---|---|---|---|---|---|
| B200 192GB SXM | 192 | Q4 | 44.0 估算 | 否 | 0.001 |
| MI300X 192GB | 192 | Q4 | 29.1 估算 | 否 | 0.002 |
| H200 141GB SXM5 | 141 | Q4 | 14.2 估算 | 否 | 0.0 |
| Mac Studio M2 Ultra 192GB | 192 | Q4 | 4.4 估算 | 否 | 0.001 |