H200 141GB SXM5 的显存带宽高约 400%(4,800 对 960 GB/s)。batch-1 解码与带宽强相关,因此同能装下的模型在 H200 141GB SXM5 上解码约快 400%。 Q4/8K 下 H200 141GB SXM5 能装下的目录模型更多——63 个模型中 49 对 20(141 对 16 GB VRAM)。 能装进 H200 141GB SXM5 却装不进 RTX 5080 16GB 的最大模型:MiniMax-M2.7(228.7B)。 MSRP:H200 141GB SXM5 为 $35,000,RTX 5080 16GB 为 $999。MSRP 是发布标价而非实时售价——Amazon 价格会波动,点进去才是在售价格。 不可零售购买:H200 141GB SXM5(数据中心级;现实使用方式是云租赁)。 下方 Q4/8K 正面对比(39 个共有模型)中,H200 141GB SXM5 在 39 行 tok/s 更高,0 行落后。 方法论.
| H200 141GB SXM5 | RTX 5080 16GB | |
|---|---|---|
| 厂商 | NVIDIA | NVIDIA |
| VRAM | 141 GB | 16 GB |
| 显存类型 | HBM3e | GDDR7 |
| 显存带宽 | 4,800 GB/s | 960 GB/s |
| TDP | 700 W | 360 W |
| MSRP(标价) | $35,000 | $999 |
| 购买 | — | NVIDIA GeForce RTX 5080 Founders Edition (返利链接) · 更多商品 |
| 模型 | 参数 (B) | H200 141GB SXM5 tok/s | H200 141GB SXM5 装得下 | RTX 5080 16GB tok/s | RTX 5080 16GB 装得下 | 胜者 |
|---|---|---|---|---|---|---|
| MiniCPM5-1B | 1.08 | 2828.3 估算 | 是 | 565.7 估算 | 是 | H200 141GB SXM5 |
| Qwen3.5-2B | 2.0 | 1527.3 估算 | 是 | 305.5 估算 | 是 | H200 141GB SXM5 |
| GLM-4.7-Flash | 31.2 | 1018.2 估算 | 是 | 423.2 估算 | 否 | H200 141GB SXM5 |
| Qwen3-30B-A3B-Instruct-2507 | 30.5 | 1018.2 估算 | 是 | 440.9 估算 | 否 | H200 141GB SXM5 |
| Qwen3-Next-80B-A3B-Instruct | 81.3 | 1018.2 估算 | 是 | 69.4 估算 | 否 | H200 141GB SXM5 |
| Qwen3-Coder-Next | 79.7 | 1018.2 估算 | 是 | 72.1 估算 | 否 | H200 141GB SXM5 |
| Qwen3.5-35B-A3B | 34.7 | 1018.2 估算 | 是 | 347.9 估算 | 否 | H200 141GB SXM5 |
| Qwen3.6-35B-A3B | 36.0 | 1018.2 估算 | 是 | 325.2 估算 | 否 | H200 141GB SXM5 |
| Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16 | 30.0 | 1018.2 估算 | 是 | 454.6 估算 | 否 | H200 141GB SXM5 |
| Ornith-1.0-35B | 35.0 | 1018.2 估算 | 是 | 342.6 估算 | 否 | H200 141GB SXM5 |
| Llama-3.2-3B-Instruct | 3.2 | 954.5 估算 | 是 | 190.9 估算 | 是 | H200 141GB SXM5 |
| gpt-oss-20b | 21.5 | 848.5 估算 | 是 | 204.9 实测 | 是 | H200 141GB SXM5 |
| gemma-4-26B-A4B-it | 25.2 | 803.8 估算 | 是 | 482.0 估算 | 否 | H200 141GB SXM5 |
| Qwen3-4B-Instruct-2507 | 4.0 | 763.6 估算 | 是 | 152.7 估算 | 是 | H200 141GB SXM5 |
| Qwen3-4B-Thinking-2507 | 4.0 | 763.6 估算 | 是 | 152.7 估算 | 是 | H200 141GB SXM5 |
| H200 141GB SXM5 | RTX 5080 16GB | |
|---|---|---|
| 装得下的目录模型 | 63 个中 49 个 | 63 个中 20 个 |
| 独占装下的最大模型 | MiniMax-M2.7 (228.7B) | — |