H200 141GB SXM5

NVIDIA · 141 GB HBM3e · 4800 GB/s · 700 W · MSRP $35,000

H200 141GB SXM5 是 NVIDIA 的加速器，配备 141 GB HBM3e，峰值显存带宽约 4800 GB/s。 AI Hashrate 按 8K 上下文估算本地 LLM 解码速度（batch 1）：能否装下 = 权重 + KV cache + 1 GB 运行时开销，而非只看权重。 Q4 下约有 49 个收录模型能完整装进此卡；FP16 下约 34 个。 Q4 速度前列：MiniCPM5-1B ≈ 2828.3 tok/s（估算，装得下）; Qwen3.5-2B ≈ 1527.3 tok/s（估算，装得下）; GLM-4.7-Flash ≈ 1018.2 tok/s（估算，装得下）; Qwen3-30B-A3B-Instruct-2507 ≈ 1018.2 tok/s（估算，装得下）; Qwen3-Next-80B-A3B-Instruct ≈ 1018.2 tok/s（估算，装得下）。 相对排名比绝对 tok/s 更可靠。带宽公式与实测锚点政策见方法论页。 方法论.

表格：解码速度估算（Q4 / FP16）。实测行覆盖估算值。MSRP 为官方标价，非实时售价。默认上下文 8K。

装机核对

• Qwen3-8B — 装得下 · ≈372.5 tok/s Q4 估算
• gemma-4-26B-A4B-it — 装得下 · ≈803.8 tok/s Q4 估算
• Qwen2.5-7B-Instruct — 装得下 · ≈401.9 tok/s Q4 估算
• Qwen3.5-9B — 装得下 · ≈341.3 tok/s Q4 估算
• DeepSeek-R1 — 装不下 · ≈31.7 tok/s Q4 估算
• Llama-3.1-8B-Instruct — 装得下 · ≈381.8 tok/s Q4 估算
• gpt-oss-20b — 装得下 · ≈848.5 tok/s Q4 估算
• Qwen3.6-35B-A3B — 装得下 · ≈1018.2 tok/s Q4 估算
• Qwen3.5-35B-A3B — 装得下 · ≈1018.2 tok/s Q4 估算
• gemma-4-E2B-it — 装得下 · ≈598.9 tok/s Q4 估算
• Qwen3.6-27B — 装得下 · ≈109.9 tok/s Q4 估算
• Mistral-7B-Instruct-v0.3 — 装得下 · ≈424.2 tok/s Q4 估算

全部 63 个模型的装机核对——见上表「装得下？」列的链接