RTX 6000 Ada 48GB 的显存带宽高约 25%(960 对 768 GB/s)。batch-1 解码与带宽强相关,因此同能装下的模型在 RTX 6000 Ada 48GB 上解码约快 25%。 Q4/8K 下两者能装下的目录模型数量相同(63 个中 35 个;48 对 48 GB VRAM)。 MSRP:RTX A6000 48GB 为 $4,500,RTX 6000 Ada 48GB 为 $6,800。MSRP 是发布标价而非实时售价——Amazon 价格会波动,点进去才是在售价格。 下方 Q4/8K 正面对比(52 个共有模型)中,RTX 6000 Ada 48GB 在 52 行 tok/s 更高,0 行落后。 方法论.
| RTX A6000 48GB | RTX 6000 Ada 48GB | |
|---|---|---|
| 厂商 | NVIDIA | NVIDIA |
| VRAM | 48 GB | 48 GB |
| 显存类型 | GDDR6 | GDDR6 |
| 显存带宽 | 768 GB/s | 960 GB/s |
| TDP | 300 W | 300 W |
| MSRP(标价) | $4,500 | $6,800 |
| 购买 | 搜索 Amazon (返利链接) | 搜索 Amazon (返利链接) |
| 模型 | 参数 (B) | RTX A6000 48GB tok/s | RTX A6000 48GB 装得下 | RTX 6000 Ada 48GB tok/s | RTX 6000 Ada 48GB 装得下 | 胜者 |
|---|---|---|---|---|---|---|
| Qwen3-Next-80B-A3B-Instruct | 81.3 | 499.8 估算 | 否 | 624.8 估算 | 否 | RTX 6000 Ada 48GB |
| MiniCPM5-1B | 1.08 | 452.5 估算 | 是 | 565.7 估算 | 是 | RTX 6000 Ada 48GB |
| Qwen3.5-2B | 2.0 | 244.4 估算 | 是 | 305.5 估算 | 是 | RTX 6000 Ada 48GB |
| GLM-4.7-Flash | 31.2 | 162.9 估算 | 是 | 203.6 估算 | 是 | RTX 6000 Ada 48GB |
| Qwen3-30B-A3B-Instruct-2507 | 30.5 | 162.9 估算 | 是 | 203.6 估算 | 是 | RTX 6000 Ada 48GB |
| Qwen3-Coder-Next | 79.7 | 162.9 估算 | 是 | 203.6 估算 | 是 | RTX 6000 Ada 48GB |
| Qwen3.5-35B-A3B | 34.7 | 162.9 估算 | 是 | 203.6 估算 | 是 | RTX 6000 Ada 48GB |
| Qwen3.6-35B-A3B | 36.0 | 162.9 估算 | 是 | 203.6 估算 | 是 | RTX 6000 Ada 48GB |
| Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16 | 30.0 | 162.9 估算 | 是 | 203.6 估算 | 是 | RTX 6000 Ada 48GB |
| Ornith-1.0-35B | 35.0 | 162.9 估算 | 是 | 203.6 估算 | 是 | RTX 6000 Ada 48GB |
| Llama-3.2-3B-Instruct | 3.2 | 152.7 估算 | 是 | 190.9 估算 | 是 | RTX 6000 Ada 48GB |
| gpt-oss-20b | 21.5 | 135.8 估算 | 是 | 169.7 估算 | 是 | RTX 6000 Ada 48GB |
| gpt-oss-120b | 120.4 | 135.5 估算 | 否 | 169.3 估算 | 否 | RTX 6000 Ada 48GB |
| Mistral-7B-Instruct-v0.3 | 7.2 | 67.9 估算 | 是 | 166.6 实测 | 是 | RTX 6000 Ada 48GB |
| gemma-4-26B-A4B-it | 25.2 | 128.6 估算 | 是 | 160.8 估算 | 是 | RTX 6000 Ada 48GB |
| RTX A6000 48GB | RTX 6000 Ada 48GB | |
|---|---|---|
| 装得下的目录模型 | 63 个中 35 个 | 63 个中 35 个 |
| 独占装下的最大模型 | — | — |