RTX 4080 Super 16GB 的显存带宽高约 13%(736 对 652.8 GB/s)。batch-1 解码与带宽强相关,因此同能装下的模型在 RTX 4080 Super 16GB 上解码约快 13%。 Q4/8K 下 RTX 4080 Super 16GB 能装下的目录模型更多——69 个模型中 24 对 18(16 对 12 GB VRAM)。 能装进 RTX 4080 Super 16GB 却装不进 Titan V 12GB 的最大模型:gemma-4-26B-A4B-it(25.2B)。 MSRP:RTX 4080 Super 16GB 为 $999,Titan V 12GB 为 $2,999。MSRP 是发布标价而非实时售价——Amazon 价格会波动,点进去才是在售价格。 下方 Q4/8K 正面对比(41 个共有模型)中,RTX 4080 Super 16GB 在 35 行 tok/s 更高,6 行落后。 方法论.
| RTX 4080 Super 16GB | Titan V 12GB | |
|---|---|---|
| 厂商 | NVIDIA | NVIDIA |
| VRAM | 16 GB | 12 GB |
| 显存类型 | GDDR6X | HBM2 |
| 显存带宽 | 736 GB/s | 652.8 GB/s |
| TDP | 320 W | 250 W |
| MSRP(标价) | $999 | $2,999 |
| 购买 | ASUS ProArt GeForce RTX 4080 Super OC (返利链接) · 更多商品 | 搜索 Amazon (返利链接) |
| 模型 | 参数 (B) | RTX 4080 Super 16GB tok/s | RTX 4080 Super 16GB 装得下 | Titan V 12GB tok/s | Titan V 12GB 装得下 | 胜者 |
|---|---|---|---|---|---|---|
| MiniCPM5-1B | 1.08 | 433.7 估算 | 是 | 384.6 估算 | 是 | RTX 4080 Super 16GB |
| Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16 | 30.0 | 370.4 估算 | 否 | 184.6 估算 | 否 | RTX 4080 Super 16GB |
| Qwen3-30B-A3B-Instruct-2507 | 30.5 | 337.0 估算 | 否 | 167.9 估算 | 否 | RTX 4080 Super 16GB |
| GLM-4.7-Flash | 31.2 | 323.5 估算 | 否 | 161.2 估算 | 否 | RTX 4080 Super 16GB |
| Qwen3.5-35B-A3B | 34.7 | 280.1 估算 | 否 | 139.6 估算 | 否 | RTX 4080 Super 16GB |
| qwen35b-a3b-fable-sft-abliterated | 34.7 | 265.9 估算 | 否 | 132.5 估算 | 否 | RTX 4080 Super 16GB |
| Ornith-1.0-35B | 35.0 | 261.9 估算 | 否 | 130.5 估算 | 否 | RTX 4080 Super 16GB |
| Qwen3.6-35B-A3B | 36.0 | 261.1 估算 | 否 | 130.1 估算 | 否 | RTX 4080 Super 16GB |
| gpt-oss-20b | 21.5 | 186.5 实测 | 是 | 257.5 估算 | 否 | Titan V 12GB |
| Qwen3.5-2B | 2.0 | 234.2 估算 | 是 | 207.7 估算 | 是 | RTX 4080 Super 16GB |
| DeepSeek-R1-0528-Qwen3-8B-layer-mix-bpw-3.8-mlx | 2.3 | 203.6 估算 | 是 | 180.6 估算 | 是 | RTX 4080 Super 16GB |
| gemma-4-26B-A4B-it | 25.2 | 123.3 估算 | 是 | 183.6 估算 | 否 | Titan V 12GB |
| Llama-3.2-3B-Instruct | 3.2 | 146.4 估算 | 是 | 129.8 估算 | 是 | RTX 4080 Super 16GB |
| Qwen3-4B-Instruct-2507 | 4.0 | 117.1 估算 | 是 | 103.9 估算 | 是 | RTX 4080 Super 16GB |
| NVIDIA-Nemotron-3-Nano-4B-BF16 | 4.0 | 117.1 估算 | 是 | 103.9 估算 | 是 | RTX 4080 Super 16GB |
| RTX 4080 Super 16GB | Titan V 12GB | |
|---|---|---|
| 装得下的目录模型 | 69 个中 24 个 | 69 个中 18 个 |
| 独占装下的最大模型 | gemma-4-26B-A4B-it (25.2B) | — |