← AI Hashrate EN

RTX 6000 Ada 48GB

NVIDIA · 48 GB GDDR6 · 960 GB/s · 300 W · MSRP $6,800 · 搜索 Amazon (返利链接)

RTX 6000 Ada 48GB 是 NVIDIA 的加速器,配备 48 GB GDDR6,峰值显存带宽约 960 GB/s。 AI Hashrate 按 8K 上下文估算本地 LLM 解码速度(batch 1):能否装下 = 权重 + KV cache + 1 GB 运行时开销,而非只看权重。 Q4 下约有 35 个收录模型能完整装进此卡;FP16 下约 20 个。 Q4 速度前列:MiniCPM5-1B ≈ 565.7 tok/s(估算,装得下); Qwen3.5-2B ≈ 305.5 tok/s(估算,装得下); GLM-4.7-Flash ≈ 203.6 tok/s(估算,装得下); Qwen3-30B-A3B-Instruct-2507 ≈ 203.6 tok/s(估算,装得下); Qwen3-Coder-Next ≈ 203.6 tok/s(估算,装得下)。 相对排名比绝对 tok/s 更可靠。带宽公式与实测锚点政策见方法论页。 方法论.

表格:解码速度估算(Q4 / FP16)。实测行覆盖估算值。MSRP 为官方标价,非实时售价。默认上下文 8K。

模型参数 (B)量化tok/s装得下?
Qwen3-Next-80B-A3B-Instruct81.3Q4624.8 估算
MiniCPM5-1B1.08Q4565.7 估算
Qwen3.5-2B2.0Q4305.5 估算
GLM-4.7-Flash31.2Q4203.6 估算
Qwen3-30B-A3B-Instruct-250730.5Q4203.6 估算
Qwen3-Coder-Next79.7Q4203.6 估算
Qwen3.5-35B-A3B34.7Q4203.6 估算
Qwen3.6-35B-A3B36.0Q4203.6 估算
Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF1630.0Q4203.6 估算
Ornith-1.0-35B35.0Q4203.6 估算
Llama-3.2-3B-Instruct3.2Q4190.9 估算
gpt-oss-20b21.5Q4169.7 估算
gpt-oss-120b120.4Q4169.3 估算
Mistral-7B-Instruct-v0.37.2Q4166.6 实测 (storagereview-rtx5080-review)
gemma-4-26B-A4B-it25.2Q4160.8 估算
MiniCPM5-1B1.08FP16155.6 估算
Qwen3-4B-Instruct-25074.0Q4152.7 估算
Qwen3-4B-Thinking-25074.0Q4152.7 估算
NVIDIA-Nemotron-3-Nano-4B-BF164.0Q4152.7 估算
Llama-3.1-8B-Instruct8.0Q4138.6 实测 (storagereview-rtx5080-review)
Mistral-Small-4-119B-2603119.0Q4134.8 估算
gemma-4-E2B-it5.1Q4119.8 估算
gemma-4-26B-A4B-it25.2FP16107.0 估算
Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF1630.0FP1697.1 估算
Qwen3-30B-A3B-Instruct-250730.5FP1694.1 估算
GLM-4.7-Flash31.2FP1690.0 估算
Qwen3.5-2B2.0FP1684.0 估算
Qwen3.5-122B-A10B122.0Q481.8 估算
GLM-4.5-Air110.5Q481.4 估算
Qwen2.5-7B-Instruct7.6Q480.4 估算
gemma-4-E4B-it8.0Q476.4 估算
Qwen3-8B8.2Q474.5 估算
DeepSeek-R1-0528-Qwen3-8B8.2Q474.5 估算
Qwen3.5-35B-A3B34.7FP1673.1 估算
Ornith-1.0-35B35.0FP1671.9 估算
NVIDIA-Nemotron-3-Super-120B-A12B-BF16120.0Q469.6 估算
Qwen3.5-9B8.95Q468.3 估算
Qwen3.6-35B-A3B36.0FP1668.1 估算
Ornith-1.0-9B9.0Q467.9 估算
Llama-4-Scout-17B-16E-Instruct109.0Q457.1 估算
Llama-3.2-3B-Instruct3.2FP1652.5 估算
gemma-4-12b-it11.95Q451.1 估算
gpt-oss-20b21.5FP1646.7 估算
Qwen3-4B-Instruct-25074.0FP1642.0 估算
Qwen3-4B-Thinking-25074.0FP1642.0 估算
NVIDIA-Nemotron-3-Nano-4B-BF164.0FP1642.0 估算
Qwen3-14B14.8Q441.3 估算
Qwen2.5-14B-Instruct14.8Q441.3 估算
DeepSeek-R1-Distill-Qwen-14B14.8Q441.3 估算
DeepSeek-V4-Flash158.1Q437.7 估算
gemma-4-E2B-it5.1FP1632.9 估算
Step-3.5-Flash196.8Q429.4 估算
Devstral-Small-2-24B-Instruct-251224.0Q425.5 估算
MiniMax-M2.7228.7Q424.2 估算
Mistral-7B-Instruct-v0.37.2FP1623.3 估算
Qwen3.5-27B27.0Q422.6 估算
Qwen2.5-7B-Instruct7.6FP1622.1 估算
Qwen3.6-27B27.8Q422.0 估算
Llama-3.1-8B-Instruct8.0FP1621.0 估算
gemma-4-E4B-it8.0FP1621.0 估算
Qwen3-8B8.2FP1620.5 估算
DeepSeek-R1-0528-Qwen3-8B8.2FP1620.5 估算
gemma-4-31B-it30.7Q419.9 估算
Llama-3.1-70B-Instruct70.6Q419.8 估算
Llama-3.3-70B-Instruct70.6Q419.8 估算
Qwen3.5-9B8.95FP1618.8 估算
Ornith-1.0-9B9.0FP1618.7 估算
Qwen2.5-32B-Instruct32.8Q418.6 估算
Qwen2.5-Coder-32B-Instruct32.8Q418.6 估算
DeepSeek-R1-Distill-Qwen-32B32.8Q418.6 估算
Qwen2.5-72B-Instruct72.7Q417.9 估算
Devstral-Small-2-24B-Instruct-251224.0FP1615.9 估算
Qwen3-Coder-Next79.7FP1614.2 估算
gemma-4-12b-it11.95FP1614.1 估算
Qwen3-Next-80B-A3B-Instruct81.3FP1613.7 估算
Qwen3-14B14.8FP1611.4 估算
Qwen2.5-14B-Instruct14.8FP1611.4 估算
DeepSeek-R1-Distill-Qwen-14B14.8FP1611.4 估算
Qwen3.5-27B27.0FP1611.2 估算
Qwen3.6-27B27.8FP1610.3 估算
Qwen3-235B-A22B-Instruct-2507235.1Q410.1 估算
MiMo-V2.5310.0Q48.8 估算
gemma-4-31B-it30.7FP167.7 估算
Hy3295.0Q46.8 估算
Qwen2.5-32B-Instruct32.8FP166.3 估算
Qwen2.5-Coder-32B-Instruct32.8FP166.3 估算
DeepSeek-R1-Distill-Qwen-32B32.8FP166.3 估算
Mistral-Medium-3.5-128B128.0Q43.3 估算
Qwen2.5-72B-Instruct72.7FP160.6 估算
Llama-3.1-70B-Instruct70.6FP160.6 估算
Llama-3.3-70B-Instruct70.6FP160.6 估算

装机核对

全部 63 个模型的装机核对——见上表「装得下?」列的链接