DeepSeek-V4-Flash

DeepSeek · 158.1B（激活 13B） · MoE · ctx 1000K · MIT · HuggingFace

DeepSeek-V4-Flash（DeepSeek）是 AI Hashrate 收录的158.1B 参数 MoE（每 token 激活 13B）开放权重模型。 按 8K 上下文估算：Q4 约需 90.55 GB VRAM（权重 86.95 GB + KV 2.6 GB + 开销 1 GB），FP16 约需 319.8 GB。 在该上下文假设下，目录中约有 8 款 GPU/加速器能在 Q4 下完整装下此模型。 Q4 最快配置：B200 192GB SXM ≈ 391.6 tok/s（估算）; MI300X 192GB ≈ 259.4 tok/s（估算）; H200 141GB SXM5 ≈ 235.0 tok/s（估算）; Gaudi 3 128GB ≈ 160.4 tok/s（估算）; Mac Studio M3 Ultra 96GB ≈ 40.1 tok/s（估算）。 下表给出各硬件的 VRAM 装机情况与每美元 tok/s（按 MSRP 标价）。估算基于显存带宽公式；有实测时以实测为准。详见方法论页。 方法论.

31 个硬件配置——按 tok/s 排序。默认装机上下文 8K。

硬件	VRAM	量化	tok/s	装得下？	tok/s/$
B200 192GB SXM	192	Q4	391.6 估算	是	0.01
H100 80GB SXM5	80	Q4	365.7 估算	否	0.012
MI300X 192GB	192	Q4	259.4 估算	是	0.017
H200 141GB SXM5	141	Q4	235.0 估算	是	0.007
A100 80GB SXM4	80	Q4	222.6 估算	否	0.015
Gaudi 3 128GB	128	Q4	160.4 估算	是	0.013
B200 192GB SXM	192	FP16	110.9 估算	否	0.003
MI300X 192GB	192	FP16	73.5 估算	否	0.005
Mac Studio M3 Ultra 96GB	96	Q4	40.1 估算	是	0.01
Mac Studio M2 Ultra 192GB	192	Q4	39.2 估算	是	0.006
RTX 6000 Ada 48GB	48	Q4	37.7 估算	否	0.006
H200 141GB SXM5	141	FP16	35.9 估算	否	0.001
L40S 48GB	48	Q4	34.0 估算	否	0.004
RTX 5090 32GB	32	Q4	31.3 估算	否	0.016
RTX A6000 48GB	48	Q4	30.2 估算	否	0.007
MacBook Pro M4 Max 128GB	128	Q4	26.7 估算	是	0.006
Gaudi 3 128GB	128	FP16	20.2 估算	否	0.002
MacBook Pro M3 Max 128GB	128	Q4	19.6 估算	是	0.005
Mac mini M4 Pro 64GB	64	Q4	19.1 估算	否	0.009
Mac Studio M2 Ultra 192GB	192	FP16	11.1 估算	否	0.002
RTX 4090 24GB	24	Q4	9.9 估算	否	0.006
RTX 4090D 24GB (China)	24	Q4	9.9 估算	否	0.006
RTX 3090 Ti 24GB	24	Q4	9.9 估算	否	0.005
RX 7900 XTX 24GB	24	Q4	9.4 估算	否	0.009
RTX 3090 24GB	24	Q4	9.2 估算	否	0.006
H100 80GB SXM5	80	FP16	8.1 估算	否	0.0
A100 80GB SXM4	80	FP16	4.9 估算	否	0.0
MacBook Pro M4 Max 128GB	128	FP16	3.4 估算	否	0.001
Mac Studio M3 Ultra 96GB	96	FP16	2.8 估算	否	0.001
MacBook Pro M3 Max 128GB	128	FP16	2.5 估算	否	0.001
Mac mini M4 32GB	32	Q4	2.1 估算	否	0.002

装机核对

• RTX 5090 32GB — 装不下 · ≈31.3 tok/s Q4 估算
• RTX 3090 Ti 24GB — 装不下 · ≈9.9 tok/s Q4 估算
• RTX 4090 24GB — 装不下 · ≈9.9 tok/s Q4 估算
• RTX 6000 Ada 48GB — 装不下 · ≈37.7 tok/s Q4 估算
• RX 7900 XTX 24GB — 装不下 · ≈9.4 tok/s Q4 估算
• RTX 3090 24GB — 装不下 · ≈9.2 tok/s Q4 估算
• L40S 48GB — 装不下 · ≈34.0 tok/s Q4 估算
• Mac Studio M3 Ultra 96GB — 装得下 · ≈40.1 tok/s Q4 估算
• Mac Studio M2 Ultra 192GB — 装得下 · ≈39.2 tok/s Q4 估算

12 款热门零售 GPU；上表每行的「装得下？」结论同样链接到完整装机核对页。

同族模型：DeepSeek（深度求索）

DeepSeek R1 DeepSeek-R1
DeepSeek R1 0528 DeepSeek-R1-0528-Qwen3-8B
DeepSeek R1 Distill DeepSeek-R1-Distill-Qwen-14B · DeepSeek-R1-Distill-Qwen-32B
DeepSeek V4 DeepSeek-V4-Pro

全部 DeepSeek（深度求索） 模型 →