← AI Hashrate EN

编程 LLM 最佳 GPU

目录收录 6 个 编程 LLM(24B–1030 参数)。下表为每个模型给出 Q4 / 8K 上下文下能完整装下它的最便宜零售 GPU 与最快零售 GPU,含解码 tok/s。装得下 = 权重 + KV cache + 1 GB 运行时开销不超过 95% VRAM——而非只看权重。 其中 2 个超出我们收录的所有零售 GPU,已在表中标注。 方法论.

#模型参数Q4/8K 需求 (GB)性价比 GPU(可装下)最快零售 GPU购买
1Devstral-Small-2-24B-Instruct-251224.0B19.0RX 7900 XT 20GB ≈21.2 tok/s 估算RTX 5090 32GB ≈47.5 tok/s 估算搜索 Amazon (返利链接)
2Qwen3.6-27B27.8B21.85RX 7900 XTX 24GB ≈22.0 tok/s 估算RTX 5090 32GB ≈41.0 tok/s 估算ASRock Radeon RX 7900 XTX Phantom Gaming 24GB OC (返利链接) · 更多商品
3Qwen2.5-Coder-32B-Instruct32.8B25.6Mac mini M4 32GB ≈2.3 tok/s 估算RTX 5090 32GB ≈34.8 tok/s 估算搜索 Amazon (返利链接)
4Qwen3-Coder-Next79.7B MoE 激活 3B45.44Mac mini M4 Pro 64GB ≈57.9 tok/s 估算RTX 6000 Ada 48GB ≈203.6 tok/s 估算搜索 Amazon (返利链接)
5Qwen3-Coder-480B-A35B-Instruct480.2B MoE 激活 35B272.11无零售 GPU 可装下
6Kimi-K2.7-Code1030.0B MoE 激活 32.0B573.9无零售 GPU 可装下

估算 = 基于带宽的估算;实测 = 收录的真实基准,覆盖估算值。GPU 名称链接到完整装机核对(4K/8K/32K 装机表 + VRAM 明细)。MSRP 为发布标价,非实时售价——Amazon 价格会变,点购买链接看当前价。标注「无零售 GPU 可装下」的模型所需 VRAM 超过目录内所有零售卡(最大 192 GB)——数据中心级选择见模型页。

热门装机核对

对比入选 GPU

Mac mini M4 32GB vs RTX 5090 32GB · Mac mini M4 Pro 64GB vs RTX 5090 32GB · RTX 5090 32GB vs RTX 6000 Ada 48GB · Mac mini M4 32GB vs Mac mini M4 Pro 64GB · Mac mini M4 32GB vs RTX 6000 Ada 48GB · Mac mini M4 Pro 64GB vs RTX 6000 Ada 48GB

更多榜单:7B 级模型 · 13B 级模型 · 30B 级模型 · 70B+ 模型 · $500 以内 · $1,000 以内 · $2,000 以内 · 8 GB VRAM · 12 GB VRAM · 16 GB VRAM · 24 GB VRAM · Qwen3 专区 · DeepSeek 专区 · Llama 专区 · Gemma 专区 · GLM 专区 · 推理模型 · MoE 精选