目录收录 6 个 编程 LLM(24B–1030 参数)。下表为每个模型给出 Q4 / 8K 上下文下能完整装下它的最便宜零售 GPU 与最快零售 GPU,含解码 tok/s。装得下 = 权重 + KV cache + 1 GB 运行时开销不超过 95% VRAM——而非只看权重。 其中 2 个超出我们收录的所有零售 GPU,已在表中标注。 方法论.
| # | 模型 | 参数 | Q4/8K 需求 (GB) | 性价比 GPU(可装下) | 最快零售 GPU | 购买 |
|---|---|---|---|---|---|---|
| 1 | Devstral-Small-2-24B-Instruct-2512 | 24.0B | 19.0 | RX 7900 XT 20GB ≈21.2 tok/s 估算 | RTX 5090 32GB ≈47.5 tok/s 估算 | 搜索 Amazon (返利链接) |
| 2 | Qwen3.6-27B | 27.8B | 21.85 | RX 7900 XTX 24GB ≈22.0 tok/s 估算 | RTX 5090 32GB ≈41.0 tok/s 估算 | ASRock Radeon RX 7900 XTX Phantom Gaming 24GB OC (返利链接) · 更多商品 |
| 3 | Qwen2.5-Coder-32B-Instruct | 32.8B | 25.6 | Mac mini M4 32GB ≈2.3 tok/s 估算 | RTX 5090 32GB ≈34.8 tok/s 估算 | 搜索 Amazon (返利链接) |
| 4 | Qwen3-Coder-Next | 79.7B MoE 激活 3B | 45.44 | Mac mini M4 Pro 64GB ≈57.9 tok/s 估算 | RTX 6000 Ada 48GB ≈203.6 tok/s 估算 | 搜索 Amazon (返利链接) |
| 5 | Qwen3-Coder-480B-A35B-Instruct | 480.2B MoE 激活 35B | 272.11 | 无零售 GPU 可装下 | — | — |
| 6 | Kimi-K2.7-Code | 1030.0B MoE 激活 32.0B | 573.9 | 无零售 GPU 可装下 | — | — |