RTX 4090 24GB 的显存带宽高约 165%(1,008 对 380 GB/s)。batch-1 解码与带宽强相关,因此同能装下的模型在 RTX 4090 24GB 上解码约快 165%。 Q4/8K 下 RTX 4090 24GB 能装下的目录模型更多——63 个模型中 30 对 15(24 对 10 GB VRAM)。 能装进 RTX 4090 24GB 却装不进 Arc B570 10GB 的最大模型:Qwen3.6-35B-A3B(36.0B)。 MSRP:Arc B570 10GB 为 $219,RTX 4090 24GB 为 $1,599。MSRP 是发布标价而非实时售价——Amazon 价格会波动,点进去才是在售价格。 下方 Q4/8K 正面对比(34 个共有模型)中,RTX 4090 24GB 在 33 行 tok/s 更高,1 行落后。 方法论.
| Arc B570 10GB | RTX 4090 24GB | |
|---|---|---|
| 厂商 | Intel | NVIDIA |
| VRAM | 10 GB | 24 GB |
| 显存类型 | GDDR6 | GDDR6X |
| 显存带宽 | 380 GB/s | 1,008 GB/s |
| TDP | 150 W | 450 W |
| MSRP(标价) | $219 | $1,599 |
| 购买 | 搜索 Amazon (返利链接) | GIGABYTE GeForce RTX 4090 Gaming OC 24GB (返利链接) · 更多商品 |
| 模型 | 参数 (B) | Arc B570 10GB tok/s | Arc B570 10GB 装得下 | RTX 4090 24GB tok/s | RTX 4090 24GB 装得下 | 胜者 |
|---|---|---|---|---|---|---|
| MiniCPM5-1B | 1.08 | 223.9 估算 | 是 | 593.9 估算 | 是 | RTX 4090 24GB |
| Qwen3.5-2B | 2.0 | 120.9 估算 | 是 | 320.7 估算 | 是 | RTX 4090 24GB |
| gpt-oss-20b | 21.5 | 104.5 估算 | 否 | 225.2 实测 | 是 | RTX 4090 24GB |
| GLM-4.7-Flash | 31.2 | 65.4 估算 | 否 | 213.8 估算 | 是 | RTX 4090 24GB |
| Qwen3-30B-A3B-Instruct-2507 | 30.5 | 68.2 估算 | 否 | 213.8 估算 | 是 | RTX 4090 24GB |
| Qwen3.5-35B-A3B | 34.7 | 53.8 估算 | 否 | 213.8 估算 | 是 | RTX 4090 24GB |
| Qwen3.6-35B-A3B | 36.0 | 50.3 估算 | 否 | 213.8 估算 | 是 | RTX 4090 24GB |
| Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16 | 30.0 | 70.3 估算 | 否 | 213.8 估算 | 是 | RTX 4090 24GB |
| Ornith-1.0-35B | 35.0 | 53.0 估算 | 否 | 213.8 估算 | 是 | RTX 4090 24GB |
| Llama-3.2-3B-Instruct | 3.2 | 75.6 估算 | 是 | 200.5 估算 | 是 | RTX 4090 24GB |
| Mistral-7B-Instruct-v0.3 | 7.2 | 33.6 估算 | 是 | 183.3 实测 | 是 | RTX 4090 24GB |
| gemma-4-26B-A4B-it | 25.2 | 74.5 估算 | 否 | 168.8 估算 | 是 | RTX 4090 24GB |
| Qwen3-4B-Instruct-2507 | 4.0 | 60.5 估算 | 是 | 160.4 估算 | 是 | RTX 4090 24GB |
| Qwen3-4B-Thinking-2507 | 4.0 | 60.5 估算 | 是 | 160.4 估算 | 是 | RTX 4090 24GB |
| NVIDIA-Nemotron-3-Nano-4B-BF16 | 4.0 | 60.5 估算 | 是 | 160.4 估算 | 是 | RTX 4090 24GB |
| Arc B570 10GB | RTX 4090 24GB | |
|---|---|---|
| 装得下的目录模型 | 63 个中 15 个 | 63 个中 30 个 |
| 独占装下的最大模型 | — | Qwen3.6-35B-A3B (36.0B) |