RTX 3070 8GB 的显存带宽高约 647%(448 对 60 GB/s)。batch-1 解码与带宽强相关,因此同能装下的模型在 RTX 3070 8GB 上解码约快 647%。 Q4/8K 下 RTX 3070 8GB 能装下的目录模型更多——67 个模型中 16 对 11(8 对 8 GB VRAM)。 能装进 RTX 3070 8GB 却装不进 MacBook Neo A18 Pro 8GB 的最大模型:Ornith-1.0-9B(9.0B)。 MSRP:MacBook Neo A18 Pro 8GB 为 $0,RTX 3070 8GB 为 $499。MSRP 是发布标价而非实时售价——Amazon 价格会波动,点进去才是在售价格。 下方 Q4/8K 正面对比(36 个共有模型)中,RTX 3070 8GB 在 36 行 tok/s 更高,0 行落后。 方法论.
| MacBook Neo A18 Pro 8GB | RTX 3070 8GB | |
|---|---|---|
| 厂商 | Apple | NVIDIA |
| VRAM | 8 GB | 8 GB |
| 显存类型 | LPDDR5X | GDDR6 |
| 显存带宽 | 60 GB/s | 448 GB/s |
| TDP | 20 W | 220 W |
| MSRP(标价) | $0 | $499 |
| 购买 | 搜索 Amazon | 搜索 Amazon · eBay · Newegg · B&H Photo |
| 模型 | 参数 (B) | MacBook Neo A18 Pro 8GB tok/s | MacBook Neo A18 Pro 8GB 装得下 | RTX 3070 8GB tok/s | RTX 3070 8GB 装得下 | 胜者 |
|---|---|---|---|---|---|---|
| MiniCPM5-1B | 1.08 | 70.0 估算 | 是 | 377.9 估算 | 是 | RTX 3070 8GB |
| Qwen3.5-2B | 2.0 | 37.8 估算 | 是 | 204.1 估算 | 是 | RTX 3070 8GB |
| Llama-3.2-3B-Instruct | 3.2 | 23.6 估算 | 是 | 127.5 估算 | 是 | RTX 3070 8GB |
| Nanbeige4.2-3B | 4.0 | 19.2 估算 | 是 | 103.9 估算 | 是 | RTX 3070 8GB |
| Qwen3-4B-Instruct-2507 | 4.0 | 18.9 估算 | 是 | 102.0 估算 | 是 | RTX 3070 8GB |
| NVIDIA-Nemotron-3-Nano-4B-BF16 | 4.0 | 18.9 估算 | 是 | 102.0 估算 | 是 | RTX 3070 8GB |
| Qwen3-4B-Thinking-2507 | 4.0 | 18.9 估算 | 是 | 102.0 估算 | 是 | RTX 3070 8GB |
| gpt-oss-20b | 21.5 | 5.7 估算 | 否 | 80.7 估算 | 否 | RTX 3070 8GB |
| gemma-4-E2B-it | 5.1 | 14.8 估算 | 是 | 80.0 估算 | 是 | RTX 3070 8GB |
| gemma-4-12b-it | 11.95 | 4.7 估算 | 否 | 63.5 估算 | 否 | RTX 3070 8GB |
| Mistral-7B-Instruct-v0.3 | 7.2 | 10.5 估算 | 是 | 56.7 估算 | 是 | RTX 3070 8GB |
| gemma-4-26B-A4B-it | 25.2 | 3.9 估算 | 否 | 56.3 估算 | 否 | RTX 3070 8GB |
| Qwen2.5-7B-Instruct | 7.6 | 9.9 估算 | 是 | 53.7 估算 | 是 | RTX 3070 8GB |
| Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16 | 30.0 | 3.5 估算 | 否 | 51.1 估算 | 否 | RTX 3070 8GB |
| Llama-3.1-8B-Instruct | 8.0 | 9.6 估算 | 否 | 51.0 估算 | 是 | RTX 3070 8GB |
| MacBook Neo A18 Pro 8GB | RTX 3070 8GB | |
|---|---|---|
| 装得下的目录模型 | 67 个中 11 个 | 67 个中 16 个 |
| 独占装下的最大模型 | — | Ornith-1.0-9B (9.0B) |