$500 以内跑本地 LLM 的最佳 GPU

目录中有 15 款 GPU 的 MSRP 低于 $500。按 Llama-3.1-8B-Instruct（一个代表性、广泛使用的 8B 级模型）在 Q4 / 8K 上下文下的解码速度排名。MSRP 为发布标价而非实时价格：市价与 Amazon 价格会波动，点进去才是在售价格。 方法论.

tok/s 数字为带宽估算，标注「实测」的行除外。「装得下？」列链接到各卡上 Llama-3.1-8B-Instruct 的完整装机核对。

更多榜单：7B 级模型 · 13B 级模型 · 30B 级模型 · 70B+ 模型 · $1,000 以内 · $2,000 以内 · 8 GB VRAM · 12 GB VRAM · 16 GB VRAM · 24 GB VRAM · Qwen3 专区 · DeepSeek 专区 · Llama 专区 · Gemma 专区 · GLM 专区 · 编程模型 · 推理模型 · MoE 精选