gpt-oss

gpt-oss 是 OpenAI 的开源权重模型家族，2025 年发布——公司多年来首次放出开源权重语言模型，立刻成为社区热门。这个家族目前只有两款：gpt-oss-20b 和 gpt-oss-120b，都围绕同一个设计理念：总参数量大，但每个 token 的激活量很小，靠的是 MoE（混合专家）架构。

两款都是推理导向的模型，配 128K 上下文窗口，且都以宽松的 Apache 2.0 许可发布——所以你可以随意商用、微调和再分发。GGUF 量化版到处都有，天然适配 llama.cpp、Ollama 等本地运行器。

尺寸梯度

• gpt-oss-20b（21.5B 参数，MoE，每 token 激活 3.6B，32 专家/4 激活）— Q4 权重约 11.8 GB；8K 上下文加 KV cache 后总计约 13.5 GB，正正落在 16GB 卡上。只有 12GB 卡的话，用 Q2（权重约 6 GB）也能跑。查看 gpt-oss-20b 估算
• gpt-oss-120b（120.4B 参数，MoE，每 token 激活 5.1B，128 专家/4 激活）— Q4 权重约 66.2 GB，8K 上下文约 68 GB，意味着需要 96GB 档方案（单张 96GB 工作站卡，或双 48GB 卡）。单张 48GB 卡也能用 Q2 跑，权重约 33.7 GB。查看 gpt-oss-120b 估算

gpt-oss 特别在哪

头号特征是极小的激活量。120b 款虽然在显存里装着 120.4B 参数，但每个生成的 token 只动用到约 5.1B——所以生成速度更接近一个小型稠密模型，而不是稠密的 120B。20b 同理，激活量只有 3.6B。你为容量付出了显存，但速度没有为此买单。

第二个特征是两个尺寸都是 128K 上下文。不过长上下文不免费：从 8K 拉到完整的 128K，20b 的 KV cache 要多加约 11.5 GB，120b 多加约 16 GB。如果你打算真用长文档，按此选购显卡——24GB 卡跑 20b Q4 还能留不少长上下文余量，而同一模型在 8K 下 16GB 就够了。

最后，Apache 2.0 许可几乎是最宽松的那一档：商用、修改、再分发都没问题。这也是为什么两款模型的 GGUF 量化和微调版本铺天盖地。

怎么选

• 12GB 显存 — gpt-oss-20b 用 Q2 或 Q3。能跑，但 Q4 才是它的真正实力；这档算是预算入门。
• 16GB 显存 — gpt-oss-20b Q4 的甜点，配 8K 上下文。这是以全质量跑这个家族的最低价位。
• 24GB 显存 — gpt-oss-20b Q4 配真正的长上下文余量，或更高质量量化。120b 这档够不着。
• 48GB 显存 — gpt-oss-120b Q2 单卡能跑，或者如果你想让小模型也拉满质量，20b 上 FP16 级权重（约 43 GB）。
• 96GB 显存 — gpt-oss-120b Q4，单张工作站卡或双 48GB 方案。这是大模型的现实归宿。
• 192GB+ 显存 — 120b 在长上下文或更高量化下的余量，以及 FP16 实验；FP16 光权重就约 241 GB，那个仍然是多卡服务器范畴。

对大多数单卡买家，gpt-oss-20b 配 16GB 或 24GB 卡是理性选择：接近旗舰级推理表现，消费级显存。120b 留给那些明确需要它额外能力、也愿意付 96GB 档硬件账单的人。

相关链接

• gpt-oss-20b — 适配与速度估算
• gpt-oss-120b — 适配与速度估算
• 本地最佳 MoE 模型
• 16GB 显卡最佳模型
• 指南：本地 LLM 到底需要多少 VRAM？
• 指南：LLM 量化详解
• gpt-oss-20b 在 Hugging Face
• gpt-oss-120b 在 Hugging Face