智谱 GLM 家族从 110B GLM-4.5-Air、31B GLM-4.7-Flash MoE 一直到 754B 的 GLM-5.1/5.2 旗舰,上下文最长 1M。本站收录的 4 款全部 MIT 许可。
Z.ai(智谱 / 清华系公司)是 GLM 家族背后的力量,本页每款模型都带着同样的 MIT 许可——这份一贯的宽松姿态在带定制条款的竞品中相当突出。产品线共四款,跨两代:GLM-4(4.5 Air 和 4.7 Flash)和 GLM-5(5.1 和 5.2)。四款全是 MoE,所以激活参数比标题数字小得多,旗舰款上下文冲到 1M token。
以下 VRAM 估算采用 Q4 权重 + 8K 上下文 KV cache + 1 GB 开销。MoE 模型的 KV cache 按*激活*参数计算——这让 GLM-4.7-Flash 在长上下文下效率极高,虽然它存着 31.2B 参数。
尺寸梯度
- GLM-4.7-Flash(31.2B MoE,3B 激活,198K ctx)— Q4 ≈ 17.2 GB → 24GB 卡(RTX 3090/4090 档);每 token 仅 3B 激活,使其成为本站最快的 GLM,性能区间与 Qwen 系流行的 A3B 设计相当。
- GLM-4.5-Air(110.5B MoE,12B 激活,128K ctx)— Q4 ≈ 60.8 GB → 刚好超出 48GB;Q4 需要 96GB 档卡,48GB 上 Q2(权重约 31 GB)。
- GLM-5.1(753.9B MoE,40B 激活,198K ctx)— Q4 ≈ 414.7 GB → 多卡服务器,约 5×96GB;GLM-5 代通用款,近 200K 上下文。
- GLM-5.2(753.3B MoE,40B 激活,1M ctx)— Q4 在 8K 下 ≈ 414.3 GB → 多卡级别与 5.1 相同,但 1M 上下文窗口意味着长文档 KV cache 会显著叠加——满窗口 Q4 大约要再加 100 GB。
家族亮点
- 精准瘦身的激活参数。 GLM-4.7-Flash 在 31.2B 总量中每 token 只激活 3B——这是 10:1 的比例,也是我们跟踪的最小激活量之一。在 24GB 卡上它能带着近 200K 上下文余量跑,因为 KV cache 几乎不涨。
- GLM-5:大模型,MIT 许可。 754B MoE 配 MIT 条款,不常见。同等尺寸的大多数家族用的都是定制或受限许可。GLM-5.1 和 5.2 真正允许免费商用、微调和再分发——瓶颈是硬件,不是法律。
- 上下文从 128K 跨到 1M。 GLM-4.5 在 128K,4.7 跳到 198K,GLM-5.2 冲到 1M。GLM-5.1 的 198K 对 RAG 和 agent 工作负载已很充裕,没有 1M 那种极端的缓存成本。
- GLM-4.5-Air 是过渡选项。 110.5B 总量 / 12B 激活,介于可携带的 4.7-Flash 和服务器级 5.x 旗舰之间。Q4 上 96GB 卡是它的自然归宿。
怎么选
- 12GB / 16GB 显存 — 4.7-Flash(Q4 ≈ 17.2 GB)和 4.5-Air 都装不下。GLM 是 24GB 起步的家族。
- 24GB 显存 — GLM-4.7-Flash Q4 是唯一选择,而且是个好选择:3B 激活速度、最长 198K 上下文、MIT 许可。这是单张消费卡跑 GLM 的现实答案。
- 48GB 显存 — 4.7-Flash 绰绰有余。4.5-Air Q2(约 31 GB 权重)能跑;Q4 还装不下。
- 96GB 显存 — GLM-4.5-Air Q4(约 60.8 GB)配 128K 上下文余量充裕。4.7-Flash 在此如履平地。
- 多卡(5×96GB+) — GLM-5.1 和 5.2 Q4。对 5.2 要特别多留 100+ GB 给完整的 1M 上下文窗口。
大多数单卡用户会落在 24GB 卡上跑 GLM-4.7-Flash:拿到家族的 MoE 速度、MIT 许可和宽容的 198K 上下文,占不到 18 GB。GLM-4.5-Air 是 96GB 机子的升级项;GLM-5 是纯数据中心范畴。
相关链接
GLM(智谱) 族共 4 个模型,按系列分组。Q4 (GB) 仅为权重体积;总 VRAM 还需加 KV cache 与开销——装机核对链接按代表性零售 GPU、8K 上下文计算。