Laguna S 2.1

Poolside · 118.0B（激活 8.0B） · MoE · ctx 1024K · openmdw-1.1 · HuggingFace

Laguna S 2.1（Poolside）是 AI Hashrate 收录的118.0B 参数 MoE（每 token 激活 8.0B）开放权重模型。 按 8K 上下文估算：Q4 约需 67.4 GB VRAM（权重 64.9 GB + KV 1.5 GB + 开销 1 GB），FP16 约需 238.5 GB。 在该上下文假设下，目录中约有 12 款 GPU/加速器能在 Q4 下完整装下此模型。 Q4 最快配置：B200 192GB SXM ≈ 956.7 tok/s（估算）; MI300X 192GB ≈ 625.5 tok/s（估算）; H200 141GB SXM5 ≈ 574.0 tok/s（估算）; H100 80GB SXM5 ≈ 400.6 tok/s（估算）; Gaudi 3 128GB ≈ 386.6 tok/s（估算）。 下表给出各硬件的 VRAM 装机情况与每美元 tok/s（按 MSRP 标价）。估算基于显存带宽公式；有实测时以实测为准。详见方法论页。 方法论.

42 个硬件配置——按 tok/s 排序。默认装机上下文 8K。

装机核对

• RTX 5090 32GB — 装不下 · ≈91.7 tok/s Q4 估算
• RTX 3090 Ti 24GB — 装不下 · ≈29.0 tok/s Q4 估算
• RTX 4090 24GB — 装不下 · ≈29.0 tok/s Q4 估算
• RTX 6000 Ada 48GB — 装不下 · ≈110.5 tok/s Q4 估算
• RX 7900 XTX 24GB — 装不下 · ≈27.6 tok/s Q4 估算
• RTX 3090 24GB — 装不下 · ≈26.9 tok/s Q4 估算
• L40S 48GB — 装不下 · ≈99.5 tok/s Q4 估算
• Mac Studio M3 Ultra 96GB — 装得下 · ≈57.7 tok/s Q4 估算
• Mac Studio M2 Ultra 192GB — 装得下 · ≈56.3 tok/s Q4 估算
• RX 7900 XT 20GB — 装不下 · ≈16.0 tok/s Q4 估算

12 款热门零售 GPU；上表每行的「装得下？」结论同样链接到完整装机核对页。

同族模型：Poolside

全部 Poolside 模型 →