Ornith

Ornith 是 DeepReinforce 推出的开源权重模型族，2026 年首次发布。产品线非常清爽：Ornith 1.0 系列下只有两款——日常主力 dense 9B，以及每 token 只激活 3B 参数的 35B MoE。两款都标配 256K 上下文和宽松的 MIT 许可，自托管、微调、商用都没有障碍。

这个族在本地 LLM 社区的走红点很清晰：用消费级硬件跑超长上下文。9B 在中端显卡上就能跑得很舒服；MoE 版本则以 dense 3B 级别的速度，给出大得多的总参数量——当然 VRAM 占用也得按总量算。下面按尺寸从小到大逐款点评，并附上 Q4 的 VRAM 账目，买卡前先算清楚再下载。

尺寸梯度

• Ornith-1.0-9B（9B dense）— Q4 权重约 4.95 GB，默认 8K 上下文下总需求约 7.75 GB，任何 12GB 显卡（RTX 3060 12GB、RTX 4070 级别）都绰绰有余；上 16GB 卡还能留出拉长上下文的余量。
• Ornith-1.0-35B（35B 总参 / 3B 激活 MoE，256 个专家、每 token 选 8 个）— Q4 权重约 19.25 GB，8K 上下文下总需求约 20.9 GB，24GB 显卡（RTX 3090 / 4090）是现实的起步档。Q4 想塞进 16GB 是不可能的，别折腾。

FP16 呢？

不量化的话，FP16 权重直接按总参数算：9B 约 18 GB，24GB 卡刚好兜住；35B MoE 约 70 GB，得进 96GB 档（双 48GB 卡或工作站级 GPU）。对大多数人来说，两款模型的甜点都在 Q4。

这个族的几个亮点

• 256K 上下文：两个尺寸都有，在这个参数量级很少见，喂文档问答、喂代码库都很香。但要注意 KV cache 随上下文增长——我们的估算按 8K 算，真要用 64K+ 的窗口得额外预留 VRAM。
• MoE 的速度魔法：35B 每 token 只激活 3B 参数，tok/s 更接近小 dense 模型，而不是 dense 35B。代价是全部 35B 参数都得驻留显存——省的是算力，不是显存。
• MIT 许可：没有需要法务逐字推敲的使用限制，商用随便用。
• GGUF 是社区主流格式，llama.cpp / Ollama / LM Studio 都能开箱即用。

怎么选

• 12GB VRAM（RTX 3060 12GB、4070）： 直接上 9B Q4，省心之选——装完还剩约 4GB 余量，够你把上下文拉到 8K 以上。
• 16GB VRAM（RTX 4060 Ti 16GB、4080 16GB）： 9B 在这档毫无压力，长上下文也从容。但 35B MoE 的 Q4（约 21GB）塞不进来，这档就安心用 9B。
• 24GB VRAM（RTX 3090 / 4090）： 这个族开始有看头了——35B MoE Q4 刚好装下还剩几 GB 余量，等于用约 3B 级别的速度跑 35B 的知识量。9B 也可以直接 FP16。
• 48GB（RTX A6000、双 24GB）： 35B 上更高位量化（Q6/Q8）或超长上下文都很从容。
• 96GB 及以上： 35B MoE 直接 FP16，或者两款模型同时常驻做路由。

一句话总结： 12–16GB 的话，Ornith 就是那颗 9B——稳、上下文长、日常够用；而 35B MoE 就是 2026 年买 24GB 卡的理由。

相关链接

• Ornith-1.0-9B — 详细 VRAM 与 tok/s 估算
• Ornith-1.0-35B — 详细 VRAM 与 tok/s 估算
• Ornith 家族最佳显卡
• 指南：本地 LLM 到底需要多少 VRAM
• 指南：LLM 量化详解
• Ornith-1.0-9B · Hugging Face
• Ornith-1.0-35B · Hugging Face