Ornith 发布了 Ornith-1.5-122B,这是一个 122B 的混合专家(MoE)推理模型,权重以 MIT 许可开放。Ornith 在北京时间 10 月 20 日 22:36 于 X 上宣布,权重已放到 Hugging Face。
模型卡写明,这个模型用单张 80GB 显卡就能部署,在启动命令里加参数也可以拆到多张显卡上跑。X 上的发布帖把所需硬件写成单张 NVIDIA DGX。模型卡没有写每个 token 的激活参数量。
按模型卡的说法,模型的上下文窗口最多 262,144 tokens。任务更长时,Ornith 建议用 YaRN 缩放,系数设为 4.0 时可用窗口大约扩到 100 万 tokens;模型卡同时提醒,静态缩放可能让普通长度的输入质量略有下降。
这是一个推理模型,默认会先输出一段推理内容,再给出最终回答。模型卡要求的运行环境是 Transformers 5.8.1、vLLM 0.19.1、SGLang 0.5.9 或更新版本,示例里也有用 llama.cpp 和 Unsloth 加载 GGUF 版本的写法。
Ollama 在北京时间 10 月 20 日 23:22 宣布已上架这个模型,用 ollama run ornith-1.5:122b 这条命令就能在本地运行。
Ornith 自己公布的跑分表里,SWE-bench Verified 是 84.5,SWE-bench Pro 是 76.9,BrowseComp 是 78.5。这些都是 Ornith 的自测结果,没有经过第三方验证。模型卡说明,SWE-bench 用的是 OpenHands 测评框架,并加了防止奖励作弊的措施。
