Ornith が Ornith-1.5-122B を MIT ライセンスのオープンウェイトで公開した

Ornith は 122B の Mixture of Experts 推論モデル Ornith-1.5-122B を、MIT ライセンスのオープンウェイトで公開した。北京時間 10 月 20 日 22:36 に X で発表し、重みを Hugging Face で公開している。

モデルカードによると、このモデルは 80GB の GPU 1 枚で動かせ、起動コマンドにオプションを加えれば複数の GPU に分散することもできる。X の発表では、必要なハードウェアを NVIDIA DGX 1 台と表現している。トークンあたりのアクティブパラメータ数はモデルカードに記載がない。

コンテキストは最大 262,144 トークンとモデルカードに書かれている。それを超える作業には YaRN によるスケーリングを勧めており、係数 4.0 で約 100 万トークンまで広がるとしている。ただし静的なスケーリングは通常の長さの入力で品質をわずかに下げることがあるとも注記している。

推論モデルのため、既定では回答の前に推論ブロックが出力される。必要な実行環境は Transformers 5.8.1、vLLM 0.19.1、SGLang 0.5.9 以降とされ、llama.cpp や Unsloth で GGUF 版を読み込む例も載っている。

Ollama は北京時間 10 月 20 日 23:22、このモデルが Ollama で使えるようになったと発表した。ollama run ornith-1.5:122b というコマンドでローカルで起動できる。

Ornith が自社で測ったベンチマーク表では、SWE-bench Verified が 84.5、SWE-bench Pro が 76.9、BrowseComp が 78.5 となっている。いずれも Ornith 自身の結果で、第三者による検証はされていない。SWE-bench は OpenHands の評価環境を使い、報酬ハッキングへの対策をかけて測ったとモデルカードは説明している。