ModelBestとOpenBMBコミュニティが、オープンな多モーダルモデルMiniCPM-V 4.7を公開しました。サイズは2つで、35BのMoE（混合エキスパート）モデル「35B-A3B」と、小型の1Bモデルです。どちらも画像、文書、グラフ、動画を扱え、重みはすでにHugging Faceに上がっていて、GGUF、FP8、AWQ、GPTQ、int4版もそろっています。

注目は35Bモデルです。1トークンあたりに活性化するのは約30億パラメータだけで、エキスパートの大半は端末のストレージに置いたまま、必要なときに読み込みます。ModelBestはこれで、約3GBのメモリでiOSやAndroid上で動くとしています。同社の数字では、iPhone 17 Pro Maxで毎秒13トークン超、16GBのiPad Pro M4で毎秒17トークン超です。支えているのはLookahead Expert Schedulingという仕組みで、次の層が必要とするエキスパートを予測し、いまの層の計算中に読み込んでおきます。最終的な選択は元のルーターが行うため、この仕組みの有無で出力は変わりません。層ごとの量子化やエキスパートの連続配置と組み合わせることで、iPad Proでの平均生成速度が約5倍になったと同社は説明しています。1BモデルはMiniCPM-V 4.6をベースにしていて、手頃な入門機向けです。

チップの対応は初日から用意されています。ModelBestが挙げているのはAMD、Apple、Arm、Houmo AI、Intel、Rockchip、NVIDIA。さらにFlagOSのソフトウェアスタック経由で、CIX Technology、Huawei、Hygon、Iluvatar CoreX、Kunlunxin、MetaX、Moore Threads、Sunrise、T-Head、TsingMicroのチップにも対応しています。

重みもコードもApache-2.0なので、商用利用に別途ライセンスは要りません。プロジェクト側は任意の登録フォームへの記入をお願いしているだけです。