面壁智能(ModelBest)和 OpenBMB 社群發布了開源多模態模型 MiniCPM-V 4.7,分兩個尺寸:一個是 35B 的混合專家模型 35B-A3B,一個是 1B 的小模型。兩者都能看圖片、文件、圖表和影片,權重已經放上 Hugging Face,GGUF、FP8、AWQ、GPTQ、int4 這些量化版也都有。

值得看的是 35B 這個。它每個 token 只啟用約 30 億參數,大部分專家放在裝置儲存空間裡,用到時再載入。面壁說這樣大約 3GB 記憶體就能在 iOS 和 Android 上跑。按官方給的數字,iPhone 17 Pro Max 上每秒 13 個 token 以上,16GB 的 iPad Pro M4 上每秒 17 個以上。背後靠的是他們稱為 Lookahead Expert Scheduling 的做法:提前預測下一層要用哪些專家,趁當前層還在計算就先載入。最終選哪些專家仍由原本的路由決定,所以開不開這個機制,輸出都一樣。面壁說,它和逐層量化、專家連續儲存一起用,讓 iPad Pro 上的平均生成速度提高約 5 倍。1B 模型在 MiniCPM-V 4.6 的基礎上改進,面向較便宜的入門裝置。

晶片支援在發布當天就到位。面壁列出的有 AMD、Apple、Arm、後摩智能、Intel、瑞芯微和 NVIDIA;另外透過 FlagOS 軟體堆疊,還支援此芯科技、華為、海光、天數智芯、崑崙芯、沐曦、摩爾線程、Sunrise、平頭哥和清微智能的晶片。

權重和程式碼都是 Apache-2.0,商用不需要另外申請授權,專案方只是請使用者自願填一份登記問卷。