模型情報.
追蹤變化,讀懂每一次更新。
NVIDIA NIM for LLM/VLM 2.1.6 上線:五款模型進入主線容器,後端升級至 vLLM 0.32.0 與 SGLang 0.5.22
NVIDIA 推出 NIM for LLM/VLM 2.1.6 運行時與容器更新(2026 年 11 月 14 日)。新版本將底層推理引擎升級至 vLLM 0.32.0 與 SGLang 0.5.22,將 deepseek-v4.1-flash、inkling-small、muse-glimmer、nemotron-3.5-super-vl-120b-a12b 與 qwen3.8-27b 納入主線容器支援,新增重啟運行時清單快取與可選啟動預熱請求,並修復跨鏡像 99 項安全漏洞。
最新文章03
最新發布NVIDIA NIM for LLM/VLM 2.1.6 上線:五款模型進入主線容器,後端升級至 vLLM 0.32.0 與 SGLang 0.5.22
NVIDIA 推出 NIM for LLM/VLM 2.1.6 運行時與容器更新(2026 年 11 月 14 日)。新版本將底層推理引擎升級至 vLLM 0.32.0 與 SGLang 0.5.22,將 deepseek-v4.1-flash、inkling-small、muse-glimmer、nemotron-3.5-super-vl-120b-a12b 與 qwen3.8-27b 納入主線容器支援,新增重啟運行時清單快取與可選啟動預熱請求,並修復跨鏡像 99 項安全漏洞。
NVIDIA 開源 Nemotron 3.5 Transcribe 權重
NVIDIA 於 2026 年 10 月 28 日開源 Nemotron 3.5 Transcribe 權重(Hugging Face ID nvidia/NVIDIA-Nemotron-3.5-Transcribe-30B-A4B)。離線語音/音訊模型,約 40 種語言,支援說話人歸屬轉寫、翻譯與音訊問答等;錄音最長約 1 小時,上下文 65,536 tokens;授權 OpenMDW-1.1。帳號自報 Open ASR English 5.33%;HF 卡九集均值 4.71%,口徑不同。Artificial Analysis 稱 AA-WER 2.8%(第三方,未複測)。僅供參考。
Nemotron 3.5 Super VL 和 Bolt:規格、授權、24GB 就能跑
NVIDIA 於 10 月 15 日開源 Nemotron 3.5 Super VL(120B MoE,啟用 12B,1M 上下文,含視覺)與從它壓縮出的 Bolt 74B(啟用 9B,原生 2-bit,約 24GB,仍可輸入圖片/影片)。10 月 23 日又放出 Bolt E4B:基於 Gemma 4 E4B 後訓練,總參 8B/有效 4B,文字進文字出,64K 上下文。名稱裡的「4GB」是目標負載記憶體定位,不等於 Q4_K_M 權重檔約 6.18GB,也不是把 74B Bolt 再壓小。