模型情报.
追踪变化,读懂每一次更新。
NVIDIA NIM for LLM/VLM 发布 2.1.6:五款模型进入主线容器,后端升级至 vLLM 0.32.0 与 SGLang 0.5.22
NVIDIA 发布 NIM for LLM/VLM 2.1.6 运行时与容器更新(2026 年 11 月 14 日)。新版本将底层推理引擎升级至 vLLM 0.32.0 与 SGLang 0.5.22,将 deepseek-v4.1-flash、inkling-small、muse-glimmer、nemotron-3.5-super-vl-120b-a12b 与 qwen3.8-27b 纳入主线容器支持,新增重启运行时清单缓存与可选启动预热请求,并修复跨镜像 99 项安全漏洞。
最新文章03
最新发布NVIDIA NIM for LLM/VLM 发布 2.1.6:五款模型进入主线容器,后端升级至 vLLM 0.32.0 与 SGLang 0.5.22
NVIDIA 发布 NIM for LLM/VLM 2.1.6 运行时与容器更新(2026 年 11 月 14 日)。新版本将底层推理引擎升级至 vLLM 0.32.0 与 SGLang 0.5.22,将 deepseek-v4.1-flash、inkling-small、muse-glimmer、nemotron-3.5-super-vl-120b-a12b 与 qwen3.8-27b 纳入主线容器支持,新增重启运行时清单缓存与可选启动预热请求,并修复跨镜像 99 项安全漏洞。
NVIDIA 开源 Nemotron 3.5 Transcribe 权重
NVIDIA 于 2026 年 10 月 28 日开源 Nemotron 3.5 Transcribe 权重(Hugging Face ID nvidia/NVIDIA-Nemotron-3.5-Transcribe-30B-A4B)。离线语音/音频模型,约 40 种语言,支持说话人归属转写、翻译与音频问答等;录音最长约 1 小时,上下文 65,536 tokens;许可 OpenMDW-1.1。官号自报 Open ASR English 5.33%;HF 卡九集均值 4.71%,口径不同。Artificial Analysis 称 AA-WER 2.8%(第三方,未复测)。仅供参考。
Nemotron 3.5 Super VL 和 Bolt:参数、许可、24GB 就能跑
NVIDIA 于 10 月 15 日开源 Nemotron 3.5 Super VL(120B MoE,激活 12B,1M 上下文,含视觉)与从它压缩出的 Bolt 74B(激活 9B,原生 2-bit,约 24GB,仍可输入图片/视频)。10 月 23 日又放出 Bolt E4B:基于 Gemma 4 E4B 后训练,总参 8B/有效 4B,文本进文本出,64K 上下文。名称里的「4GB」是目标负载内存定位,不等于 Q4_K_M 权重文件约 6.18GB,也不是把 74B Bolt 再压小。