目次

NVIDIA は LLM/VLM 向け推論コンテナ「NVIDIA NIM」の 2.1.6 リリースを公開した(2026年11月14日付)。推論バックエンドが vLLM 0.32.0 と SGLang 0.5.22 へアップグレードされ、モデル専用コンテナおよび Model-free コンテナの双方が更新されている。

初のメインライン版となった5モデルと汎用コンテナ検証

これまで個別の variant コンテナ(2.1.4-variant 等)でのみ提供されていた5モデルが、本バージョンで初のメインラインリリース(first main release)に移行した。また Model-free コンテナでは kimi-k3、minimax-m3、qwen3.8-flash-next(vLLM)、および glm-5.3-flash(SGLang)の動作検証が完了している。

SGLang バックエンド採用のメインラインモデル:deepseek-v4.1-flash(プロファイル接頭辞が vllm- から sglang- へ変更)、inkling-small(同様に sglang- へ変更)、および muse-glimmer の3モデル。

vLLM バックエンド採用のメインラインモデル:nemotron-3.5-super-vl-120b-a12b および qwen3.8-27b の2モデル。

起動キャッシュ・ウォームアップ機能とセキュリティ修正

ランタイムマニフェストのキャッシュ化:NIM_MODEL_PATH に ngc:// や hf:// などのリモート URI を指定した場合、初回起動時に NIM_CACHE_PATH 内へマニフェスト(nim_runtime_manifest.key.json を含む)を保存し、同一環境での再起動時に再利用してネットワーク・認証処理を省略する。

オプションの起動ウォームアップ(NIM_STARTUP_WARMUP):環境変数 NIM_STARTUP_WARMUP に 1 / true / yes を明示設定した場合(デフォルトは無効)、バックエンド起動後に短いチャットリクエストを実行してから ready 状態を報告する。

99件のセキュリティ脆弱性修正:vLLM と SGLang 両イメージ合わせて99件(Critical 10件、High 30件、Medium 45件、Low 14件)のセキュリティ問題が修正された(vLLM イメージでの Pillow 13.0.0・nginx 1.31.7 への更新および TLS/mTLS 関連の CVE-2026-97629 修正を含む)。

運用上の確認事項

GPU 構成ごとの制限は公式サポートマトリクスを参照:本更新はコンテナランタイムのアップデートであり、対応 GPU や量子化形式の個別条件(vLLM model-free 上での kimi-k3 の GB300 限定など)は公式サポートマトリクスおよび Known Issues の確認が必要となる。