2026 年 11 月 16 日,Vercel 在官方更新日誌刊出公告《AI Gateway now supports Private Inference》(配套技術文檔頁腳標註最近更新於 2026 年 9 月 16 日),宣布 Vercel AI Gateway 正式支援 Private Inference,使團隊能夠將自託管、微調或預發私有模型端點直接接入網關。

Private Inference 核心機制與兼容性

接入自有端點(區別於 BYOK):與僅為網關既有支援廠商提供自帶密鑰的 BYOK 不同,Private Inference 允許團隊向網關註冊原本不在公開目錄中的私有端點與模型。註冊後的私有模型作用域僅限於所屬 Vercel 團隊內部,不會出現在公開模型目錄或 /v1/models 列表中,但可與公開目錄模型共用同一套認證、SDK 與 API 介面以及可觀測性監控(亦支援透過 Vercel CLI 65.16.0 及以上版本註冊,並在 Claude Code、Codex、Cursor 等已接入 AI Gateway 的編程智能體中使用)。

呼叫前綴與兼容協議格式:呼叫私有模型時只需在模型 slug 前加上 private/ 前綴。目前支援四類兼容 API 協議格式:OpenAI Chat Completions、OpenAI Responses、Open Responses 以及 Anthropic Messages。

配額上限、收費規則與團隊權限

端點要求、數量上限與 Credits 餘額條件:註冊的私有端點必須為可公網訪問的 HTTPS 地址,每個 Vercel 團隊最多可設定 25 個 private providers 與 100 個 private models。發起私有模型請求時,賬戶必須已購買 AI Gateway Credits 且可用餘額為正,否則請求將失敗。

列表定價與目錄模型回退(Fallback)規則:據文檔說明,預設情況下僅對「只指定私有模型、因而沒有 Vercel 託管目錄模型回退」的請求按列表價每 1,000 次請求收取 0.20 美元(即 100 萬次計費請求為 200 美元,適用於各套餐列表價,企業團隊可聯繫銷售定制費率);若請求鏈中包含目錄模型作為 fallback 且開啟了 Fallback to Vercel Keys(預設開啟),則不收取該項費用。權限方面,所有團隊成員均可檢視私有設定,而建立、編輯、刪除及開啟 Zero Data Retention 需具備 Member 或 Owner 角色。