2026 年 11 月 16 日,Vercel 在官方更新日志发布公告《AI Gateway now supports Private Inference》(配套技术文档页脚标注最近更新于 2026 年 9 月 16 日),宣布 Vercel AI Gateway 正式支持 Private Inference,使团队能够将自托管、微调或预发布私有模型端点直接接入网关。
Private Inference 核心机制与兼容性
接入自有端点(区别于 BYOK):与仅为网关既有支持厂商提供自带密钥的 BYOK 不同,Private Inference 允许团队向网关注册原本不在公开目录中的私有端点与模型。注册后的私有模型作用域仅限于所属 Vercel 团队内部,不会出现在公开模型目录或 /v1/models 列表中,但可与公开目录模型共用同一套认证、SDK 与 API 接口以及可观测性监控(亦支持通过 Vercel CLI 65.16.0 及以上版本注册,并在 Claude Code、Codex、Cursor 等已接入 AI Gateway 的编程智能体中使用)。
调用前缀与兼容协议格式:调用私有模型时只需在模型 slug 前加上 private/ 前缀。目前支持四类兼容 API 协议格式:OpenAI Chat Completions、OpenAI Responses、Open Responses 以及 Anthropic Messages。
配额上限、计费规则与团队权限
端点要求、数量上限与 Credits 余额条件:注册的私有端点必须为可公网访问的 HTTPS 地址,每个 Vercel 团队最多可配置 25 个 private providers 与 100 个 private models。发起私有模型请求时,账户必须已购买 AI Gateway Credits 且可用余额为正,否则请求将失败。
列表定价与目录模型回退(Fallback)规则:据文档说明,默认情况下仅对「只指定私有模型、因而没有 Vercel 托管目录模型回退」的请求按列表价每 1,000 次请求收取 0.20 美元(即 100 万次计费请求为 200 美元,适用于各套餐列表价,企业团队可联系销售定制费率);若请求链中包含目录模型作为 fallback 且开启了 Fallback to Vercel Keys(默认开启),则不收取该项费用。权限方面,所有团队成员均可查看私有配置,而创建、编辑、删除及开启 Zero Data Retention 需具备 Member 或 Owner 角色。
