在 10 月 20 日的 PyTorch Conference 2026 上,Google 宣布面向 Google TPU 的原生 PyTorch 栈 TorchTPU 已在 GitHub 开源。该栈与 Meta 的 PyTorch 团队共同开发。有了 TorchTPU,TPU 与 GPU、CPU 一样成为 PyTorch 的原生选项,现有负载可用尽量少的代码改动、沿用熟悉 API 迁移到 TPU。

开发者可先用 eager 模式调试,再用 torch.compile 换到面向生产的 TPU 性能。PyTorch 博客将 TorchTPU 描述为优先支持 eager 执行的原生后端,并与早期基于 Lazy Tensors 的 PyTorch on XLA 路径对照。迁移时往往只需把设备目标从 cuda 改成 tpu。Google 称 TorchTPU 支持约 450 个 Aten 算子,并在约 5,000 个下载量最高的 Hugging Face 模型上验证了开箱可跑。

生态方面,Google 突出日常最相关的路径:vLLM 与 SGLang 的原生 PyTorch 后端,以及 Hugging Face Transformers v5 通过设备映射把模型放到 TPU。Diffusers 也被列为支持 eager、torch.compile 与张量并行的原生运行。此次开源意在让 TPU 与 GPU、CPU 一样,继续作为 PyTorch 社区的一等选项。