在 10 月 20 日的 PyTorch Conference 2026 上,Google 宣布面向 Google TPU 的原生 PyTorch 棧 TorchTPU 已在 GitHub 開源。該棧與 Meta 的 PyTorch 團隊共同開發。有了 TorchTPU,TPU 與 GPU、CPU 一樣成為 PyTorch 的原生選項,現有負載可用盡量少的程式碼改動、沿用熟悉 API 遷移到 TPU。
開發者可先用 eager 模式除錯,再用 torch.compile 換到面向生產的 TPU 效能。PyTorch 部落格將 TorchTPU 描述為優先支援 eager 執行的原生後端,並與早期基於 Lazy Tensors 的 PyTorch on XLA 路徑對照。遷移時往往只需把裝置目標從 cuda 改成 tpu。Google 稱 TorchTPU 支援約 450 個 Aten 運算子,並在約 5,000 個下載量最高的 Hugging Face 模型上驗證了開箱可跑。
生態方面,Google 突出日常最相關的路徑:vLLM 與 SGLang 的原生 PyTorch 後端,以及 Hugging Face Transformers v5 透過裝置對應把模型放到 TPU。Diffusers 也被列為支援 eager、torch.compile 與張量並行的原生執行。此次開源意在讓 TPU 與 GPU、CPU 一樣,繼續作為 PyTorch 社群的一等選項。
