Google lanza TorchTPU, un backend nativo de pytorch para tpus en la nube

Google ha lanzado TorchTPU, un backend nativo de PyTorch para TPUs en la nube, desarrollado en colaboración con el equipo de PyTorch de Meta y anunciado en la PyTorch Conference 2026 el 20 de octubre de 2026. La herramienta reemplaza a PyTorch/XLA y se recomienda para todas las nuevas cargas de trabajo. TorchTPU permite que los modelos de PyTorch se ejecuten de forma nativa en TPUs, con tensores que funcionan como tensores estándar de PyTorch sin subclases ni envoltorios. Admite un proceso por dispositivo y preserva las vistas de tensores y las mutaciones in situ. TorchTPU introduce tres modos eager, con el modo de velocidad máxima utilizando `torch.compile(backend="tpu")` para capturar gráficos con TorchDynamo y reducirlos a través de StableHLO a OpenXLA, emitiendo código de máquina para TPU. También admite kernels personalizados de Pallas y kernels preconstruidos de Tokamax y Helion. El framework de distribución utiliza el grupo de procesos `tpu_dist`, que admite DDP, FSDP2 y DTensor con una malla con topología para las interconexiones de TPU.