跳至内容
返回时间线
AI 新闻·

Google 开源 TorchTPU,挑战 NVIDIA AI 生态主导地位

Google Cloud 宣布与 Meta 的 PyTorch 团队共同开发的 TorchTPU 已在 GitHub 开源,TPU 由此成为与 GPU、CPU 并列的 PyTorch 原生选项,现有代码几乎无需改动即可运行。vLLM、SGLang、llm-d、TorchTitan 等框架已接入,Hugging Face Transformers v5 可直接把模型部署到 TPU。

Google 开源 TorchTPU,挑战 NVIDIA AI 生态主导地位

Google Cloud 宣布与 Meta 的 PyTorch 团队共同开发的 TorchTPU 已在 GitHub 开源,TPU 由此成为与 GPU、CPU 并列的 PyTorch 原生选项,现有代码几乎无需改动即可运行。

vLLM、SGLang、llm-d、TorchTitan 等框架已接入,Hugging Face Transformers v5 可直接把模型部署到 TPU。

Google Cloud:TorchTPU is now open source

频道配图 1