Hugging Face 通过 TorchTPU 增加原生 TPU 支持

发生了什么

Hugging Face 宣布通过原生 PyTorch 后端 TorchTPU，为 Transformers、Diffusers 和 Kernels 提供原生 TPU 支持。模型可以使用 device_map="tpu" 或 pipe.to("tpu")，并可选择启用编译和分布式执行；Transformers 和 Diffusers 不再需要 Optimum TPU。Hugging Face 报告称，TPU 上运行的测试有 96.5% 通过，已报告的 34 个 TorchTPU 问题中有 19 个已修复。

这件事到目前为止

Hugging Face 通过原生 PyTorch 后端 TorchTPU，为 Transformers、Diffusers 和 Kernels 添加了全面的 TPU 原生支持。使用 Optimum TPU 在 TPU 上运行 Transformers 和 Diffusers 模型不再是必需的。模型可通过 device_map="tpu" 或 pipe.to("tpu") 指定使用该硬件，并可选择启用编译和分布式执行。 Hugging Face 报告称，TPU 上运行的测试有 96.5% 通过；已报告的 34 个 TorchTPU 问题中，已有 19 个修复。

继续阅读

正在热议

1. 1DeepSeek 开源 DeepInfer 及配套组件，但模型和硬件支持有限
2. 2Mistral 发布 Voxtral 3 语音模型、语音代理 API 和基于 LiveKit 的 SDK
3. 3Perplexity 为 Computer 增添完全本地化的 Mac 运行能力
4. 4研究人员发现链接泄露敏感信息后，Meta暂停Muse对话分享功能