跳到正文

Hugging Face 通过 TorchTPU 为 TPU 添加原生 PyTorch 支持

1篇报道 1个报道来源 19 小时前更新

先了解这件事

AI 综述

Hugging Face 通过原生 PyTorch 后端 TorchTPU,为 Transformers、Diffusers 和 Kernels 添加了全面的 TPU 原生支持。使用 Optimum TPU 在 TPU 上运行 Transformers 和 Diffusers 模型不再是必需的。模型可通过 device_map="tpu" 或 pipe.to("tpu") 指定使用该硬件,并可选择启用编译和分布式执行。 Hugging Face 报告称,TPU 上运行的测试有 96.5% 通过;已报告的 34 个 TorchTPU 问题中,已有 19 个修复。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. Hugging Face 通过 TorchTPU 增加原生 TPU 支持

    Hugging Face 宣布通过原生 PyTorch 后端 TorchTPU,为 Transformers、Diffusers 和 Kernels 提供原生 TPU 支持。模型可以使用 device_map="tpu" 或 pipe.to("tpu"),并可选择启用编译和分布式执行;Transformers 和 Diffusers 不再需要 Optimum TPU。Hugging Face 报告称,TPU 上运行的测试有 96.5% 通过,已报告的 34 个 TorchTPU 问题中有 19 个已修复。

明早 08:00 把这样一份日报发到你邮箱

和上面这份一样:几件值得看的事。免费,点确认信之后才会开始发送,每封信都能一键退订。 看一份往期日报

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。

继续阅读

最新日报 · 第 27 期TorchNeuron 为 AWS Trainium 上的 Hugging Face 模型带来原生 PyTorch 支持

正在热议

  1. 1DeepSeek 开源 DeepInfer 及配套组件,但模型和硬件支持有限
  2. 2Mistral 发布 Voxtral 3 语音模型、语音代理 API 和基于 LiveKit 的 SDK
  3. 3Perplexity 为 Computer 增添完全本地化的 Mac 运行能力
  4. 4研究人员发现链接泄露敏感信息后,Meta暂停Muse对话分享功能