跳到正文

Hugging Face 为 AWS Trainium 上的模型新增原生 TorchNeuron 支持

1篇报道 1个报道来源 21 小时前更新

先了解这件事

AI 综述

Hugging Face 已在 Transformers、Diffusers 和 Kernels 中新增对 TorchNeuron 的原生支持。TorchNeuron 是面向 AWS Trainium 的 PyTorch 后端,该后端于 2026 年 10 月 20 日进入公开测试阶段。Hugging Face 现在建议直接使用这些库,而不是 Optimum Neuron。 据 Hugging Face 称,Transformers 使用 TorchNeuron 开箱即支持最常用的 100 种文本生成模型架构中的 89%,而 Optimum Neuron v0.4.5 为 46%。其示例涵盖分布式推理、微调和图像生成。训练仍要求开发者管理形状并禁用异步权重加载。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月19日
  1. TorchNeuron 为 Hugging Face 模型在 AWS Trainium 上提供原生 PyTorch 支持

    Hugging Face 库现已支持 TorchNeuron,这是一款面向 AWS Trainium 的原生 PyTorch 后端,将于 2026 年 10 月 20 日进入公开测试版。Transformers 开箱即支持使用量最高的 100 种文本生成模型架构中的 89%,而 Optimum Neuron v0.4.5 为 46%。Hugging Face 建议直接使用其库,而不是 Optimum Neuron,并提供了涵盖分布式推理、微调和图像生成的示例;训练仍需管理张量形状并禁用异步权重加载。

明早 08:00 把这样一份日报发到你邮箱

和上面这份一样:几件值得看的事。免费,点确认信之后才会开始发送,每封信都能一键退订。 看一份往期日报

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。

继续阅读

最新日报 · 第 26 期VAST 开源 EdenLive 世界模型,720P 下生成速度超过 24FPS