AWS 发布了一份演练指南，介绍如何使用 torchtitan 在单个 Trainium trn2.48xlarge 实例上训练 Qwen3，并提供三种训练配置以及加载和保存 Hugging Face 检查点的示例。这些配置分别使用 Transformers v5、torchtitan 原生的 Qwen3 实现和 NKI 混合专家内核，并采用相同的 torchrun 启动模式和配置结构。
该指南要求使用 AWS Deep Learning AMI for Neuron 或 Neuron PyTorch 训练容器。其 Qwen3-30B-A3B 示例将模型缩减为 4 层和 64 个专家，以便在单个 trn2.48xlarge 上运行。AWS 还演示了自定义内核注册和 autograd 集成，并明确说明该示例旨在演示集成，而非提升性能。
AI 根据报道生成 · 2 小时前更新
