Amazon SageMaker 训练会话 API 支持在托管 GPU 上运行自定义训练循环
Write your own training loop — without managing GPUs — with Amazon SageMaker training session APIs
- 谁
- Amazon Web Services
- 引文
Today, serverless model customization in Amazon SageMaker AI expands with training session APIs, which remove that tradeoff by drawing the abstraction boundary one level lower.
发生了什么
AWS 推出了 Amazon SageMaker AI 训练会话 API，开发者可以编写自定义 Python 训练循环，同时由服务管理 GPU 基础设施、分布式执行、故障恢复和检查点。费用按处理的 token 数计费，不包括本地计算奖励所花的时间。随附的 Cookbook 提供了 SFT 和 RL 配方，其中包括一个竞赛编程示例：经过 50 个训练步骤后，GPT-OSS 20B 在 200 道测试题上的留出集准确率从 40% 提升至 50.5%。
推荐理由
这些示例展示了如何将本地奖励逻辑与托管 GPU 操作分开，为自定义训练循环提供可复用的结构；按 token 计费，且不包括本地计算所花的时间。
接下来读什么
查看这件事的完整进展AWS 推出 SageMaker AI 训练会话，支持自定义模型训练循环2 篇报道
这件事到目前为止
AWS 已正式推出 SageMaker AI 训练会话 API，开发者可以编写自定义 Python 后训练循环，同时由该服务负责 GPU 分配、分布式执行、故障恢复和检查点存储。开发者可以控制损失函数和奖励信号。推出时，训练会话支持 gpt-oss-20b、gemma-4-31B-it、Qwen3.6-27B 和 Qwen3.8-27B。 AWS 按 SageMaker AI 处理的 token 数量计费；在开发者自己的环境中由奖励函数对一批数据评分期间，计费会暂停；开发者无需预留容量。配套的 cookbook 收录了监督微调和强化学习方案。在其竞赛编程示例中，AWS 报告称，经过 50 个训练步骤后，GPT-OSS 20B 在 200 道测试题上的留出准确率从 40% 提升至 50.5%。
每天一封，跟上 AI 的重要变化
模型发布、价格变化、算力进展，附原始来源。免费，确认后开始发送，随时一键退订。 看一份往期日报 · 2026-10-22