AWS 宣布推出 SOCI 索引镜像，加快 SageMaker AI 作业运行

发生了什么

AWS 宣布在所有 AWS 区域为 Amazon SageMaker AI 训练和处理作业提供 SOCI 索引功能，使容器镜像能够按需延迟加载。根据 AWS 的基准测试，容器就绪耗时为 3–11 秒；尽管首个 epoch 多耗时 3–16 秒，训练作业仍提前 1–6 分钟完成。用户可以选择预先建立索引的 Deep Learning Containers，也可以为自定义镜像建立索引；延迟加载要求使用 Amazon ECR 私有存储库。

接下来读什么

• 今日还有哪些重要变化GPT-6.1 Terra 正式发布

这件事到目前为止

AWS已在所有AWS区域推出适用于Amazon SageMaker AI训练和处理作业的可寻址OCI（SOCI）索引，使符合条件的容器映像可以按需加载，而无需在作业开始前完整下载。用户可以选择预先建立索引的深度学习容器（Deep Learning Containers），也可以为自己的映像建立索引。按需加载要求映像存储在Amazon ECR私有存储库中；存储在其他注册表中的映像，或通过将TrainingRepositoryAccessMode设为Vpc来访问的私有Docker注册表中的映像，均不符合条件。 在AWS基准测试中，容器在3–11秒内即可就绪，训练作业提前1–6分钟完成，尽管首次训练迭代额外耗时3–16秒。