AI2 发布 Olmo-core 3:面向大型 MoE 的开源可扩展训练基础设施
Introducing Olmo-core 3: Open, scalable training infrastructure for large MoEs
- 谁
- hugging-face
- 做了什么
- 发布Olmo-core 3 开源 MoE 训练基础设施
- 时间
发生了什么
AI2 发布 Olmo-core 3,这是其大语言模型开发框架的一次重要升级,重新设计了开放的 MoE 训练系统,目标是把 MoE 训练扩展到万亿参数级别并保持计算效率。
推荐理由
原文给出了 MoE 训练栈的吞吐与显存对比数据,读者可据此判断大规模 MoE 训练的成本变化。
继续阅读
最新日报 · 第 24 期NVIDIA 与 AI4Bharat 推出 Nemotron-pretraining-Indic-v1 及开放数据生成流水线正在热议
明早 08:00 把这样一份日报发到你邮箱
和上面这份一样:几件值得看的事。免费,点确认信之后才会开始发送,每封信都能一键退订。 看一份往期日报 · 2026-10-17
