Hugging Face Blog·· 7 小时前精选AI 评分60
AI2 发布 Olmo-core 3：面向大规模 MoE 的开源训练框架
Introducing Olmo-core 3: Open, scalable training infrastructure for large MoEs
AI 导读
AI2 发布 Olmo-core 3，重新设计了开源 MoE 训练系统，可扩展到万亿参数级，并作为下一代 Olmo 模型的核心训练基础设施。
推荐理由
原文给出了具体吞吐对比和扩展技术细节，开发者可据此评估这套开源 MoE 训练栈能否用于自己的场景。
来源：Hugging Face Blog · huggingface.co