百度开源大模型训练框架LoongForge
推荐指数 73.0 NO. 003 · 2026.04.29
Stars149创建5 天前Forks15Issues19
为什么值得看
基于Megatron-LM增强的模块化训练框架，支持语言、多模态和具身模型的预训练与SFT。大厂基建开源化加速，自训模型的团队可直接复用百度内部验证过的工程方案。
A modular, scalable, and highly efficient training framework for language, multimodal, and embodied models.
编辑判断
国内大厂训推框架开源已成趋势，阿里有PAI-Megatron-Patch，华为有MindSpeed，百度此时放出LoongForge+LoongFlow组合，明显是在抢生态位。跟阿里方案比，LoongForge对多模态和具身模型的原生支持更完整，不是后期补丁；跟纯社区方案如Hugging Face的nanotron比，稳定性经过内部大规模验证是核心卖点。
正在自研基础模型或垂直领域大模型的团队，如果当前基于原生Megatron-LM且维护成本高，可以评估迁移成本。149 star还处早期，但百度内部已跑通，意味着issue响应和文档完善速度会快于纯社区项目。
Star History
