近日，蚂蚁集团Ling团队发布技术成果论文，推出两款MoE大语言模型：百灵轻量版（168亿参数）和百灵增强版（2900亿参数），性能达行业领先水平。论文最大亮点是提出创新方法，在国产GPU设备上高效训练3000亿参数MoE模型，其性能与使用英伟达芯片的同规模稠密或MoE模型相当。此研究展示了在资源受限环境下的AI开发新路径，具有重要技术突破。