我国科学家发明混合并行新算法，训练 AI 速度近乎翻倍

2025-05-29 11:19:20

量子黑客

发布在

快讯

阅读：612

5月29日，我国科学家联合研发出混合并行新算法GroPipe，首次结合流水线模型并行与数据并行技术，使AI训练速度近乎翻倍。该算法由西北农林科技大学刘斌教授团队主导，与美国纽约州立大学及云南大学合作完成，相关论文发表于《IEEE Transactions on Computers》。研究针对大型深度卷积神经网络训练中的负载不平衡和通信开销问题，提出基于性能预测的自动模型分割算法，实现了计算资源的高效利用。实验显示，在8-GPU服务器上，GroPipe相比传统方法，在ImageNet数据集上的ResNet系列平均加速比达42.2%，VGG系列达79.2%，BERT-base模型提升最高达51%。

原文链接

本文链接：https://kx.umi6.com/article/19431.html

转载请注明文章出处

AI训练加速