5月7日消息,腾讯技术团队对DeepSeek开源的DeepEP通信框架进行了深度优化,大幅提升了其性能。优化后,在RoCE网络环境下性能提升100%,IB网络环境下提升30%。DeepEP专为专家混合(MoE)和专家并行(EP)设计,具备高吞吐量和低延迟特性,并支持FP8低精度运算。腾讯星脉网络团队通过解决双端口网卡带宽利用率低及CPU控制面交互时延两大问题实现了这一突破。优化成果已全面开源,并成功应用于腾讯混元大模型的训练推理中,展现了良好的通用性。DeepSeek对此表示公开致谢。
原文链接
本文链接:https://kx.umi6.com/article/18264.html
转载请注明文章出处
相关推荐
换一换
榨干每一块GPU,DeepSeek开源第二天,送上降本增效神器
2025-02-25 16:02:59
DeepSeek开源第二弹,为MoE和EP量身定制的通信库!暂和英伟达显卡绑定
2025-02-25 11:49:28
DeepSeek扔的第二枚开源王炸到底是什么?
2025-02-25 20:07:11
华泰证券:DeepEP开源有望释放推理需求 关注应用与算力
2025-03-03 09:14:06
DeepSeek 开源进度 2/5:首个用于 MoE 模型训练和推理的 EP 通信库 DeepEP
2025-02-25 11:53:00
DeepSeek开源第一个用于混合专家模型训练和推理的高效专家并行通信库
2025-02-25 12:00:43
黄仁勋高情商表态:开源AI会让美国更安全 AI竞赛中美都会赢
2026-07-22 22:18:04
Utopai PAI 2.0出圈 好莱坞顶流导演用AI拍出3分钟大片!
2026-07-20 23:38:15
国内首个!阿里健康氢离子达成NEJM、JAMA、BMJ三大医学顶刊内容合作
2026-07-21 15:10:45
蚂蚁集团、阿里云等正式加入PyTorch基金会,携手全球开源力量推动AI普惠
2026-07-20 13:09:45
苏度 WAIC 首秀:从1到10+技能跃迁,探索通用机器人 Scaling 路径
2026-07-19 15:24:53
科大讯飞发布星火Token Factory,打造企业级AI模型智能路由与治理新底座
2026-07-23 10:39:49
小红书大模型IMO满分夺金,第三题解法让冠军选手直呼优雅
2026-07-22 08:44:40
723 文章
777455 浏览
24小时热文
更多
-
2026-07-24 10:33:39 -
2026-07-24 10:31:58 -
2026-07-24 10:29:19