华为通过“昇腾+Pangu Ultra MoE”组合,实现国产算力与模型全流程自主可控。该准万亿参数(7180亿)大模型仅需2秒即可解一道高数大题。团队采用智能并行优化、通信去冗余及全局负载均衡等技术,提升集群效率,实现41%的MFU。在后训练阶段,通过训推共卡技术和准异步机制,吞吐达35K Tokens/s,支持超4K卡集群扩展。此系统兼容MindSpeed、Megatron等框架,具备高泛化性和扩展性,标志着昇腾在超节点集群训练上的突破。
原文链接
本文链接:https://kx.umi6.com/article/19498.html
转载请注明文章出处
相关推荐
换一换
杭州“十五五”规划建议:实施大模型前沿技术攻关和高端芯片、基础软件、模型算法等研发计划 建设人工智能开源社区
2026-01-16 11:34:57
全球首份大模型业绩报!MiniMax预判2026三大超级PMF,AI平台公司启程了
2026-03-03 11:54:49
Manus救不了Meta
2026-01-08 20:35:12
华为升级行业Agent算法架构!MindScale自己写prompt和工作流,KV Cache减少5.7倍token
2026-02-12 19:38:21
智谱、MiniMax争夺「大模型第一股」
2025-12-24 10:30:23
小红书大模型IMO满分夺金,第三题解法让冠军选手直呼优雅
2026-07-22 08:44:40
华为更新韬定律论文!
2026-07-05 21:53:28
天天卖断货的GLM-5.2 用起来到底值不值
2026-06-18 07:16:32
大模型的尽头 怎么是费大厨辣椒炒肉?
2026-05-24 15:42:37
北京备案大模型达225款 占全国总量约三成
2026-04-22 20:27:12
华为发布AI-OTN解决方案:加速AI业务规模化普及
2026-07-02 19:21:16
Kimi即将推出新一代万亿大模型:开源王者刷新 去年已超GPT5
2026-01-20 22:33:50
荣膺2026 WAIC“镇馆之宝”!大模型原生智能体手机STEPX Neo解锁AI交互新范式
2026-07-15 14:59:25
789 文章
867767 浏览
24小时热文
更多
-
2026-07-24 00:15:46 -
2026-07-24 00:14:08 -
2026-07-24 00:12:30