华为云新一代昇腾 AI 云服务全面上线：首创将 384 颗昇腾 NPU 和 192 颗鲲鹏 CPU 全对等互联

2025-06-20 17:03:02

阿达旻

发布在

快讯

阅读：334

6月20日，在华为开发者大会2025（HDC 2025）上，华为云宣布基于CloudMatrix384超节点的新一代昇腾AI云服务全面上线。该服务首次实现384颗昇腾NPU与192颗鲲鹏CPU全对等互联，形成超强“AI服务器”。单卡推理吞吐量达2300 Tokens/s，支持混合专家MoE大模型推理，一个超节点可支持384个专家并行推理，算力使用率提升50%以上。超节点还可级联至最高16万卡的超大集群，支持训推算力一体部署。目前，昇腾AI云服务已为1300多家客户提供算力支持，新浪、硅基流动、面壁智能等企业均采用该服务优化AI推理与训练。此外，中国科学院利用该技术构建AI for Science科研大模型，摆脱对外部平台依赖。

原文链接

本文链接：https://kx.umi6.com/article/20538.html

转载请注明文章出处

CloudMatrix384