华为昇腾在推理DeepSeek V3/R1模型上的性能创新高，单卡decode吞吐达1920 Tokens/s，全面超越英伟达Hopper架构。华为通过‘以数学补物理’的方法，优化硬件与算法，解决超大规模MoE模型的内存压力、通信开销及架构复杂性等问题。昇腾推出了CloudMatrix 384超节点和Atlas 800I A2服务器，分别实现50ms和100ms时延下的高效推理。团队还开源了相关技术报告与代码，推动大模型推理技术进步。此外，华为将于近期举办技术披露周，更多信息可关注相关链接。此成果于2025年4月正式上线，助力商业应用抢占先机。