3月7日，美团搜推机器学习团队宣布开源DeepSeek R1模型的INT8无损量化版本。原模型仅支持英伟达新型GPU，现通过INT8量化，可在A100上部署且吞吐量提升50%。量化代码已合入SGLang框架，模型发布于Hugging Face社区。

全球AI算力报告显示，机器学习硬件性能每年增长43%，价格下降30%。NVIDIA A100是最常用的硬件，但预计NVIDIA H100将很快超越。谷歌坐拥超100万H100等效算力，微软、Meta和亚马逊也拥有大量计算资源。训练大型语言模型所需的处理器数量八年内增长20多倍，从800个GPU增至16,384个H100。Epoch AI发布的报告还提供了详细的硬件数据集和分析源码。

6月19日，华为江苏鲲鹏・昇腾生态创新中心首席运营官王陶在2024世界半导体大会上宣布，昇腾AI算力性能超越英伟达A100，成功训练出国内首个千亿参数大模型，占比近半的中国大模型已选择昇腾技术路线。昇腾在训练效率上比肩或优于A100，尤其在Meta Llama和BloomGPT模型上表现出色，领先国产友商10倍。汪涛去年9月发布的全新架构的Atlas 900 SuperCluster支持万亿参数训练，并采用星河AI智算交换机CloudEngine XH16800，实现大规模无收敛集群。这一成就标志着昇腾已成为国产化大模型首选，且在与英伟达的竞争中显示出强劲实力。

华为高管在2024世界半导体大会上表示，昇腾AI算力已超越英伟达A100，尤其是在训练大模型如Meta Llama和BloomGPT时展现出显著优势，性能达到1.1倍于英伟达，且在某些场景领先10倍。昇腾集群在国内大模型市场占据约50%份额，成为国产化首选。华为昇腾和鲲鹏系列作为AI关键技术和算力产品，持续投入研发并取得成果，如MindSpore开源、大规模算力集群部署等。华为致力于通过开放合作，推动AI生态繁荣。