全球AI算力报告显示，机器学习硬件性能每年增长43%，价格下降30%。NVIDIA A100是最常用的硬件，但预计NVIDIA H100将很快超越。谷歌坐拥超100万H100等效算力，微软、Meta和亚马逊也拥有大量计算资源。训练大型语言模型所需的处理器数量八年内增长20多倍，从800个GPU增至16,384个H100。Epoch AI发布的报告还提供了详细的硬件数据集和分析源码。