标题：2美元/小时出租H100：GPU泡沫破灭前夜

红杉资本报告称，AI产业的年产值需超过6000亿美元才能覆盖数据中心和加速GPU卡等AI基础设施费用。然而，基础模型训练的资本支出迅速贬值，GPU基础设施支出的评估仍不确定。近期，NVIDIA的新一代Blackwell芯片已交付给OpenAI，而AMD也推出了MI325X，AI推理芯片公司Cerebras则递交了IPO申请。

随着数十亿美元投向AI基础设施，这会促进AI上层的繁荣还是引发泡沫？本文作者EugeneCheah深入分析了H100市场，指出市场上的H100算力已供过于求。由于预留计算资源的转售、开放模型的微调以及基础模型公司的减少，H100的租赁价格从最高8美元/小时降至2美元/小时以下，建议用户在需要时租用而非购买算力。

AI竞赛始于2022年11月30日，基于A100 GPU训练的GPT3.5与ChatGPT迅速吸引了全球关注。2023年3月21日，H100快速跟进。高昂的H100价格促使AI公司竞相投资，以争夺市场份额。2023年末，H100的租赁价格高达8美元/小时，但在2024年初降至2.85美元/小时，至2024年8月，最低租赁价格降至1～2美元/小时。

H100的投资回报率受市场价波动影响显著。在2.85美元/小时的租赁价格下，按需租赁的内部收益率（IRR）超过股市，但低于2.85美元/小时则低于股市。若价格降至1.65美元/小时以下，基础设施提供商将面临亏损风险。

许多基础设施提供商在2023年推动3-5年的长期租赁，以锁定利润。然而，随着开放权重模型的兴起，小型和中型模型创建者转向微调，导致对H100的需求减少。此外，大型模型创建者自建集群减少了对公共云的需求，延迟交付的算力供应上线，以及更便宜的GPU替代品的出现，加剧了H100供需失衡。

开放权重模型的兴起促进了AI推理和微调需求的增长，但也导致小型和中型模型创建者的市场萎缩。大型模型创建者转向自建集群，减少对公共云的依赖，进一步影响了H100的需求。

H100价格下降将加速开放权重AI的采用。但投资者需谨慎，新H100集群可能无利可图。建议投资其他领域或股票市场以获得更高回报。

结论：除非有特殊需求，否则购买全新H100可能亏损。