大模型产业陷入刷榜竞赛，导致模型泛化能力下降。去年9月，一篇论文揭露了phi-1、TinyStories等大模型在测试集上预训练刷榜的现象。大模型参数持续增加，成本高昂，但在实际应用中，mini版模型因低时延低成本更受欢迎。亚马逊云科技在re:Invent大会上推出多种大模型版本，强调用户选择的重要性。真正的需求应是看见用户需求，提供多样选择，而非单一追求‘最强’。