标题：普林斯顿刘壮访谈：数据才是AI进步的关键

普林斯顿大学助理教授刘壮在最新访谈中分享了他对AI发展的见解。他指出，架构的选择并不如想象中重要，真正推动AI进步的是数据规模和计算能力。

刘壮提到，只要把残差连接、自注意力、归一化层等基础组件做对，无论是ConvNet还是Transformer，最终性能都会趋于一致。过去十年的AI突破更多依赖于数据和算力的提升，而非架构创新。

他还强调，当前的数据集远没有达到真正的多样性。实验表明，即便是号称“多样化”的大型数据集，在模型眼中仍然泾渭分明，距离“无偏的全球分布”还很遥远。

关于大语言模型，刘壮认为它们在语言空间内已具备世界模型，但在视觉领域仍显不足。这是因为视觉数据的信息密度太高，现有算力难以处理。不过，对于超过一半的工作场景（如数字化白领工作），视觉世界模型并非必需。

谈及AI的记忆问题，刘壮表示，当前模型的最大瓶颈是缺乏稳定的长期记忆。智能体协作的需求正源于单一智能体无法记住所有信息。此外，尽管AI在低层次任务上表现出色，但在高层次的研究设计和方向感上仍有欠缺，因此AI尚无法替代研究生或研究人员。

最后，刘壮指出，许多被奉为圭臬的AI理念其实是历史偶然的结果。真正决定AI成败的往往是更基础的因素——数据、规模和记忆。未来的研究应更加关注这些核心要素。