近日，牛津、剑桥、帝国理工、多伦多等学术机构的研究成果登上《自然》杂志封面，揭示了AI训练AI技术面临的重大挑战。研究指出，在利用AI生成的数据训练AI模型时，模型会出现“崩溃”现象。这一现象发生在模型迭代过程中，导致模型产出内容逐渐失真，最终输出内容与原始数据分布相去甚远，甚至出现胡言乱语、事实错误及逻辑混乱等问题。研究通过实验验证，AI模型在连续迭代训练中，会逐渐吸收并放大自身生成数据的偏差，最终导致模型性能急剧下滑，难以准确反映真实世界。 该研究进一步指出，这一问题的核心在于AI模型在迭代过程中对自身生成数据的过度依赖，导致模型学习过程中的偏差累积，形成所谓的“模型崩溃”。研究团队提出了几种理论解释，通过分析数学模型，量化了AI模型崩溃的成因，包括统计近似误差、函数表达误差以及函数近似误差。这些理论揭示了AI模型在迭代训练过程中，如何在数据处理和学习过程中逐步偏离原始数据分布，最终导致模型性能的严重退化。 研究强调，AI模型在训练过程中应避免过度依赖自身生成的数据，而是应当结合真实世界的数据，以确保模型的稳定性和可靠性。同时，研究建议采用数据过滤、多样化的数据集以及开发更鲁棒的训练算法等方法，以减轻模型崩溃现象的影响。这一发现对AI领域产生了深远影响，提醒科研人员和开发者在构建AI模型时，需重视数据质量和多样性，以及模型训练策略的优化，以确保AI系统的准确性和实用性。