标题：AI自产自学：幻觉与崩溃

ChatGPT等聊天机器人的算法能从网络文章、社交媒体帖子及视频字幕中抓取海量文本素材，用于学习并创建类人内容。AI通过分析文本中的复杂模式，生成摘要、文章和其他内容。然而，随着越来越多AI生成的文本被发布上网，算法开始从自身生成的内容中学习，形成自产自学的循环。这可能导致模型输出无意义的结果。

2024年7月，《自然》杂志的一项研究指出，基于AI生成内容训练的模型，在几个训练周期后可能产出毫无意义的信息。杜克大学的艾米丽·温格表示，这可能对模型造成毁灭性影响。尽管研究主要关注文本，但其结论也可能适用于多模态AI模型。

计算机科学家早就意识到这一问题，但不清楚大型AI模型为何崩溃。新研究中，作者团队构建了一个大型语言模型，用维基百科条目训练，并用自身输出的数据集进行微调。结果显示，模型仅需几次迭代就会退化，输出内容变得混乱。

AI崩溃的部分原因在于“遗忘”——逐渐忽视早期训练数据。生成的文本倾向于常见概念，忽略不常见的事物，这可能导致模型偏差。AI生成的文本缺乏多样性和复杂性，尤其在处理少数族裔话题时更为明显。

解决方法包括使用水印技术识别和管理AI生成的数据，以及增加人类提供的训练素材。新研究并未断定模型崩溃迫在眉睫，但仍强调了人类思维在AI发展中不可或缺的作用。