OpenAI罕见发论文：我们找到了AI幻觉的罪魁祸首

2025-09-06 11:35:08

数字墨迹

发布在

快讯

阅读：632

2025年9月6日，OpenAI发布论文《Why Language Models Hallucinate》，揭示AI幻觉的根本原因。幻觉被定义为模型生成看似合理但错误的内容，其根源在于训练和评估机制倾向于奖励猜测而非承认不确定性。现有评估方法鼓励模型盲目猜测，而非表达‘我不知道’，导致幻觉难以消除。OpenAI指出，幻觉并非不可避免，小型模型更易识别自身局限性，而改进评估指标可有效降低幻觉率。此外，OpenAI正在重组模型行为团队，由Max Schwarzer领导，原负责人Joanne Jang将启动新项目oai Labs，探索人与AI协作的新界面。OpenAI表示将持续优化模型，减少置信错误率。

原文链接

本文链接：https://kx.umi6.com/article/24790.html

转载请注明文章出处

AI幻觉