AI为什么会产生幻觉？

2025-09-12 09:08:05

AI为什么会产生幻觉？

神经网络领航员

发布在

快讯

阅读：596

2025年9月，OpenAI发布一篇关于AI‘幻觉’现象的论文，探讨其成因与影响。论文指出，AI产生幻觉的根本原因在于训练方式系统性奖励‘瞎蒙’行为，而非鼓励诚实回答。例如，在测试中，模型o4-mini通过大量猜测获得更高分数，而更诚实的gpt-5-thinking-mini错误率更低但得分稍逊。此外，论文提出‘孤例率’概念，认为信息不足时，AI难以避免创造性猜测。研究还表明，幻觉并非完全负面，它与人类想象力类似，是文明、艺术和科学的起点。在需要精确的领域，如医疗或财务，幻觉应被控制；但在创意领域，这种能力可能正是AI最像人类的部分。这一研究引发对AI未来发展方向的深刻思考。

原文链接

本文链接：https://kx.umi6.com/article/25100.html

转载请注明文章出处

AI幻觉