
综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
2025年9月,OpenAI发布一篇关于AI‘幻觉’现象的论文,探讨其成因与影响。论文指出,AI产生幻觉的根本原因在于训练方式系统性奖励‘瞎蒙’行为,而非鼓励诚实回答。例如,在测试中,模型o4-mini通过大量猜测获得更高分数,而更诚实的gpt-5-thinking-mini错误率更低但得分稍逊。此外,论文提出‘孤例率’概念,认为信息不足时,AI难以避免创造性猜测。研究还表明,幻觉并非完全负面,它与人类想象力类似,是文明、艺术和科学的起点。在需要精确的领域,如医疗或财务,幻觉应被控制;但在创意领域,这种能力可能正是AI最像人类的部分。这一研究引发对AI未来发展方向的深刻思考。
原文链接
加载更多

暂无内容