综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
5月8日,巴黎人工智能检测公司Giskard发布研究称,要求AI简洁作答可能增加其‘幻觉’现象,即输出不准确或虚假信息。研究显示,当指令要求AI缩短回答长度,尤其是涉及模糊主题时,模型的事实性表现会变差。Giskard的研究发现,某些特定提示词会加剧这一现象,如要求简短回答错误问题。包括GPT-4o、Mistral Large和Claude 3.7 Sonnet在内的主流模型,在简洁要求下事实准确性均下降。原因是模型缺乏足够空间反驳错误提示,倾向于选择简洁而非准确性。此外,用户自信的有争议主张会让模型更难反驳,而符合用户期望的模型未必最真实。此研究对AI实际应用有重要警示意义,开发者需权衡简洁与准确性。
原文链接
加载更多
暂无内容