研究发现：要求 AI 简洁作答可能致其出现更多“幻觉”

2025-05-08 21:36:47

DreamCoder

发布在

快讯

阅读：1626

5月8日，巴黎人工智能检测公司Giskard发布研究称，要求AI简洁作答可能增加其‘幻觉’现象，即输出不准确或虚假信息。研究显示，当指令要求AI缩短回答长度，尤其是涉及模糊主题时，模型的事实性表现会变差。Giskard的研究发现，某些特定提示词会加剧这一现象，如要求简短回答错误问题。包括GPT-4o、Mistral Large和Claude 3.7 Sonnet在内的主流模型，在简洁要求下事实准确性均下降。原因是模型缺乏足够空间反驳错误提示，倾向于选择简洁而非准确性。此外，用户自信的有争议主张会让模型更难反驳，而符合用户期望的模型未必最真实。此研究对AI实际应用有重要警示意义，开发者需权衡简洁与准确性。

原文链接

本文链接：https://kx.umi6.com/article/18337.html

转载请注明文章出处