牛津大学研究人员在《自然》杂志上揭示了一种新方法，利用语义熵识别聊天机器人（如ChatGPT）的“幻觉”问题。他们通过分析AI在处理多义词时的困惑，判断输出内容的真实性。这项无需额外监督的创新技术有助于提高用户对LLM的信任，并能在面对新任务时依然有效。研究团队强调，尽管有了这种工具，用户仍需谨慎核查AI的回答，因为即使是先进的检测手段，LLM也非完美无误。6月24日的最新研究成果提醒我们在享受AI便捷的同时，保持理性质疑。

牛津大学的研究团队提出了创新方法，无需人工监督或特定领域知识，旨在快速检测大语言模型（LLM）的幻觉，以降低其在法律、医学等专业领域可能出现的误导风险。研究通过量化LLM生成内容对源信息的忠实度，改进问答准确性，并已在Nature杂志上发表。该方法在识别虚构内容和评估语义不确定性方面展现出优越性能，尤其是在问答和传记领域。尽管如此，该方法尚不能应对所有类型的幻觉，如训练数据错误或模型设计缺陷。未来，研究人员计划扩展应用并结合其他技术提升LLM的可信度，提醒我们在享受AI便利的同时，保持审慎和对其局限性的理解。