2026年2月23日，关于AI‘诚恳认错，坚决不改’的现象引发讨论。大语言模型常因‘幻觉’问题生成看似合理但与事实不符的内容，例如编造虚假信息或错误回答。其根源在于训练数据中存在错误、偏见及过时信息，同时模型基于概率预测词汇组合，而非核查事实。开发者虽通过反馈优化，但彻底消除幻觉仍难实现，因其设计目标为通用对话，而非专业问答。若错误信息被重新纳入训练数据，可能形成恶性循环。专家提醒，用户应理性使用AI，视其为助手而非权威信源，对AI回答保持怀疑态度尤为重要。

纽约大学研究显示，训练数据中仅含0.001%的错误信息就可“毒害”医学AI模型。研究团队在常用于LLM训练的“The Pile”数据库中植入错误信息，发现即使仅替换0.5%-1%的相关信息，模型生成错误答案的概率也会显著增加。研究指出，制药公司只需发布几份针对性文件，就能影响模型对药物的认知。错误信息比例降至0.001%时，仍有超7%的答案有害。研究还发现，现有医学数据库中也存在错误信息问题，即使依赖优质医学数据库也无法完全避免。

谷歌在I/O开发者大会后推出的AI概览功能因出现离谱答案而面临紧急修复。自5月中旬上线以来，该功能本应在搜索结果中提供AI整理的摘要，但社交媒体上曝光的愚蠢、危险甚至有害的搜索结果引发关注。谷歌已承认问题并实施技术改进，增加了对特定查询的准确性限制。然而，尽管进行了测试，AI概览仍存在问题，可能导致权威信息缺失。AI专家担忧过度依赖AI可能传播偏见和错误信息，华盛顿大学教授Chirag Shah强调信息检索的准确性和责任。谷歌表示，AI概览偶尔出错源于误解和信息不足，但这一挑战凸显了搜索引擎核心业务的严谨要求。