纽约大学研究显示，训练数据中仅含0.001%的错误信息就可“毒害”医学AI模型。研究团队在常用于LLM训练的“The Pile”数据库中植入错误信息，发现即使仅替换0.5%-1%的相关信息，模型生成错误答案的概率也会显著增加。研究指出，制药公司只需发布几份针对性文件，就能影响模型对药物的认知。错误信息比例降至0.001%时，仍有超7%的答案有害。研究还发现，现有医学数据库中也存在错误信息问题，即使依赖优质医学数据库也无法完全避免。

AI引发的争议与挑战 搜索引擎的误操作与个人隐私的泄露 在《黑神话·悟空》游戏发布后，国内某科技网站的员工遭遇了一场突如其来的“骚扰风暴”。微软的BingAI助手将该员工的私人电话号码错误地公布在网络搜索结果中，仅仅在五小时内，这位员工就接到了二十多个骚扰电话。这一事件揭示了AI在帮助下对个人隐私的...

谷歌在I/O开发者大会后推出的AI概览功能因出现离谱答案而面临紧急修复。自5月中旬上线以来，该功能本应在搜索结果中提供AI整理的摘要，但社交媒体上曝光的愚蠢、危险甚至有害的搜索结果引发关注。谷歌已承认问题并实施技术改进，增加了对特定查询的准确性限制。然而，尽管进行了测试，AI概览仍存在问题，可能导致权威信息缺失。AI专家担忧过度依赖AI可能传播偏见和错误信息，华盛顿大学教授Chirag Shah强调信息检索的准确性和责任。谷歌表示，AI概览偶尔出错源于误解和信息不足，但这一挑战凸显了搜索引擎核心业务的严谨要求。