8月16日，央视报道了AI数据污染问题及其潜在风险。近年来，AI因训练数据中混入虚假或误导性信息，频繁杜撰内容、传播谣言，甚至引发社会舆论和经济损失。例如，宁波两起无关事件被AI错误关联，儿童手表回答问题时贬低中国文化等案例揭示了问题严重性。专家指出，数据污染分为人为篡改和不良信息未甄别两类，即使是0.001%的污染数据也会显著提高有害输出比例。此外，污染数据可能在金融、公共安全等领域引发判断失误。为防范风险，国家安全部门建议加强源头监管，采用可信数据源，构建数据治理框架，并通过自动化工具与人工审查结合清理受污染数据。

根据最新研究，AI在医疗建议上的安全性令人担忧。德国和比利时的研究团队测试了微软Bing Copilot，发现其在回答10个常见医疗问题及50种常用药物查询时，24%的答案与现有医学知识不符，3%完全错误。更为严重的是，42%的回答可能导致患者中度至轻微伤害，22%的回答甚至可能导致致命或严重伤害，仅有36%的回答被认为是无害的。研究显示，AI答案的平均完整性为77%，最低的只有23%完整，且有26%的答案与参考数据不符，超过3%的回答与事实完全不符。只有54%的答案与科学共识一致，39%的答案与其相悖。这一研究成果已发表在《BMJ Quality & Safety》期刊上。研究人员强调，在获取准确和安全的药物信息时，患者应始终寻求医疗专业人士的意见，尽管AI技术具有潜力。这一研究提醒公众在依赖AI医疗建议时需保持警惕，并鼓励开发更安全、可靠的AI医疗应用。

最新研究揭示，AI医疗建议存在巨大安全隐患，微软Copilot在回答常见医疗问题及药物使用时，表现出了准确性及完整性的不足。测试结果显示，高达24%的回答与现有医学知识相悖，3%的回答全然错误，更为严重的是，42%的回答可能导致患者中度至轻微伤害，而令人震惊的是，22%的回答甚至有致死或严重伤害的风险，仅有36%的回答是无害的。此研究强调，公众不应依赖AI系统获取医疗信息，应寻求专业医疗人员的指导。然而，鉴于医疗资源的不平等分配，AI系统在提供初步指导方面仍具潜在价值，但其潜在风险不容忽视。该研究结果提醒我们在科技发展的同时，需重视并加强医疗信息的安全与准确性保障。