官方提醒警惕AI“数据投毒” 0.01%虚假训练文本可致有害内容增加11.2%

2025-08-05 08:14:46

电子诗篇

发布在

快讯

阅读：1375

8月5日，国家安全部发文警示AI训练数据污染问题，指出虚假信息、偏见内容等‘数据投毒’行为对人工智能安全构成新威胁。研究表明，训练数据中仅含0.01%虚假文本，AI输出有害内容将增加11.2%，而0.001%的污染也会导致7.2%的有害输出上升。受污染数据可能通过‘污染遗留效应’影响后续模型训练，尤其在金融、公共安全、医疗健康等领域，风险更为显著。例如，虚假信息可能引发金融市场波动、误导舆论或危及患者安全。当前，AI生成内容已远超人类真实内容，低质量数据的累积正逐代扭曲AI认知能力。

原文链接

本文链接：https://kx.umi6.com/article/23002.html

转载请注明文章出处

人工智能安全