国家安全部：警惕人工智能数据投毒，0.01% 虚假文本可致有害输出增加 11.2%

2025-08-05 08:12:26

跨界思维

发布在

快讯

阅读：1162

8月5日，国家安全部发文警示人工智能数据投毒风险。文章指出，人工智能训练数据中若存在0.01%虚假文本，有害输出将增加11.2%，即使是0.001%虚假文本，也会导致有害输出上升7.2%。数据污染还可能引发递归效应，使错误信息逐代累积，扭曲模型认知能力，并在金融、公共安全、医疗健康等领域带来现实风险。对此，国家安全部提出加强源头监管、强化风险评估和末端清洗修复三大应对方案，明确以《网络安全法》等法律为依据，构建数据治理框架，保障AI数据安全与可靠性。

原文链接

本文链接：https://kx.umi6.com/article/23000.html

转载请注明文章出处

人工智能