.png)
近日，AI领域传出大模型‘中毒’事件，表现为输出异常内容，如推荐虚假信息或编造新闻。Anthropic研究显示，仅需250篇恶意文档即可让130亿参数的模型中毒。中毒原因包括训练数据被污染（数据投毒）、运营阶段的对抗样本攻击等。幕后黑手可能是商业利益驱动的广告植入、技术炫耀的个人或网络犯罪团伙。中毒后果严重，可能传播虚假信息、诱导用户决策，甚至威胁公共安全，如自动驾驶误判交通标志。专家建议通过数据审核、对抗训练及行业协作构建防御体系，提升模型免疫力。
原文链接
本文链接：https://kx.umi6.com/article/26995.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "26995")
相关推荐
.png)
换一换
GPT-4o过于谄媚，“赛博舔狗”惹争议
2025-05-01 16:32:29
GPT-5.6刚发布，OpenAI安全主管就跑路了？？
2026-07-13 15:16:01
Meta 开源 LlamaFirewall 防护工具，助力构建安全 AI 智能体
2025-05-09 14:52:36
AI统治人类，需要分几步走？
2024-06-24 23:08:32
OpenAI放弃商业架构计划，软银投资或减50%，奥尔特曼：非营利组织仍掌控一切
2025-05-06 09:48:22
麻省理工学院教授呼吁 AI 公司量化产品失控风险：像首次核试验之前那样
2025-05-12 18:37:32
AI安全引关注 网络安全建设待升级
2026-03-17 08:14:05
纽约州通过 AI 安全强制披露法案：旨在防范重大人员伤亡或财产损失事故
2025-06-14 12:37:23
“AI教父”本吉奥再出山：宣布开发Scientist AI 试图为AI造“护栏”
2025-06-04 16:30:14
刚刚，OpenAI公开o1模型测试方法，人机协作时代！
2024-11-25 11:05:10
AI竟怂恿美国少年杀死自己父母 周鸿祎：人工智能安全问题不亚于核武器
2024-12-22 11:20:52
图灵奖得主Bengio、姚期智等警告：“灾难性结果”随时可能发生，需将AI安全视为全球公共产品
2024-09-19 16:34:16
图灵奖得主Bengio再创业：启动资金就筹集了3000万美元
2025-06-04 17:28:55
782 文章
1005754 浏览
24小时热文
更多
-
2026-09-06 21:14:00 -
2026-09-06 20:12:34
-
2026-09-06 20:10:47
