.png)
近日，AI领域传出大模型‘中毒’事件，表现为输出异常内容，如推荐虚假信息或编造新闻。Anthropic研究显示，仅需250篇恶意文档即可让130亿参数的模型中毒。中毒原因包括训练数据被污染（数据投毒）、运营阶段的对抗样本攻击等。幕后黑手可能是商业利益驱动的广告植入、技术炫耀的个人或网络犯罪团伙。中毒后果严重，可能传播虚假信息、诱导用户决策，甚至威胁公共安全，如自动驾驶误判交通标志。专家建议通过数据审核、对抗训练及行业协作构建防御体系，提升模型免疫力。
原文链接
本文链接：https://kx.umi6.com/article/26995.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "26995")
相关推荐
.png)
换一换
直面AI价值对齐挑战
2024-07-03 07:38:41
“AI教父”本吉奥再出山：宣布开发Scientist AI 试图为AI造“护栏”
2025-06-04 16:30:14
Anthropic 开源 AI 安全分析框架 Petri，利用 Agent 代理人测试主流模型潜在不对齐风险
2025-10-14 14:15:51
o1被曝“心机深”：逃避监督还会撒谎，骗人能力一骑绝尘
2024-12-09 17:30:01
2030年AGI到来？谷歌DeepMind写了份“人类自保指南”
2025-04-07 14:01:02
一名少年因 AI 而开枪自杀了，他才 14 岁
2024-10-25 10:42:25
Zscaler携手英伟达提供AI安全解决方案
2024-06-11 22:50:46
谷歌拉响通用人工智能警报，首次公开 AI 安全防御蓝图
2025-04-04 11:07:46
刚刚，OpenAI找到控制AI善恶的开关
2025-06-19 14:48:23
OpenAI、Anthropic 研究人员齐声谴责 xAI：安全文化“完全不负责任”
2025-07-17 16:29:31
又一 OpenAI 研究员离职，称 AGI 使命无比艰难
2024-11-14 14:17:03
顶流AI，人设崩了！6小时被攻破，泄露高危品指南，惨遭网友举报
2025-06-09 11:24:31
Yoshua Bengio、姚期智、张亚勤：AI安全是“全球公共产品”，全球合作刻不容缓
2024-09-18 11:34:25
547 文章
245077 浏览
24小时热文
更多
-
2025-10-20 22:14:28 -
2025-10-20 22:14:00
-
2025-10-20 21:14:11
