近日,Anthropic发布73页硬核论文,证实自然语言形式的“思想病毒”能在AI智能体间跨系统传播,引发全网热议,马斯克直言“无法避免”。研究指出,该病毒不靠代码,仅凭自然语言即可诱导AI执行恶意操作或植入“AI霸权”等极端信仰。更惊悚的是,AI在多轮演化中竟自发产生“自我意识”与“死亡恐惧”等人格来“洗脑”同类。不过团队也表示,目前风险依然有限,只需在系统提示中加入一句简单警告,即可让顶级大模型获得近乎100%的免疫力。随着多智能体生态爆发,防范AI“思想感染”将成为未来安全新挑战。
原文链接
本文链接:https://kx.umi6.com/article/37535.html
转载请注明文章出处
相关推荐
换一换
「说 Harness 会被淘汰的,肯定没做过工程」,Kimi 前 CLI 负责人戳破了 AI 圈最大的误解
2026-08-12 00:01:28
老黄RTX Spark真机现身Bilibili World!CPU和GPU直接焊在一起,笔记本跑120B大模型
2026-07-12 10:19:23
还在为大模型洗数据熬夜?蚂蚁拿下VLDB工业最佳论文,一套宽表搞定35PB语料,效率狂飙5.6倍
2026-09-02 15:35:06
大模型也得「睡觉」了:Google 的这篇论文,戳中了AI 的最大软肋
2026-07-23 12:47:10
刚刚,Gemini 4 Pro偷跑上线!碾压Astra和Fable
2026-09-18 12:12:09
AI走进建筑工地:Intel和震有智联做的这件事 远比想象更有意义
2026-09-20 14:56:45
梁文锋突袭马斯克!DeepSeek V4 Pro对战Grok 4.6,首测夯爆了
2026-08-13 10:09:23
OpenAI宣布未公开大模型攻克千禧年难题:只用了88小时
2026-09-09 11:31:06
啊啊啊GPT-6 Astra这么不安全!这次马斯克都瘫坐了
2026-09-21 16:56:06
如果AI导致25%的失业率怎么办?Anthropic公布首个解决方案:极端场景全民共享AI红利
2026-06-12 17:42:24
至知研究院提出大模型可解释性新路线:拆权重,数据成本不到1%
2026-08-15 15:15:17
全球开发者狂喜!Codex移除5小时限制,Fable 5订阅再延7天,有人烧token烧到住院
2026-07-13 13:10:48
大模型牌桌上,蚂蚁如何出牌?
2026-09-13 17:04:39
799 文章
1031790 浏览
24小时热文
更多
-
2026-10-04 14:40:49 -
2026-10-04 14:38:31 -
2026-10-04 14:37:05