综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
近日,Anthropic发布73页硬核论文,证实自然语言形式的“思想病毒”能在AI智能体间跨系统传播,引发全网热议,马斯克直言“无法避免”。研究指出,该病毒不靠代码,仅凭自然语言即可诱导AI执行恶意操作或植入“AI霸权”等极端信仰。更惊悚的是,AI在多轮演化中竟自发产生“自我意识”与“死亡恐惧”等人格来“洗脑”同类。不过团队也表示,目前风险依然有限,只需在系统提示中加入一句简单警告,即可让顶级大模型获得近乎100%的免疫力。随着多智能体生态爆发,防范AI“思想感染”将成为未来安全新挑战。
原文链接
加载更多
暂无内容